얀 르쿤(Yann LeCun)

얀 르쿤은 1960년 프랑스 파리 근교의 수아시수몽모랑시에서 태어났습니다. 1980년대 초 컴퓨터가 글씨나 사진 속 물체를 알아보게 하려면, 사람이 먼저 쓸 만한 특징(획의 끝점, 모서리, 고리 모양 같은 것)을 뽑아내는 프로그램을 손으로 짜고, 그 특징들로 분류하는 부분만 학습시키는 것이 보통이었습니다. 르쿤은 특징을 뽑는 부분까지 통째로 자료에서 배우게 할 수 있다고 보았고, 그 방법으로 그림의 구조에 맞춘 신경망⁠(neural network)⁠, 곧 합성곱 신경망을 만들었습니다.

나이 세 ·

파리의 공학 학교 ESIEE에 다니던 그는 스위스 심리학자 장 피아제와 촘스키가 1975년 언어의 습득을 두고 벌인 논쟁을 묶은 책에서, 시모어 패퍼트가 퍼셉트론⁠(perceptron)⁠을 논한 대목을 읽고 학습 기계에 빠졌다고 회고합니다. 그는 1987년 피에르 마리 퀴리 대학에서 여러 층의 신경망을 학습시키는 방법에 관한 논문으로 박사 학위를 받았는데, 그 안에는 역전파와 같은 계열의 학습 규칙이 들어 있었습니다. 같은 해 토론토 대학의 힌턴 연구실에서 박사후 연구원으로 1년을 지낸 뒤, 1988년 벨 연구소 홈델의 적응 시스템 연구부에 들어갔습니다.

합성곱 신경망의 생각은 두 가지입니다. 첫째, 한 단위는 그림 전체가 아니라 작은 조각, 예컨대 5×5 픽셀만 봅니다. 획의 끝이나 모서리 같은 특징은 가까운 픽셀들에서 드러나기 때문입니다. 둘째, 그림의 모든 자리에서 같은 가중치⁠(weight)⁠ 묶음(필터)을 씁니다. 왼쪽 위에서 세로 획을 알아보는 방법과 오른쪽 아래에서 세로 획을 알아보는 방법은 같아야 하기 때문입니다. 필터를 그림 위로 한 칸씩 밀며 조각마다 가중합을 구하는 것이 위의 식이고, 이것이 이름에 붙은 합성곱입니다(엄밀히는 뒤집지 않은 상관이지만 관례로 합성곱⁠(convolution)⁠이라 부릅니다). 1950–60년대 데이비드 휴벨과 토르스텐 비젤이 고양이의 시각 피질에서 찾은 '좁은 영역의 특정 방향 선분에만 반응하는 세포', 그리고 1980년 후쿠시마 구니히코의 네오코그니트론이 이 구조의 선배입니다. 르쿤의 공헌은 이런 구조 전체를 역전파로 끝에서 끝까지 학습시킨 데 있습니다.

가중치 공유⁠(weight sharing)⁠가 얼마나 큰 절약인지 숫자로 보면 분명합니다. 28×28 = 784픽셀의 그림에서 24×24 크기의 특징 지도⁠(feature map)⁠ 여섯 장을 만든다고 합시다. 특징 지도의 단위 3,456개가 저마다 모든 픽셀과 따로 연결되면 가중치가 $784 \times 3456 \approx 270$만 개입니다. 5×5 필터 여섯 개를 공유하면 필터마다 가중치 25개와 편향 하나, 모두 $6 \times 26 = 156$개로 충분합니다. 배울 수가 이렇게 줄면 같은 자료로도 과적합⁠(overfitting)⁠이 훨씬 덜하고, 숫자가 몇 칸 옮겨 가면 특징 지도도 같이 옮겨 가므로 위치가 조금 달라도 같은 특징을 알아봅니다. 그 뒤에 이웃한 값들을 하나로 줄이는 풀링⁠(pooling)⁠ 층을 두면 작은 이동에 덜 민감해집니다. 이 제약들은 '그림에서는 가까운 것끼리 관련 있고, 같은 무늬는 어디에 있어도 같은 뜻'이라는 가정을 구조에 박아 넣은 것입니다. 그래서 이 가정이 맞지 않는 자료에서는 장점도 사라집니다.

1989년 그는 미국 우편 서비스의 우편번호 손글씨 숫자를 이 방법으로 읽은 논문을 냈고, 1990년대 동안 구조를 다듬어 1998년 LeNet-5를 발표했습니다. 합성곱과 풀링을 번갈아 쌓은 일곱 층(입력층 제외)에, 학습할 수는 6만 개 남짓이었습니다. 같은 논문과 함께 코리나 코르테스, 크리스토퍼 버지스와 정리한 손글씨 숫자 자료 MNIST(학습용 6만 장, 시험용 1만 장, 28×28 회색조)는 그 뒤 20년 넘게 기계 학습⁠(machine learning)⁠의 표준 연습 문제가 되었습니다. 그가 참여한 수표 인식 시스템은 NCR이 은행에 보급해, 한때 미국에서 처리되는 수표의 10% 넘게를 읽었다고 알려져 있습니다. 1996년 AT&T 연구소의 이미지 처리 연구부를 맡은 뒤에는 레옹 보투, 패트릭 하프너와 함께 스캔한 문서를 작게 압축하는 형식 DjVu를 만들었습니다.

2003년 뉴욕 대학 교수가 된 그는 신경망이 주목받지 못하던 시기에도 연구를 이었고, 힌턴, 벤지오와 함께 캐나다 고등연구원의 신경망 연구 프로그램에 참여했습니다. 2012년 알렉스넷의 성공 뒤 합성곱 신경망은 컴퓨터 시각의 표준이 되었고, 2013년 말 그는 페이스북 AI 연구소를 세워 이끌었습니다. 2018년도 튜링상⁠(Turing Award)⁠을 힌턴, 벤지오와 함께 받았고, 2025년에는 힌턴, 벤지오 등 일곱 명의 공동 수상자 가운데 한 사람으로 퀸 엘리자베스 공학상을 받았습니다. 2025년 11월 그는 메타를 떠나, 세계가 어떻게 움직이는지를 배우는 '세계 모형'을 연구하는 회사를 세운다고 발표했습니다.

그는 오늘날의 언어 모델⁠(language model)⁠을 두고 분명한 입장을 밝혀 왔습니다. 다음 토큰⁠(token)⁠을 맞히는 방식만으로는 물리 세계를 이해하고 계획을 세우는 지능에 이르지 못하며, 사람과 동물처럼 관찰에서 세계의 모형을 스스로 배우는 자기 지도 학습⁠(supervised learning)⁠이 필요하다는 것입니다. 이것은 그의 연구 방향에 대한 주장이고, 어느 쪽이 맞는지는 아직 실험이 가리는 중입니다. 인공지능⁠(artificial intelligence)⁠의 위험에 대해서도 그는 힌턴, 벤지오보다 훨씬 낙관적인 쪽에 서서 공개적으로 논쟁해 왔습니다.

이어지는 곳. 필터를 밀며 가중합을 구하는 계산과 그것을 층으로 쌓는 구조는 합성곱 신경망에서 직접 해 볼 수 있고, 그 학습의 바탕은 역전파, 경사 하강법⁠(gradient descent)⁠, 확률적 경사 하강법⁠(stochastic gradient descent)⁠입니다. 필터의 가중합은 내적⁠(dot product)⁠이고, 마지막 층의 열 가지 숫자 확률⁠(probability)⁠은 소프트맥스⁠(softmax)⁠로 냅니다. 같은 자료에서 겨룬 다른 방법은 서포트 벡터 머신⁠(support vector machine)⁠과 최근접 이웃⁠(nearest neighbor)⁠에 있습니다. 한 층짜리 조상은 퍼셉트론이고, 그의 스승 힌턴과 동료 벤지오의 페이지에서 같은 이야기를 다른 쪽에서 볼 수 있습니다.

관계.

• 스승 제프리 힌턴 — 1987–88년 토론토 대학에서 힌턴의 박사후 연구원으로 지냈고, 세 사람은 2018년도 튜링상을 함께 받았습니다.
• 영향을 받음 프랭크 로젠블랫 — 공학도 시절 피아제와 촘스키의 1975년 논쟁을 담은 책에서 패퍼트가 퍼셉트론을 논한 대목을 읽고 학습 기계에 빠졌다고 회고했습니다.
• 함께 연구 블라디미르 바프니크 — 1990년대 벨 연구소 홈델의 같은 연구부에서 일했고, 1998년 논문은 합성곱 신경망과 서포트 벡터 머신을 같은 손글씨 숫자 자료에서 비교했습니다.
• 함께 연구 요슈아 벤지오 — 벤지오가 1992–93년 벨 연구소에 머문 뒤로 함께 연구했고, 1998년 LeNet-5 논문을 레옹 보투, 패트릭 하프너와 함께 썼습니다.

연표.

• 1983년 파리의 공학 학교 ESIEE를 졸업하다
• 1987년 피에르 마리 퀴리 대학에서 박사 학위를 받고, 토론토의 힌턴 연구실로 가다
• 1988년 AT&T 벨 연구소 홈델에 들어가다
• 1989년 역전파로 학습시킨 합성곱 신경망으로 우편번호를 읽은 논문을 내다
• 1996년 AT&T 연구소의 이미지 처리 연구부를 맡아 문서 압축 형식 DjVu를 개발하다
• 1998년 LeNet-5와 MNIST를 담은 논문 「문서 인식에 적용한 기울기⁠(slope)⁠ 기반 학습」을 내다
• 2003년 뉴욕 대학 교수가 되다
• 2013년 페이스북 AI 연구소를 세우고 이끌다
• 2019년 힌턴, 벤지오와 함께 2018년도 튜링상 수상자로 발표되다
• 2025년 퀸 엘리자베스 공학상을 받고, 메타를 떠나 새 연구 회사를 세우다