부활 시대
1990년대~2010년대 · 딥러닝의 부상
1990년대 중반, 컴퓨팅 성능의 향상과 인터넷의 보급에 따라 머신러닝, 특히 딥러닝이 부상하기 시작했다. 이 시기의 인공지능 발전은 “통계 혁명”이라고 할 수 있다. 즉, 규칙 기반 시스템에서 확률적이며 데이터 기반의 모델로의 전환이다.
2012년, 딥러닝은 이미지넷 대회에서 압도적인 승리를 거두며 딥러닝 혁명의 서막을 열었다. 2016년에는 알파고가 이세돌을 꺾으며 인공지능이 널리 대중에게 인식되었다.
주요 이정표
LeNet-5
얀 르쿤이 손글씨 숫자 인식을 위한 합성곱 신경망인 LeNet-5를 개발했다. LeNet-5는 대규모로 상용 배치된 최초의 딥러닝 모델 가운데 하나로, 1993년부터 AT&T와 NCR의 수표 판독에, 1990년대 후반부터는 미국 우정청의 우편번호 인식에 쓰였다.
얀 르쿤
신경 확률 언어 모델
Yoshua Bengio, Réjean Ducharme, Pascal Vincent, Christian Jauvin은 단어의 분산 표현과 단어 시퀀스 확률을 함께 학습해 차원의 저주를 완화하는 신경 확률 언어 모델을 제안했다. 이 모델은 순환 신경망이 아니라 피드포워드 신경망이다.
요슈아 벤지오
CIFAR 신경 계산 프로그램
2004년부터 CIFAR 프로그램은 Geoffrey Hinton, Yann LeCun, Yoshua Bengio와 협력자들의 정기적인 연구 교류를 지원했다. 딥러닝 부흥에 기여한 협업을 촉진했지만 하나의 보편적 출발점은 아니다.
제프리 힌턴
심층 신뢰 네트워크
제프리 힌턴과 동료들은 심층 신뢰 네트워크(DBN)를 제안하고, 이를 한 층씩 학습시키는 빠른 탐욕 알고리즘을 제시했다. 이 층별 사전 학습은 심층 신경망에 대한 관심을 되살리는 데 기여했다.
제프리 힌턴
음성 인식의 돌파구
마이크로소프트 리서치와 토론토 대학교가 음성 인식에서 딥러닝의 첫 번째 주요 돌파구를 열었고(Dahl, Yu, Deng 2011; Mohamed, Dahl, Hinton 2012), 단어 오류율을 크게 낮췄다. 구글은 2012~2015년에 걸쳐 DNN/LSTM 기반 음성 인식을 실제 서비스에 배포했다.
주요 인물
제프리 힌턴
딥러닝의 아버지
힌턴은 2018년에 튜링상을 수상했으며, 딥러닝의 삼거두로 불린다.
얀 르쿤
합성곱 신경망의 아버지
르쿤은 2013년 페이스북에 합류해 인공지능 연구소 FAIR의 초대 소장을 맡았고, 이후 메타의 최고 인공지능 과학자를 지냈으며, 2025년 말 메타를 떠나 직접 회사를 세웠다. 그의 LeNet-5는 대규모로 상용 배치된 최초의 딥러닝 모델 가운데 하나다. 합성곱 신경망에 대한 그의 기여는 현대 컴퓨터 비전의 토대를 놓았다.
요슈아 벤지오
딥러닝의 선구자
벤지오는 몬트리올 대학교 교수이자 딥러닝 분야의 중요 인물이다.
이안 굿펠로우
GAN의 아버지
굿펠로우는 2014년에 GAN을 제안했다.
리 페이페이
이미지넷의 어머니
리 페이페이는 스탠퍼드 대학교 교수이다.
명언
딥러닝은 여러 처리 계층으로 구성된 계산 모델이 여러 수준의 추상화를 가진 데이터 표현을 학습할 수 있도록 한다.
Deep learning · Nature 521 (7553), 2015, 436–444
지능이 케이크라면, 케이크의 대부분은 비지도 학습이고, 케이크 위의 아이싱은 지도 학습이며, 케이크 위의 체리는 강화 학습(RL)이다.
Predictive Learning · NIPS 2016, Posner Lecture · Synced
1단계, 지능을 해결한다. 2단계, 그것으로 나머지 모든 것을 해결한다. … 지능을 해결한다는 건 AGI를 만든다는 뜻이었습니다.
Demis Hassabis Thinks We’re in the ‘Foothills of the Singularity’ · Stanford Graduate School of Business, 2026