한국어
← 홈으로 돌아가기
🌅

부활의 시대

1990년대~2010년대 · 딥러닝의 부상

1990년대 중반, 컴퓨팅 성능의 향상과 인터넷의 보급에 따라 머신러닝, 특히 딥러닝이 부상하기 시작했다. 이 시기의 인공지능 발전은 '통계 혁명'이라고 할 수 있다. 즉, 규칙 기반 시스템에서 확률적이며 데이터 기반의 모델로의 전환이다.

2012년, 딥러닝은 이미지넷 대회에서 압도적인 승리를 거두며 딥러닝 혁명의 서막을 열었다. 2016년에는 알파고가 이세돌을 꺾으며 인공지능이 널리 대중에게 인식되었다.

주요 이정표

통계적 방법의 부상

통계적 방법이 인공지능 연구를 지배하기 시작했다. 은닉 마르코프 모델이 음성 인식에 적용되었다.

진행 중 출처: ACL Anthology 마지막 검토:

월드와이드웹의 탄생

팀 버너스리가 월드와이드웹을 창설했다.

검증됨 출처: CERN 마지막 검토:

서포트 벡터 머신

블라디미르 바프니크 등이 서포트 벡터 머신을 제안했다.

블라디미르 바프니크

검증됨 출처: Machine Learning / Springer 마지막 검토:

장단기 기억 네트워크

제프 호흐라이터와 위르겐 슈미트후버가 LSTM을 제안했다.

제프 호흐라이터와 위르겐 슈미트후버

검증됨 출처: Neural ComputationNeural Computation / PubMed 마지막 검토:

LeNet-5

얀 르쿤이 손글씨 숫자 인식을 위한 합성곱 신경망인 LeNet-5를 개발했다.

얀 르쿤

검증됨 출처: Proceedings of the IEEE 마지막 검토:

신경 확률 언어 모델

Yoshua Bengio, Réjean Ducharme, Pascal Vincent, Christian Jauvin은 단어의 분산 표현과 단어 시퀀스 확률을 함께 학습해 차원의 저주를 완화하는 신경 확률 언어 모델을 제안했다. 이 모델은 순환 신경망이 아니라 피드포워드 신경망이다.

요슈아 벤지오

검증됨 출처: Journal of Machine Learning Research 마지막 검토:

CIFAR 신경 계산 프로그램

2004년부터 CIFAR 프로그램은 Geoffrey Hinton, Yann LeCun, Yoshua Bengio와 협력자들의 정기적인 연구 교류를 지원했다. 딥러닝 부흥에 기여한 협업을 촉진했지만 하나의 보편적 출발점은 아니다.

제프리 힌턴

진행 중 출처: University of Toronto 마지막 검토:

심층 신뢰 네트워크

제프리 힌턴이 심층 신뢰 네트워크를 제안했다.

제프리 힌턴

검증됨 출처: Neural Computation 마지막 검토:

딥러닝을 위한 GPU

연구자들이 딥러닝 훈련을 가속화하기 위해 GPU를 사용하기 시작했다.

진행 중 출처: ICML / ACM 마지막 검토:

이미지넷 데이터셋

ImageNet 팀은 2009년 WordNet 계층으로 대규모 주석 이미지를 구성한 데이터베이스 논문을 발표했다. 이후 ImageNet과 인식 챌린지는 대규모 컴퓨터 비전 학습과 평가의 핵심 인프라가 되었다.

리 페이페이

검증됨 출처: CVPR 마지막 검토:

음성 인식의 돌파구

구글이 딥러닝 모델을 사용하여 음성 인식 오류율을 25% 줄였다.

검증됨 출처: Microsoft Research 마지막 검토:

이미지넷 돌파구

AlexNet 팀이 이미지넷 대회에서 압도적인 우위로 우승했다.

AlexNet 팀

검증됨 출처: NeurIPS 마지막 검토:

워드투벡

토마스 미콜로프가 워드투벡을 공개했다.

토마스 미콜로프

검증됨 출처: Google / arXiv 마지막 검토:

생성적 적대 신경망

이안 굿펠로우가 GAN을 제안했다.

이안 굿펠로우

검증됨 출처: arXiv 마지막 검토:

ResNet

허카이밍 등이 잔차 네트워크를 제안했다.

허카이밍

검증됨 출처: Microsoft Research / arXiv 마지막 검토:

알파고가 이세돌을 꺾다

알파고가 이세돌을 꺾었다.

딥마인드 알파고

검증됨 출처: Nature 마지막 검토:

트랜스포머 아키텍처

구글이 트랜스포머 아키텍처를 제안했다.

구글 브레인

검증됨 출처: Google / arXiv 마지막 검토:

주요 인물

제프리 힌턴

딥러닝의 아버지

힌턴은 2018년에 튜링상을 수상했으며, 딥러닝의 삼거두로 불린다.

얀 르쿤

합성곱 신경망의 아버지

르쿤은 페이스북 인공지능 연구소의 수석 과학자이다.

요슈아 벤지오

딥러닝의 선구자

벤지오는 몬트리올 대학교 교수이자 딥러닝 분야의 중요 인물이다.

이안 굿펠로우

GAN의 아버지

굿펠로우는 2014년에 GAN을 제안했다.

리 페이페이

이미지넷의 어머니

리 페이페이는 스탠퍼드 대학교 교수이다.

명언

딥러닝은 여러 처리 계층으로 구성된 계산 모델이 여러 수준의 추상화를 가진 데이터 표현을 학습할 수 있도록 한다.

— 제프리 힌턴

만약 지능이 케이크라면, 비지도 학습은 케이크 자체이고, 지도 학습은 케이크 위의 아이싱이며, 강화 학습은 케이크 위의 체리이다. 아이싱과 체리를 만드는 방법은 알지만, 케이크 자체를 만드는 방법은 모릅니다.

— 얀 르쿤

우리의 목표는 범용 인공지능이다.

— 데미스 하사비스

전체 타임라인 보기 →