日本語
ホームに戻る

復興期

1990年代～2010年代 · 深層学習の台頭

1990年代半ば、計算能力の向上とインターネットの普及に伴い、機械学習、特に深層学習が台頭し始めました。この時期の人工知能の発展は「統計革命」と呼ぶことができます。すなわち、ルールベースのシステムから、確率的でデータ駆動型のモデルへの転換です。

2012年、深層学習はImageNetコンペティションで圧勝し、深層学習革命の幕開けを告げました。2016年には、AlphaGoが李世ドルに勝利し、人工知能は広く一般に認知されるようになりました。

重要なマイルストーン

統計的手法の台頭

統計的手法が人工知能研究を席巻し始めました。隠れマルコフモデルが音声認識に応用されました。

編集上の解釈 出典： ACL Anthology 最終確認：

ワールドワイドウェブの誕生

ティム・バーナーズ＝リーがワールドワイドウェブを創設しました。

検証済み 出典： CERN 最終確認：

サポートベクターマシン

ウラジーミル・ヴァプニクらがサポートベクターマシンを提案しました。

ウラジーミル・ヴァプニク

検証済み 出典： Machine Learning / Springer 最終確認：

長短期記憶ネットワーク

ゼップ・ホッホライターとユルゲン・シュミットフーバーがLSTMを提案しました。

ゼップ・ホッホライター＆ユルゲン・シュミットフーバー

検証済み 出典： Neural ComputationNeural Computation / PubMed 最終確認：

LeNet-5

ヤン・ルカンが手書き数字認識のための畳み込みニューラルネットワークであるLeNet-5を開発しました。LeNet-5は大規模に商用展開された最初期の深層学習モデルの一つで、1993年からAT&T/NCRの小切手読み取りに、1990年代後半からは米国郵政公社の郵便番号認識に使われました。

ヤン・ルカン

検証済み 出典： Proceedings of the IEEE 最終確認：

ニューラル確率言語モデル

Yoshua Bengio、Réjean Ducharme、Pascal Vincent、Christian Jauvinは、単語の分散表現と単語列の確率を同時に学習して次元の呪いに対処するニューラル確率言語モデルを提案した。これは前向きネットワークであり、RNNではない。

ヨシュア・ベンジオ

検証済み 出典： Journal of Machine Learning Research 最終確認：

CIFARニューラル計算プログラム

2004年からCIFARのプログラムはGeoffrey Hinton、Yann LeCun、Yoshua Bengioらの定期的な研究交流を支えました。深層学習復興につながる協力を促しましたが、単一の普遍的な出発点ではありません。

ジェフリー・ヒントン

編集上の解釈 出典： University of Toronto 最終確認：

深層信念ネットワーク

ジェフリー・ヒントンらは深層信念ネットワーク（DBN）を提案し、それを1層ずつ学習させる高速な貪欲アルゴリズムを示した。この層ごとの事前学習は、深層ニューラルネットワークへの関心を再びかき立てる一因となった。

ジェフリー・ヒントン

検証済み 出典： Neural Computation 最終確認：

GPUの深層学習への応用

研究者たちが深層学習の訓練を高速化するためにGPUを使い始めました。

編集上の解釈 出典： ICML / ACM 最終確認：

ImageNetデータセット

ImageNetチームは2009年、WordNet階層で大規模なラベル付き画像を整理するデータベース論文を発表した。ImageNetとその後の認識チャレンジは、大規模なコンピュータビジョン学習と評価の重要基盤となった。

李飛飛

検証済み 出典： CVPR 最終確認：

音声認識の突破

Microsoft Researchとトロント大学が、音声認識における深層学習の最初の大きな突破口を開き（Dahl、Yu、Deng 2011；Mohamed、Dahl、Hinton 2012）、単語誤り率を大きく下げました。Googleは2012～2015年にかけて、DNN/LSTMに基づく音声認識を製品に導入しました。

検証済み 出典： Microsoft Research 最終確認：

ImageNetの突破

アレックス・クリジェフスキー、イリヤ・サツケバー、ジェフリー・ヒントンのチームはAlexNetで2012年のImageNetコンペティション（ILSVRC）に参加し、圧勝した。top-5誤り率は15.3%で、2位は26.2%だった。

AlexNetチーム

検証済み 出典： NeurIPS 最終確認：

Word2Vec

トマス・ミコロフがWord2Vecを公開しました。

トマス・ミコロフ

検証済み 出典： Google / arXiv 最終確認：

生成敵対ネットワーク

イアン・グッドフェローがGANを提案しました。

イアン・グッドフェロー

検証済み 出典： arXiv 最終確認：

ResNet

何愷明らが残差ネットワークを提案しました。

何愷明

検証済み 出典： Microsoft Research / arXiv 最終確認：

AlphaGoが李世ドルを破る

AlphaGoが五番勝負で李世ドルを破りました。

ディープマインドAlphaGo

検証済み 出典： Google DeepMindNature 最終確認：

トランスフォーマー

グーグルがトランスフォーマー・アーキテクチャを提案しました。

グーグルブレイン

検証済み 出典： Google / arXiv 最終確認：

重要な人物

ジェフリー・ヒントン

深層学習の父

ヒントンは2018年にチューリング賞を受賞し、「深層学習の三巨頭」と称されています。

ヤン・ルカン

CNNの父

ルカンは2013年にFacebookに加わってAI研究所FAIRの初代所長を務め、その後MetaのチーフAIサイエンティストとなり、2025年末に同社を離れて自らの会社を設立しました。LeNet-5は大規模に商用展開された最初期の深層学習モデルの一つです。CNNへの貢献は現代のコンピュータビジョンの基礎を築きました。

ヨシュア・ベンジオ

深層学習の先駆者

ベンジオはモントリオール大学の教授で、RNNとNLPにおける貢献が重要です。

イアン・グッドフェロー

GANの父

グッドフェローは2014年にGANを提案しました。

李飛飛

ImageNetの母

李飛飛はスタンフォード大学の教授です。ImageNetデータセットはコンピュータビジョンに深い影響を与えました。

名言・格言

ディープラーニングは、複数の処理層で構成された計算モデルが、複数の抽象化レベルのデータ表現を学習することを可能にする。

— ヤン・ルカン、ヨシュア・ベンジオ、ジェフリー・ヒントン

Deep learning · Nature 521 (7553), 2015, 436–444

知能がケーキだとすれば、ケーキの大部分は教師なし学習で、ケーキの上のアイシングは教師あり学習、ケーキに載ったチェリーは強化学習（RL）である。

— ヤン・ルカン

Predictive Learning · NIPS 2016, Posner Lecture · Synced

第一段階は知能を解き明かすこと、第二段階はそれを使ってほかのすべてを解決すること。……知能を解き明かすとは、AGIを作るという意味でした。

— デミス・ハサビス

Demis Hassabis Thinks We’re in the ‘Foothills of the Singularity’ · Stanford Graduate School of Business, 2026

完全なタイムラインを見る