Kebangkitan
1990-an–2010-an · Menanjaknya Pembelajaran Mendalam
Pada pertengahan 1990-an, seiring membaiknya daya komputasi dan meluasnya internet, pembelajaran mesin — terutama pembelajaran mendalam — mulai muncul. Masa ini dalam perkembangan AI dapat disebut “revolusi statistis”: pergeseran dari sistem berbasis kaidah menuju model probabilistik yang digerakkan data.
Pada 2012, pembelajaran mendalam memenangi kompetisi ImageNet dengan selisih telak, menandai dimulainya revolusi pembelajaran mendalam. Sejak itu AI mencapai terobosan yang belum pernah ada dalam pengenalan citra, pengenalan wicara, dan pemrosesan bahasa alami. Pada 2016, kemenangan AlphaGo atas Lee Sedol membawa AI ke kesadaran publik dan membuka era baru kecerdasan buatan.
Era ini bercirikan perpaduan data besar, sumber daya komputasi yang kuat, dan algoritme pembelajaran mendalam. Meluasnya internet memungkinkan pengumpulan data dalam jumlah raksasa, sementara perkembangan GPU menyediakan landasan komputasi untuk melatih jaringan saraf besar.
Tonggak Penting
Menanjaknya Metode Statistis
Pada 1990-an, metode statistis mulai mendominasi penelitian AI. Hidden Markov Model (HMM) dalam pengenalan wicara, Naive Bayes dan pohon keputusan dalam pembelajaran mesin, semuanya membuahkan hasil yang baik.
Lahirnya World Wide Web
Tim Berners-Lee menciptakan World Wide Web. Meluasnya internet mengubah cara hidup manusia dan menyediakan sumber data yang belum pernah ada bagi AI.
Mesin Vektor Dukung
Vladimir Vapnik dkk. mengajukan Support Vector Machine (SVM), metode klasifikasi dan regresi yang kuat. SVM membuahkan kinerja sangat baik dalam klasifikasi teks dan pengenalan tulisan tangan.
Vladimir Vapnik
Long Short-Term Memory (LSTM)
Sepp Hochreiter dan Jürgen Schmidhuber mengajukan LSTM, jenis khusus RNN yang mampu mempelajari kebergantungan jangka panjang. LSTM meraih keberhasilan besar dalam pengenalan wicara dan pemodelan bahasa.
Sepp Hochreiter & Jürgen Schmidhuber
LeNet-5
Yann LeCun mengembangkan LeNet-5, sebuah CNN untuk pengenalan angka tulisan tangan. LeNet-5 termasuk model pembelajaran mendalam pertama yang digelar secara komersial dalam skala besar — dipakai AT&T/NCR untuk membaca cek sejak 1993 dan oleh Dinas Pos Amerika Serikat untuk mengenali kode pos sejak akhir 1990-an.
Yann LeCun
Model Bahasa Probabilistik Saraf
Yoshua Bengio, Réjean Ducharme, Pascal Vincent, dan Christian Jauvin mengajukan model bahasa probabilistik saraf yang secara bersama mempelajari representasi kata terdistribusi dan peluang barisan kata untuk mengatasi kutukan dimensionalitas. Modelnya bersifat maju-ke-depan, bukan rekuren.
Yoshua Bengio
Program Komputasi Saraf CIFAR
Mulai 2004, sebuah program CIFAR mempertemukan Geoffrey Hinton, Yann LeCun, Yoshua Bengio, dan para kolaboratornya dalam pertukaran yang teratur. Program itu membantu mengoordinasikan penelitian yang menyumbang pada kebangkitan pembelajaran mendalam; ia bukan satu titik awal yang tunggal dan menyeluruh.
Geoffrey Hinton
Deep Belief Network
Geoffrey Hinton mengajukan Deep Belief Network (DBN), jaringan saraf dalam pertama yang berhasil dilatih. Hinton memperkenalkan “pralatih lapis demi lapis” untuk mengatasi kesulitan pelatihan.
Geoffrey Hinton
GPU untuk Pembelajaran Mendalam
Para peneliti mulai memakai GPU untuk mempercepat pelatihan pembelajaran mendalam. Komputasi paralel GPU memungkinkan pelatihan jaringan saraf besar.
Set Data ImageNet
Tim ImageNet menerbitkan makalah basis data citra hierarkis berskala besarnya pada 2009, yang menata citra berlabel dengan hierarki WordNet. ImageNet dan tantangan pengenalannya di kemudian hari menjadi infrastruktur penting bagi pelatihan dan evaluasi penglihatan komputer berskala besar.
Fei-Fei Li
Terobosan Pengenalan Wicara
Microsoft Research dan Bell Labs merintis terobosan besar pertama pembelajaran mendalam dalam pengenalan wicara (Dahl, Yu, Deng 2011; Mohamed, Dahl, Hinton 2012), dengan penurunan laju galat kata yang berarti. Google menggelar pengenalan wicara berbasis DNN/LSTM dalam produksi sejak 2012–2015.
Terobosan ImageNet
Tim Alex Krizhevsky, Ilya Sutskever, dan Geoffrey Hinton memakai AlexNet dalam kompetisi ImageNet dan menang telak. AlexNet mencapai galat top-5 sebesar 15,3%, mengungguli peringkat kedua ILSVRC 2012 (26,2%) dengan selisih telak.
Tim AlexNet
Word2Vec
Tomas Mikolov merilis Word2Vec, model jaringan saraf untuk mempelajari penyematan kata. Word2Vec memungkinkan komputer memahami hubungan semantis antarkata.
Tomas Mikolov
Generative Adversarial Network (GAN)
Ian Goodfellow mengajukan GAN, salah satu inovasi terpenting dalam pembelajaran mendalam. GAN membangkitkan citra yang teramat nyata melalui pelatihan adversarial.
Ian Goodfellow
ResNet
Kaiming He dkk. mengajukan ResNet, yang mengatasi kesulitan pelatihan jaringan dalam melalui sambungan lompat. ResNet memungkinkan pelatihan jaringan beratus lapis.
Kaiming He
AlphaGo Mengalahkan Lee Sedol
AlphaGo milik DeepMind mengalahkan juara dunia Go Lee Sedol 4-1. Go dipandang sebagai salah satu permainan papan tersukar bagi AI.
DeepMind AlphaGo
Arsitektur Transformer
Google mengajukan arsitektur Transformer, sebuah terobosan revolusioner dalam NLP. Transformer adalah landasan model bahasa besar modern.
Google Brain
Tokoh Penting
Geoffrey Hinton
Bapak Pembelajaran Mendalam
Hinton, bersama Yann LeCun dan Yoshua Bengio, menerima Turing Award pada 2018, dan mereka dikenal sebagai “Trio Pembelajaran Mendalam”. Ketekunan dan inovasinya mengubah AI sama sekali.
Yann LeCun
Bapak CNN
LeCun adalah Kepala Ilmuwan AI di Meta (berganti nama dari Facebook pada Oktober 2021). LeNet-5 karyanya termasuk model pembelajaran mendalam pertama yang digelar secara komersial dalam skala besar. Sumbangannya pada CNN meletakkan landasan penglihatan komputer modern.
Yoshua Bengio
Perintis Pembelajaran Mendalam
Bengio adalah guru besar di Universitas Montreal dan tokoh penting dalam pembelajaran mendalam. Sumbangannya pada RNN dan NLP sama pentingnya.
Ian Goodfellow
Bapak GAN
Goodfellow mengajukan GAN pada 2014, metode revolusioner dalam AI generatif. Dari deepfake sampai penciptaan karya seni, penerapan GAN ada di mana-mana.
Fei-Fei Li
Ibu ImageNet
Li adalah guru besar di Universitas Stanford. Set data ImageNet buatannya berdampak mendalam pada penglihatan komputer. Ia juga turut mendirikan AI4ALL, yang memajukan keberagaman dalam pendidikan AI.
Kutipan Klasik
Pembelajaran mendalam memungkinkan model komputasi yang tersusun dari banyak lapis pengolahan mempelajari representasi data pada berbagai tingkat abstraksi.
Seandainya kecerdasan itu sebuah kue, pembelajaran nirselia adalah kuenya, pembelajaran terselia adalah lapisan gulanya, dan pembelajaran penguatan adalah cerinya. Kita tahu cara membuat lapisan gula dan cerinya, tetapi kita tidak tahu cara membuat kuenya.
Tujuan kami adalah kecerdasan umum buatan.