पुनर्जागरण
1990 का दशक–2010 का दशक · गहन अधिगम का उभार
1990 के दशक के मध्य में, संगणन-शक्ति के सुधार और इंटरनेट के प्रसार के साथ मशीन अधिगम — विशेषकर गहन अधिगम — उभरने लगा। AI के विकास का यह काल “सांख्यिकीय क्रांति” कहा जा सकता है: नियम-आधारित तंत्रों से हटकर प्रसंभाव्य और आँकड़ा-चालित प्रतिरूपों की ओर।
2012 में गहन अधिगम ने ImageNet प्रतियोगिता भारी अंतर से जीती, और गहन अधिगम की क्रांति आरम्भ हुई। तब से AI ने छवि-पहचान, वाक्-पहचान और प्राकृतिक भाषा संसाधन में अभूतपूर्व सफलताएँ पाईं। 2016 में AlphaGo की ली सेदोल पर विजय ने AI को जन-चेतना तक पहुँचाया और कृत्रिम बुद्धिमत्ता का एक नया युग खोला।
इस युग की पहचान है बड़े आँकड़ों, सशक्त संगणन-संसाधनों और गहन अधिगम के अल्गोरिद्मों का मेल। इंटरनेट के प्रसार ने विशाल मात्रा में आँकड़े जुटाना संभव किया, जबकि GPU के विकास ने बड़े तंत्रिका जालों के प्रशिक्षण का संगणकीय आधार दिया।
महत्वपूर्ण पड़ाव
सांख्यिकीय विधियों का उभार
1990 के दशक में सांख्यिकीय विधियाँ AI शोध पर हावी होने लगीं। वाक्-पहचान में Hidden Markov Model (HMM), और मशीन अधिगम में Naive Bayes तथा निर्णय-वृक्ष — सभी ने अच्छे परिणाम दिए।
World Wide Web का जन्म
टिम बर्नर्स-ली ने World Wide Web बनाया। इंटरनेट के प्रसार ने मानव जीवन-शैली बदल दी और AI को अभूतपूर्व आँकड़ा-संसाधन दिए।
संवाहक-सदिश मशीन
व्लादिमिर वापनिक आदि ने Support Vector Machine (SVM) प्रस्तावित की, जो वर्गीकरण और समाश्रयण की एक सशक्त विधि है। SVM ने पाठ-वर्गीकरण और हस्तलेख-पहचान में उत्कृष्ट प्रदर्शन दिया।
व्लादिमिर वापनिक
Long Short-Term Memory (LSTM)
सेप होख़रैटर और यूर्गन श्मिटहूबर ने LSTM प्रस्तावित की, जो RNN का एक विशेष प्रकार है और दीर्घकालिक निर्भरताएँ सीख सकती है। LSTM ने वाक्-पहचान और भाषा-प्रतिरूपण में बड़ी सफलता पाई।
सेप होख़रैटर और यूर्गन श्मिटहूबर
LeNet-5
यान लकून ने LeNet-5 विकसित किया, जो हस्तलिखित अंकों की पहचान का CNN था। LeNet-5 बड़े पैमाने पर वाणिज्यिक रूप से तैनात होने वाले पहले गहन अधिगम प्रतिरूपों में से था — 1993 से AT&T/NCR में चेक पढ़ने के लिए और 1990 के दशक के उत्तरार्ध से अमेरिकी डाक सेवा में ZIP कोड पहचानने के लिए।
यान लकून
तंत्रिका प्रसंभाव्य भाषा-प्रतिरूप
योशुआ बेंजियो, रेज़ां दुशार्म, पास्कल वेंसां और क्रिश्चियन जोवैं ने एक तंत्रिका प्रसंभाव्य भाषा-प्रतिरूप प्रस्तावित किया, जो विमीयता के अभिशाप से निपटने के लिए वितरित शब्द-निरूपण और शब्द-क्रम की प्रायिकताएँ साथ-साथ सीखता है। यह प्रतिरूप अग्र-प्रेषित है, पुनरावर्ती नहीं।
योशुआ बेंजियो
CIFAR तंत्रिका संगणना कार्यक्रम
2004 से CIFAR के एक कार्यक्रम ने ज्यॉफ़्री हिंटन, यान लकून, योशुआ बेंजियो और उनके सहयोगियों को नियमित आदान-प्रदान में लाया। इसने उस शोध के समन्वय में सहायता की जिसने गहन अधिगम के पुनर्जागरण में योगदान दिया; यह कोई एक सर्वव्यापी आरम्भ-बिंदु नहीं था।
ज्यॉफ़्री हिंटन
Deep Belief Network
ज्यॉफ़्री हिंटन ने Deep Belief Network (DBN) प्रस्तावित किया, जो सफलतापूर्वक प्रशिक्षित होने वाला पहला गहन तंत्रिका जाल था। हिंटन ने प्रशिक्षण की कठिनाइयों से निपटने के लिए “स्तर-दर-स्तर पूर्वप्रशिक्षण” प्रस्तुत किया।
ज्यॉफ़्री हिंटन
गहन अधिगम के लिए GPU
शोधकर्ताओं ने गहन अधिगम के प्रशिक्षण को तेज़ करने के लिए GPU का उपयोग आरम्भ किया। GPU की समांतर संगणना ने बड़े तंत्रिका जालों का प्रशिक्षण संभव बनाया।
ImageNet आँकड़ा-समुच्चय
ImageNet दल ने 2009 में अपना बड़े पैमाने का पदानुक्रमिक छवि-आधार शोधपत्र प्रकाशित किया, जिसमें WordNet के पदानुक्रम से लेबल की गई छवियाँ व्यवस्थित की गईं। ImageNet और उसकी बाद की पहचान-प्रतियोगिता बड़े पैमाने पर संगणक-दृष्टि के प्रशिक्षण तथा मूल्यांकन की महत्वपूर्ण अवसंरचना बनीं।
फ़ेई-फ़ेई ली
वाक्-पहचान में सफलता
Microsoft Research और Bell Labs ने वाक्-पहचान में गहन अधिगम की पहली बड़ी सफलता का मार्ग दिखाया (Dahl, Yu, Deng 2011; Mohamed, Dahl, Hinton 2012), जिसमें शब्द-त्रुटि दर में उल्लेखनीय कमी आई। Google ने 2012–2015 से DNN/LSTM आधारित वाक्-पहचान उत्पादन में तैनात की।
ImageNet की सफलता
ऐलेक्स क्रिज़ेव्स्की, इल्या सुत्स्केवर और ज्यॉफ़्री हिंटन के दल ने ImageNet प्रतियोगिता में AlexNet का उपयोग किया और भारी अंतर से जीत हासिल की। AlexNet ने 15.3% top-5 त्रुटि पाई और 2012 ILSVRC के द्वितीय स्थान (26.2%) से बहुत आगे निकल गया।
AlexNet दल
Word2Vec
टोमास मिकोलोव ने Word2Vec जारी किया, जो शब्द-अंतःस्थापन सीखने का तंत्रिका-जाल प्रतिरूप है। Word2Vec ने कम्प्यूटरों को शब्दों के बीच के शब्दार्थ-सम्बन्ध समझने योग्य बनाया।
टोमास मिकोलोव
Generative Adversarial Network (GAN)
इयान गुडफ़ेलो ने GAN प्रस्तावित किया, जो गहन अधिगम की सबसे महत्वपूर्ण नवाचारों में से एक है। GAN द्वंद्वात्मक प्रशिक्षण से अत्यंत यथार्थ छवियाँ रचता है।
इयान गुडफ़ेलो
ResNet
खाइमिंग हे आदि ने ResNet प्रस्तावित किया, जिसने छोड़-संयोजनों के ज़रिए गहन जालों के प्रशिक्षण की कठिनाई दूर की। ResNet ने सैकड़ों स्तरों का प्रशिक्षण संभव बनाया।
खाइमिंग हे
AlphaGo ने ली सेदोल को हराया
DeepMind के AlphaGo ने विश्व Go चैम्पियन ली सेदोल को 4-1 से हराया। Go को AI के लिए सबसे कठिन पट-खेलों में गिना जाता था।
DeepMind AlphaGo
Transformer संरचना
Google ने Transformer संरचना प्रस्तावित की, जो NLP में एक क्रांतिकारी सफलता थी। Transformer आधुनिक बड़े भाषा-मॉडलों की नींव है।
Google Brain
महत्वपूर्ण व्यक्तित्व
ज्यॉफ़्री हिंटन
गहन अधिगम के जनक
हिंटन को यान लकून और योशुआ बेंजियो के साथ 2018 में ट्यूरिंग पुरस्कार मिला, और वे “गहन अधिगम की त्रयी” कहे जाते हैं। उनकी दृढ़ता और नवाचार ने AI को पूरी तरह बदल दिया।
यान लकून
CNN के जनक
लकून, Meta (अक्तूबर 2021 में Facebook से नामांतरित) में मुख्य AI वैज्ञानिक हैं। उनका LeNet-5 बड़े पैमाने पर वाणिज्यिक रूप से तैनात होने वाले पहले गहन अधिगम प्रतिरूपों में से था। CNN में उनके योगदान ने आधुनिक संगणक दृष्टि की नींव रखी।
योशुआ बेंजियो
गहन अधिगम के अग्रदूत
बेंजियो मॉन्ट्रियल विश्वविद्यालय में प्राध्यापक और गहन अधिगम के महत्वपूर्ण व्यक्तित्व हैं। RNN और NLP में उनका योगदान उतना ही महत्वपूर्ण है।
इयान गुडफ़ेलो
GAN के जनक
गुडफ़ेलो ने 2014 में GAN प्रस्तावित किया, जो जनक AI की एक क्रांतिकारी विधि है। डीपफ़ेक से लेकर कलात्मक रचना तक, GAN के अनुप्रयोग सर्वत्र हैं।
फ़ेई-फ़ेई ली
ImageNet की जननी
ली स्टैनफ़ोर्ड विश्वविद्यालय में प्राध्यापक हैं। उनके ImageNet आँकड़ा-समुच्चय का संगणक दृष्टि पर गहरा प्रभाव पड़ा। उन्होंने AI4ALL की सह-स्थापना भी की, जो AI शिक्षा में विविधता को आगे बढ़ाता है।
उद्धरण
गहन अधिगम ऐसे संगणकीय प्रतिरूपों को, जो अनेक संसाधन-स्तरों से बने होते हैं, आँकड़ों के निरूपण अनेक अमूर्तन-स्तरों पर सीखने देता है।
यदि बुद्धिमत्ता एक केक होती, तो नि:पर्यवेक्षित अधिगम केक होता, पर्यवेक्षित अधिगम उस पर की चाशनी, और पुनर्बलन अधिगम ऊपर रखी चेरी। हम चाशनी और चेरी बनाना जानते हैं, पर केक बनाना नहीं जानते।
हमारा लक्ष्य कृत्रिम सामान्य बुद्धिमत्ता है।