El Renacimiento
años 1990–años 2010 · Auge del Aprendizaje Profundo
A mediados de los años noventa, con la mejora de la potencia de cálculo y la proliferación de internet, el aprendizaje automático, especialmente el aprendizaje profundo, comenzó a destacar. Este periodo en el desarrollo de la IA puede describirse como la «revolución estadística»: el paso de sistemas basados en reglas a modelos probabilísticos y basados en datos.
En 2012, el aprendizaje profundo ganó la competencia ImageNet por amplia mayoría, marcando el inicio de la revolución del aprendizaje profundo. Desde entonces, la IA ha logrado avances sin precedentes en reconocimiento de imágenes, reconocimiento de voz y procesamiento del lenguaje natural. En 2016, la victoria de AlphaGo sobre Lee Sedol llevó la IA a la conciencia pública, inaugurando una nueva era de la inteligencia artificial.
Esta era se caracteriza por la combinación de big data, recursos de cómputo potentes y algoritmos de aprendizaje profundo. La proliferación de internet hizo posible la recolección de grandes volúmenes de datos, mientras que el desarrollo de las GPU proporcionó la base computacional para el entrenamiento de grandes redes neuronales.
Hitos importantes
Auge de los Métodos Estadísticos
En la década de 1990, los métodos estadísticos comenzaron a dominar la investigación en IA. Los modelos ocultos de Markov (HMM) en reconocimiento de voz, Naive Bayes y árboles de decisión en aprendizaje automático obtuvieron buenos resultados.
Nacimiento de la World Wide Web
Tim Berners-Lee creó la World Wide Web. La proliferación de internet cambio el estilo de vida humano y proporcionó recursos de datos sin precedentes para la IA.
Máquina de Vectores de Soporte
Vladimir Vapnik y colaboradores propusieron la Máquina de Vectores de Soporte (SVM), un potente método de clasificación y regresión. La SVM logró un rendimiento excelente en clasificación de textos y reconocimiento de escritura manuscrita.
Vladimir Vapnik
Memoria a Largo y Corto Plazo (LSTM)
Sepp Hochreiter y Jurgen Schmidhuber propusieron LSTM, un tipo especial de RNN capaz de aprender dependencias a largo plazo. LSTM logró un gran éxito en reconocimiento de voz y modelado del lenguaje.
Sepp Hochreiter y Jurgen Schmidhuber
LeNet-5
Yann LeCun desarrollo LeNet-5, una CNN para el reconocimiento de digitos manuscritos. LeNet-5 fue uno de los primeros modelos de aprendizaje profundo desplegados a gran escala comercialmente, utilizado por el Servicio Postal de EE.UU. para el reconocimiento de codigos postales.
Yann LeCun
Modelo de lenguaje neuronal probabilístico
Yoshua Bengio, Réjean Ducharme, Pascal Vincent y Christian Jauvin propusieron un modelo de lenguaje neuronal probabilístico que aprende conjuntamente representaciones distribuidas de palabras y probabilidades de secuencias para mitigar la maldición de la dimensionalidad. La red es prealimentada, no recurrente.
Yoshua Bengio
Programa CIFAR de computación neuronal
Desde 2004, un programa de CIFAR reunió regularmente a Geoffrey Hinton, Yann LeCun, Yoshua Bengio y colaboradores. Coordinó investigaciones que contribuyeron al renacimiento del aprendizaje profundo, sin constituir un único punto de partida universal.
Geoffrey Hinton
Redes de Creencia Profundas
Geoffrey Hinton propuso las Redes de Creencia Profundas (DBN), la primera red neuronal profunda entrenada con éxito. Hinton introdujo él «preentrenamiento capa por capa» para resolver las dificultades de entrenamiento.
Geoffrey Hinton
GPU para Aprendizaje Profundo
Los investigadores comenzaron a utilizar GPUs para acelerar el entrenamiento del aprendizaje profundo. La computación paralela de las GPU hizo posible el entrenamiento de grandes redes neuronales.
Conjunto de Datos ImageNet
El equipo de ImageNet publicó en 2009 el artículo sobre una gran base jerárquica de imágenes organizada con WordNet. ImageNet y su posterior desafío de reconocimiento se convirtieron en infraestructura clave para entrenamiento y evaluación a gran escala.
Fei-Fei Li
Avance en Reconocimiento de Voz
Google utilizó modelos de aprendizaje profundo para reducir la tasa de error en el reconocimiento de voz en un 25%. Este fue el primer gran avance del aprendizaje profundo en el reconocimiento de voz.
Avance en ImageNet
El equipo de Alex Krizhevsky, Ilya Sutskever y Geoffrey Hinton utilizó AlexNet en la competencia ImageNet, ganando por amplia mayoría. La tasa de error se redujo del 26% al 15%.
Equipo de AlexNet
Word2Vec
Tomas Mikolov lanzó Word2Vec, un modelo de red neuronal para aprender representaciones de palabras. Word2Vec permitió a las computadoras comprender las relaciones semánticas entre palabras.
Tomas Mikolov
Redes Generativas Antagonistas (GAN)
Ian Goodfellow propuso las GAN, una de las innovaciones más importantes en aprendizaje profundo. Las GAN generan imágenes extremadamente realistas mediante entrenamiento antagonista.
Ian Goodfellow
ResNet
Kaiming He y colaboradores propusieron ResNet, resolviendo la dificultad de entrenamiento de redes profundas mediante conexiones de salto. ResNet permitió el entrenamiento de cientos de capas.
Kaiming He
AlphaGo Derrota a Lee Sedol
AlphaGo de DeepMind derrotó al campeón mundial de Go Lee Sedol por 4-1. El Go era considerado uno de los juegos de mesa más difíciles para la IA.
DeepMind AlphaGo
Arquitectura Transformer
Google propuso la arquitectura Transformer, un avance revolucionario en el procesamiento del lenguaje natural. Transformer es la base de los modelos de lenguaje modernos a gran escala.
Google Brain
Figuras importantes
Geoffrey Hinton
Padre del Aprendizaje Profundo
Hinton, junto con Yann LeCun y Yoshua Bengio, recibió el Premio Turing en 2018, conocidos cómo él «Trio del Aprendizaje Profundo». Su persistencia e innovación han transformado completamente la IA.
Yann LeCun
Padre de las CNN
LeCun es Científico Jefe de IA en Facebook. Su LeNet-5 fue uno de los primeros modelos de aprendizaje profundo desplegados a gran escala comercialmente. Sus contribuciones a las CNN sentaron las bases de la visión por computadora moderna.
Yoshua Bengio
Pionero del Aprendizaje Profundo
Bengio es profesor en la Universidad de Montreal y una figura importante en el aprendizaje profundo. Sus contribuciones a las RNN y al procesamiento del lenguaje natural son igualmente relevantes.
Ian Goodfellow
Padre de las GAN
Goodfellow propuso las GAN en 2014, un método revolucionario en la IA generativa. Desde los deepfakes hasta la creación artística, las aplicaciones de las GAN son omnipresentes.
Fei-Fei Li
Madre de ImageNet
Li es profesora en la Universidad de Stanford. Su conjunto de datos ImageNet tuvo un impacto profundo en la visión por computadora. También cofundó AI4ALL, promoviendo la diversidad en la educación en IA.
Citas célebres
El aprendizaje profundo permite que los modelos computacionales compuestos por múltiples capas de procesamiento aprendan representaciones de datos con múltiples niveles de abstracción.
Si la inteligencia fuera un pastel, el aprendizaje no supervisado sería el pastel, el aprendizaje supervisado sería el glaseado del pastel, y el aprendizaje por refuerzo sería la cereza del pastel. Sabemos hacer el glaseado y la cereza, pero no sabemos hacer el pastel.
Nuestro objetivo es la inteligencia artificial general.