Долгая краткосрочная память (LSTM)
Эпоха: Возрождение · 1990-е–2010-е
Зепп Хохрайтер и Юрген Шмидхубер предложили LSTM — особый тип рекуррентной нейронной сети, способный обучаться долгосрочным зависимостям. LSTM добился большого успеха в распознавании речи и языковом моделировании.
Зепп Хохрайтер и Юрген Шмидхубер
Источники и подтверждения
Long Short-Term Memory
Neural Computation · Тип источника: Статья
Исходная архитектура 1997 года использует ячейки памяти, входные и выходные вентили.
Опубликовано: ·Проверено:
Learning to Forget: Continual Prediction with LSTM
Neural Computation / PubMed · Тип источника: Статья
Более поздняя статья вводит вентиль забывания.
Опубликовано: ·Проверено: