日本語
← AI 技術体系に戻る

モデルアーキテクチャ

Transformer

注意機構を中心に、系列内の位置を並列処理するニューラルアーキテクチャです。現代の言語・マルチモーダルモデルの多くの基盤となりました。

基準時期
2017
最終確認

主要用語

  • self-attention
  • encoder
  • decoder
  • positional encoding

プロジェクト内のつながり

利用する技術

関連技術

関連論文

歴史的背景

一次資料

  1. Attention Is All You Need

これは選定された技術マップであり、網羅性を主張するものではありません。