モデルアーキテクチャ
Transformer
注意機構を中心に、系列内の位置を並列処理するニューラルアーキテクチャです。現代の言語・マルチモーダルモデルの多くの基盤となりました。
主要用語
- 自己注意（self-attention）
- エンコーダー（encoder）
- デコーダー（decoder）
- 位置エンコーディング（positional encoding）
プロジェクト内のつながり
一次資料
これは選定された技術マップであり、網羅性を主張するものではありません。
モデルアーキテクチャ
注意機構を中心に、系列内の位置を並列処理するニューラルアーキテクチャです。現代の言語・マルチモーダルモデルの多くの基盤となりました。
これは選定された技術マップであり、網羅性を主張するものではありません。