Deutsch
Zurück zu KI-Technologien

Modellarchitektur

Transformer

Eine aufmerksamkeitsbasierte neuronale Architektur, die Sequenzpositionen parallel verarbeitet. Sie bildet die Grundlage vieler moderner Sprach- und multimodaler Modelle.

Referenzzeitraum
2017
Zuletzt geprüft

Schlüsselbegriffe

  • Self-Attention
  • Encoder
  • Decoder
  • Positionskodierung (positional encoding)

Verknüpfungen im Projekt

Primärquellen

  1. Attention Is All You Need

Dies ist eine kuratierte technische Karte und kein Anspruch auf Vollständigkeit.