한국어
AI 기술 체계로 돌아가기

모델 아키텍처

Transformer

어텐션을 중심으로 시퀀스 위치를 병렬 처리하는 신경망 아키텍처다. 현대의 많은 언어 및 멀티모달 모델의 기반이 되었다.

기준 시기
2017
최근 검토

핵심 용어

  • 셀프 어텐션 (self-attention)
  • 인코더 (encoder)
  • 디코더 (decoder)
  • 위치 인코딩 (positional encoding)

프로젝트 내 연결

1차 출처

  1. Attention Is All You Need

선별한 기술 지도이며 AI 기술을 완전히 망라한다는 뜻이 아니다.