日本語
← AI 技術体系に戻る

学習と後学習

LoRA / QLoRA

基盤重みを固定し、小さな低ランクアダプターだけを学習するパラメータ効率の良い微調整手法です。QLoRA は量子化基盤モデルと組み合わせ、メモリ使用量をさらに抑えます。

基準時期
2021 / 2023
最終確認

主要用語

  • low-rank adapters
  • frozen base model
  • 4-bit training
  • PEFT

プロジェクト内のつながり

基盤とする技術

利用する技術

関連技術

関連論文

歴史的背景

一次資料

  1. LoRA
  2. QLoRA

これは選定された技術マップであり、網羅性を主張するものではありません。