学習と後学習
LoRA / QLoRA
基盤重みを固定し、小さな低ランクアダプターだけを学習するパラメータ効率の良い微調整手法です。QLoRAは量子化基盤モデルと組み合わせ、メモリ使用量をさらに抑えます。
主要用語
- 低ランクアダプター（low-rank adapters）
- 凍結したベースモデル（frozen base model）
- 4ビット学習（4-bit training）
- PEFT
プロジェクト内のつながり
利用する技術
関連技術
歴史的背景
一次資料
これは選定された技術マップであり、網羅性を主張するものではありません。