訓練與後訓練
LoRA / QLoRA
在凍結基礎權重時僅訓練小型低秩適配器的參數高效微調方法。QLoRA 再結合量化基礎模型，進一步降低記憶體需求。
關鍵術語
- low-rank adapters
- frozen base model
- 4-bit training
- PEFT
專案內關聯
第一手來源
這是經過選編的技術圖譜，並非對 AI 技術的完整涵蓋聲明。
訓練與後訓練
在凍結基礎權重時僅訓練小型低秩適配器的參數高效微調方法。QLoRA 再結合量化基礎模型，進一步降低記憶體需求。
這是經過選編的技術圖譜，並非對 AI 技術的完整涵蓋聲明。