简体中文
返回 AI 技术体系

训练与后训练

LoRA / QLoRA

在冻结基础权重时仅训练小型低秩适配器的参数高效微调方法。QLoRA 再结合量化基础模型，进一步降低显存需求。

时间节点
2021 / 2023
最近审查

关键术语

  • 低秩适配器（low-rank adapters）
  • 冻结的基础模型（frozen base model）
  • 4 比特训练（4-bit training）
  • PEFT

项目内关联

基于

被用于

相关技术

相关论文

历史背景

一手来源

  1. LoRA
  2. QLoRA

这是经过选编的技术图谱，并非对 AI 技术的完整覆盖声明。