Pelatihan dan pascapelatihan
LoRA / QLoRA
Metode penalaan halus hemat parameter yang melatih adapter berperingkat rendah sembari membekukan bobot dasar. QLoRA memadukan adapter dengan model dasar terkuantisasi untuk menekan pemakaian memori lebih jauh.
Istilah kunci
- adapter berperingkat rendah (low-rank adapters)
- model dasar yang dibekukan (frozen base model)
- pelatihan 4-bit (4-bit training)
- PEFT
Terhubung di seluruh proyek
Dibangun di atas
Dipakai oleh
Teknologi terkait
Makalah terkait
Konteks sejarah
Sumber primer
Ini adalah peta teknis terkurasi, bukan klaim cakupan yang menyeluruh.