Pelatihan dan pascapelatihan
LoRA / QLoRA
Metode penalaan halus hemat parameter yang melatih adapter berperingkat rendah sembari membekukan bobot dasar. QLoRA memadukan adapter dengan model dasar terkuantisasi untuk menekan pemakaian memori lebih jauh.
Istilah kunci
- low-rank adapters
- frozen base model
- 4-bit training
- PEFT
Terhubung di seluruh proyek
Dibangun di atas
Dipakai oleh
Teknologi terkait
Makalah terkait
Konteks sejarah
Sumber primer
Ini adalah peta teknis terkurasi, bukan klaim cakupan yang menyeluruh.