Italiano
Torna alle tecnologie dell’IA

Training e post-training

LoRA / QLoRA

Metodi di fine-tuning efficienti che addestrano piccoli adattatori a basso rango mantenendo congelati i pesi di base. QLoRA aggiunge un modello base quantizzato per ridurre ulteriormente la memoria.

Periodo di riferimento
2021 / 2023
Ultima verifica

Termini chiave

  • adattatori a basso rango (low-rank adapters)
  • modello di base congelato (frozen base model)
  • addestramento a 4 bit (4-bit training)
  • PEFT

Collegamenti nel progetto

Fonti primarie

  1. LoRA
  2. QLoRA

Questa è una mappa tecnica curata, non una pretesa di copertura completa.