Entrenamiento y posentrenamiento
LoRA / QLoRA
Métodos de ajuste fino eficientes que entrenan pequeños adaptadores de bajo rango manteniendo congelados los pesos base. QLoRA los combina con un modelo base cuantizado para reducir aún más la memoria.
Términos clave
- low-rank adapters
- frozen base model
- 4-bit training
- PEFT
Conexiones en el proyecto
Se basa en
Usado por
Tecnologías relacionadas
Artículos relacionados
Contexto histórico
Fuentes primarias
Este es un mapa técnico seleccionado, no una afirmación de cobertura completa.