Entrenamiento y posentrenamiento
LoRA / QLoRA
Métodos de ajuste fino eficientes que entrenan pequeños adaptadores de bajo rango manteniendo congelados los pesos base. QLoRA los combina con un modelo base cuantizado para reducir aún más la memoria.
Términos clave
- adaptadores de bajo rango (low-rank adapters)
- modelo base congelado (frozen base model)
- entrenamiento en 4 bits (4-bit training)
- PEFT
Conexiones en el proyecto
Se basa en
Usado por
Tecnologías relacionadas
Artículos relacionados
Contexto histórico
Fuentes primarias
Este es un mapa técnico seleccionado, no una afirmación de cobertura completa.