Inferencia y despliegue
Quantization
La representación de pesos, activaciones o cachés con menor precisión numérica. Reduce memoria, ancho de banda y cómputo, con compromisos de precisión y compatibilidad de hardware.
Términos clave
- precision
- INT8
- INT4
- weight-only
Conexiones en el proyecto
Tecnologías relacionadas
Artículos relacionados
Contexto histórico
Fuentes primarias
Este es un mapa técnico seleccionado, no una afirmación de cobertura completa.