Inferência e implantação
Quantization
A representação de pesos, ativações ou caches com menor precisão numérica. Reduz memória, largura de banda e computação, com compromissos de precisão e suporte de hardware.
Termos-chave
- precision
- INT8
- INT4
- weight-only
Ligações no projeto
Tecnologias relacionadas
Artigos relacionados
Contexto histórico
Fontes primárias
Este é um mapa técnico selecionado, não uma afirmação de cobertura completa.