Inferenza e distribuzione
Quantization
La rappresentazione di pesi, attivazioni o cache con precisione numerica inferiore. Riduce memoria, banda e calcolo, con compromessi di accuratezza e supporto hardware.
Termini chiave
- precision
- INT8
- INT4
- weight-only
Collegamenti nel progetto
Tecnologie correlate
Articoli correlati
Contesto storico
Fonti primarie
Questa è una mappa tecnica curata, non una pretesa di copertura completa.