GRAFO TECNOLOGICO
Tecnologie dell’IA
Dalle architetture e dal training all’inferenza, alla distribuzione e ai modelli a pesi aperti
Una mappa curata degli strati che trasformano idee di ricerca in modelli addestrabili e sistemi utilizzabili. Ogni voce collega articoli, storia, casi di modello, strumenti e fonti primarie.
Architettura dei modelli
Strutture che determinano come i modelli rappresentano e trasformano le informazioni.
Transformer
Un’architettura neurale basata sull’attenzione che elabora in parallelo le posizioni di una sequenza. È diventata la base di molti moderni modelli linguistici e multimodali.
- auto-attenzione
- encoder
- decoder
Miscela di esperti (MoE)
Una famiglia di architetture con esperti instradati. Le varianti sparse moderne attivano solo alcuni esperti per input, aumentando la capacità senza usare tutti i parametri per ogni token.
- esperti
- router
- attivazione sparsa
Modello di diffusione
Un modello generativo che impara a invertire un processo graduale di aggiunta del rumore. Il denoising iterativo è diventato centrale nella generazione di immagini, audio, video e contenuti multimodali.
- aggiunta di rumore in avanti
- denoising
- corrispondenza dei punteggi
Framework e rappresentazione
Software e interfacce dati usati per costruire, addestrare ed eseguire modelli.
PyTorch
Un framework open source per tensori e deep learning con differenziazione automatica, moduli neurali, compilazione ed esecuzione distribuita. È usato dalla prototipazione alla formazione in produzione.
- tensore
- autograd
- modulo
Hugging Face Transformers
Una libreria di definizione dei modelli che collega architetture preaddestrate agli ecosistemi di training e inferenza. Standardizza configurazione, pre-elaborazione, caricamento, generazione e interfacce per molti compiti.
- definizioni dei modelli
- checkpoint preaddestrati
- Trainer
Tokenizzazione
La mappatura del testo grezzo nelle unità discrete elaborate dal modello. Vocabolario e segmentazione influenzano lunghezza della sequenza, copertura multilingue, costo e comportamento.
- token
- vocabolario
- BPE
Training e post-training
Metodi di scala, adattamento e preferenza che plasmano capacità e comportamento.
Addestramento distribuito
Tecniche che suddividono dati, parametri, attivazioni o calcolo tra dispositivi e nodi. Rendono possibile addestrare grandi modelli, introducendo compromessi di comunicazione, sincronizzazione e resilienza.
- parallelismo dei dati
- parallelismo tensoriale
- parallelismo a pipeline
SFT / RLHF / DPO
Una famiglia di metodi di post-training per insegnare a seguire istruzioni e preferenze. SFT apprende da dimostrazioni; RLHF e DPO usano confronti di preferenza con procedure di ottimizzazione diverse.
- fine-tuning supervisionato
- dati di preferenza
- modello di ricompensa
Ragionamento e calcolo al momento del test
Un post-addestramento che insegna al modello a produrre una lunga traccia di ragionamento prima di rispondere e a spendere più calcolo in inferenza quando il problema è più difficile. L’apprendimento per rinforzo con ricompense verificabili — dove una risposta controllabile fornisce il segnale di addestramento — è ciò che ha reso l’approccio riproducibile fuori dai laboratori chiusi. Il compromesso va detto con chiarezza: accuratezza ottenuta dalla lunghezza della generazione anziché da un modello più grande, pagata in latenza e costo di servizio.
- tracce di ragionamento
- ricompense verificabili
- budget di inferenza
LoRA / QLoRA
Metodi di fine-tuning efficienti che addestrano piccoli adattatori a basso rango mantenendo congelati i pesi di base. QLoRA aggiunge un modello base quantizzato per ridurre ulteriormente la memoria.
- adattatori a basso rango
- modello di base congelato
- addestramento a 4 bit
Inferenza e distribuzione
Tecniche di memoria, pianificazione, compressione e runtime per servire i modelli.
Quantizzazione
La rappresentazione di pesi, attivazioni o cache con precisione numerica inferiore. Riduce memoria, banda e calcolo, con compromessi di accuratezza e supporto hardware.
- precisione
- INT8
- INT4
KV Cache
Una cache delle chiavi e dei valori di attenzione dei token precedenti durante la generazione autoregressiva. Evita di ricalcolare l’intero prefisso, ma spesso consuma molta memoria.
- chiavi
- valori
- prefill
Batching continuo / PagedAttention
Tecniche di serving che ammettono e completano continuamente richieste gestendo la cache KV a pagine. Migliorano utilizzo e throughput con carichi di lunghezza variabile.
- pianificazione delle richieste
- paginazione della memoria
- throughput
Decodifica speculativa
Un metodo di inferenza in cui un modello bozza più rapido propone più token e il modello target li verifica in parallelo. Può ridurre la latenza senza cambiare la distribuzione target.
- modello bozza
- verifica
- latenza
Ecosistema di inferenza per modelli aperti
Motori e runtime come vLLM e llama.cpp trasformano pesi scaricabili in inferenza locale o server. Le priorità variano tra throughput, portabilità hardware, formati e complessità operativa.
- vLLM
- llama.cpp
- GGUF
LIVELLO APPLICATIVO
Architettura applicativa
I modelli diventano prodotti tramite workflow, strumenti, scambio di contesto, protezioni e valutazione. Le sezioni MCP e Strumenti coprono questo livello senza duplicarlo qui.
Casi di modelli aperti
Famiglie esaminate attraverso codice, pesi, divulgazione del training e licenza.
Llama
La famiglia di Meta con pesi scaricabili ha ampliato inferenza locale e fine-tuning. Le condizioni specifiche Llama rendono «pesi aperti» più preciso dell’assumere l’open source secondo l’OSI.
- pesi aperti
- licenza comunitaria
- famiglia di modelli
Qwen
La famiglia Qwen di Alibaba comprende versioni dense, a esperti, multilingue e multimodali. Molti checkpoint sono scaricabili, ma licenza e divulgazione vanno verificate nella scheda di ciascun modello.
- multilingue
- denso e MoE
- pesi aperti
Mistral / Mixtral
La famiglia di Mistral AI comprende modelli densi Mistral e modelli Mixtral a esperti. Alcune versioni hanno licenze permissive e altre no; l’apertura va valutata per artefatto.
- modelli densi
- MoE
- pesi aperti
DeepSeek
Le versioni scaricabili di DeepSeek hanno diffuso lo studio di MoE, post-training del ragionamento e serving efficiente. Codice e pesi possono avere licenze diverse; la divulgazione dei dati è un asse separato.
- MoE
- ragionamento
- pesi aperti
Gemma
La famiglia Google con pesi scaricabili collega la ricerca derivata da Gemini a distribuzioni locali, edge e ospitate. Google la definisce aperta, ma le licenze variano secondo la versione.
- pesi aperti
- modelli leggeri
- distribuzione edge
OLMo
Ai2 pubblica la famiglia OLMo con i dati di pre-addestramento, il codice di addestramento, i checkpoint intermedi e i log, oltre ai pesi. È il caso in cui i quattro elementi da verificare separatamente — codice, pesi, divulgazione dell’addestramento e licenza — sono davvero tutti pubblicati, il che ne fa un termine di paragone per le famiglie che diffondono soltanto i pesi.
- completamente aperto
- dati di addestramento aperti
- checkpoint intermedi
gpt-oss
gpt-oss-120b e 20b di OpenAI sono modelli MoE di ragionamento scaricabili per inferenza locale o ospitata. Pesi e implementazioni di riferimento Apache 2.0 ampliano le opzioni di distribuzione, ma il dataset di preaddestramento non è pubblicato.
- pesi aperti
- ragionamento
- MoE
GLM-5
La serie GLM-5 di Z.ai è un’ampia famiglia di modelli linguistici MoE per ragionamento, programmazione e lavoro agentico di lungo periodo. GLM-5 è arrivato a febbraio 2026, 5.1 ad aprile, 5.2 a giugno con 753 miliardi di parametri e una finestra di contesto da un milione di token, e 5.3 ad agosto sulla stessa base con interventi post-addestramento; il più piccolo GLM-5.3-Flash è seguito pochi giorni dopo con 320 miliardi di parametri totali e 18 miliardi attivi. La scala dei membri maggiori rende l’auto-hosting oneroso.
- pesi aperti
- MoE
- contesto lungo
Kimi K3
Moonshot AI ha pubblicato Kimi K3 nel luglio 2026: un modello linguistico MoE multimodale nativo a pesi aperti, con 2,8 bilioni di parametri totali, 104 miliardi attivi e un contesto da un milione di token. È rivolto a programmazione prolungata, lavoro conoscitivo e agenti con strumenti, ma la distribuzione locale è impegnativa.
- pesi aperti
- MoE
- contesto lungo
Questa è una mappa tecnica curata, non una pretesa di copertura completa.