Entraînement et post-entraînement
Entraînement distribué
Des techniques qui répartissent données, paramètres, activations ou calculs entre appareils et nœuds. Elles permettent l’entraînement de grands modèles, avec des compromis de communication, synchronisation et tolérance aux pannes.
Termes clés
- parallélisme de données (data parallelism)
- parallélisme de tenseurs (tensor parallelism)
- parallélisme de pipeline (pipeline parallelism)
- partitionnement (sharding)
Liens dans le projet
Utilisé par
Technologies liées
Articles liés
Contexte historique
Sources primaires
Cette carte est une sélection éditoriale, non une prétention à l’exhaustivité.