التدريب وما بعد التدريب
Distributed Training
تقنيات تقسّم البيانات أو الوسائط أو التفعيلات أو الحساب عبر الأجهزة والعقد. وهي تتيح تدريب النماذج الكبيرة لكنها تُدخل مقايضات في الاتصال والتزامن وتحمّل الأعطال.
المصطلحات الأساسية
- data parallelism
- tensor parallelism
- pipeline parallelism
- sharding
الروابط عبر المشروع
يُستخدَم في
تقنيات ذات صلة
السياق التاريخي
المصادر الأولية
هذه خريطة تقنية منتقاة، لا ادّعاء بتغطية شاملة.