प्रशिक्षण और उत्तर-प्रशिक्षण
Distributed Training
वे तकनीकें जो डेटा, प्राचल, सक्रियण या संगणना को अनेक युक्तियों और नोडों में बाँटती हैं। ये बड़े मॉडलों का प्रशिक्षण संभव बनाती हैं, पर संचार, तुल्यकालन और दोष-सहिष्णुता के समझौते भी लाती हैं।
मुख्य शब्द
- data parallelism
- tensor parallelism
- pipeline parallelism
- sharding
पूरी परियोजना में जुड़ाव
किसके द्वारा प्रयुक्त
संबंधित प्रौद्योगिकी
ऐतिहासिक संदर्भ
प्राथमिक स्रोत
यह एक चुना हुआ तकनीकी मानचित्र है, सम्पूर्ण कवरेज का दावा नहीं।