प्रशिक्षण और उत्तर-प्रशिक्षण
वितरित प्रशिक्षण
वे तकनीकें जो डेटा, प्राचल, सक्रियण या संगणना को अनेक युक्तियों और नोडों में बाँटती हैं। ये बड़े मॉडलों का प्रशिक्षण संभव बनाती हैं, पर संचार, तुल्यकालन और दोष-सहिष्णुता के समझौते भी लाती हैं।
मुख्य शब्द
- डेटा समांतरता (data parallelism)
- टेंसर समांतरता (tensor parallelism)
- पाइपलाइन समांतरता (pipeline parallelism)
- शार्डिंग (sharding)
पूरी परियोजना में जुड़ाव
किसके द्वारा प्रयुक्त
संबंधित प्रौद्योगिकी
ऐतिहासिक संदर्भ
प्राथमिक स्रोत
यह एक चुना हुआ तकनीकी मानचित्र है, सम्पूर्ण कवरेज का दावा नहीं।