हिन्दी
AI प्रौद्योगिकी पर लौटें

मॉडल संरचना

Mixture of Experts (MoE)

मार्गनिर्देशित विशेषज्ञ संरचनाओं का एक कुल। आधुनिक विरल रूप हर निवेश के लिए केवल चुने हुए विशेषज्ञ उपजालों को सक्रिय करते हैं, जिससे क्षमता बढ़ती है पर हर टोकन पर हर प्राचल सक्रिय नहीं होता।

संदर्भ अवधि
1991 / 2017 / 2021
अंतिम समीक्षा

मुख्य शब्द

  • विशेषज्ञ (experts)
  • राउटर (router)
  • विरल सक्रियण (sparse activation)
  • लोड संतुलन (load balancing)

पूरी परियोजना में जुड़ाव

प्राथमिक स्रोत

  1. Adaptive Mixtures of Local Experts
  2. Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer
  3. Switch Transformers

यह एक चुना हुआ तकनीकी मानचित्र है, सम्पूर्ण कवरेज का दावा नहीं।