العربية
العودة إلى تقنيات الذكاء الاصطناعي

بنية النماذج

Mixture of Experts (MoE)

عائلة من البنى ذات الخبراء الموجَّهين. وتفعّل الصيغ المتفرّقة الحديثة شبكات خبراء فرعية منتقاة لكل مدخل، فتزيد السعة دون تفعيل كل وسيط عند كل رمز.

الفترة المرجعية
1991 / 2017 / 2021
آخر مراجعة

المصطلحات الأساسية

  • experts
  • router
  • sparse activation
  • load balancing

الروابط عبر المشروع

المصادر الأولية

  1. Adaptive Mixtures of Local Experts
  2. Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer
  3. Switch Transformers

هذه خريطة تقنية منتقاة، لا ادّعاء بتغطية شاملة.