الاستدلال والنشر
Speculative Decoding
طريقة استدلال يقترح فيها مسوّدة أسرع عدة رموز يتحقّق منها النموذج الهدف على التوازي. وقد تخفض زمن التوليد دون تغيير توزيع الهدف.
المصطلحات الأساسية
- draft model
- verification
- latency
- exact sampling
الروابط عبر المشروع
يبني على
يُستخدَم في
تقنيات ذات صلة
السياق التاريخي
المصادر الأولية
هذه خريطة تقنية منتقاة، لا ادّعاء بتغطية شاملة.