العربية
العودة إلى الصفحة الرئيسية

بنية النماذج

البنى التي تحدّد كيف تُمثّل النماذج المعلومات وكيف تحوّلها.

٣ مدخلات

الأطر والتمثيل

البرمجيات وواجهات البيانات المستخدمة في بناء النماذج وتدريبها وتشغيلها.

٣ مدخلات

التدريب وما بعد التدريب

طرائق التوسيع والتكييف والمواءمة مع التفضيلات التي تشكّل قدرات النماذج وسلوكها.

٤ مدخلات
2012–present

التدريب الموزّع

تقنيات تقسّم البيانات أو الوسائط أو التفعيلات أو الحساب عبر الأجهزة والعقد. وهي تتيح تدريب النماذج الكبيرة لكنها تُدخل مقايضات في الاتصال والتزامن وتحمّل الأعطال.

  • توازي البيانات
  • توازي التنسورات
  • توازي خط الأنابيب
2017 / 2022 / 2023

SFT / RLHF / DPO

عائلة من طرائق ما بعد التدريب لتعليم اتّباع التعليمات والسلوك المتوائم مع التفضيلات. يتعلّم SFT من عروض عملية، بينما يستعمل RLHF وDPO مقارنات تفضيلية عبر إجراءات استمثال مختلفة.

  • الضبط الدقيق الخاضع للإشراف
  • بيانات التفضيل
  • نموذج المكافأة
2024 / 2025

الاستدلال والحوسبة وقت الاختبار

تدريب لاحق يعلّم النموذج أن ينتج أثر استدلال طويلًا قبل الإجابة، وأن ينفق حسابًا أكبر عند الاستدلال كلما صعبت المسألة. والتعلّم المعزّز بمكافآت قابلة للتحقق — حيث تمدّ إجابة قابلة للفحص إشارة التدريب — هو ما جعل المقاربة قابلة لإعادة الإنتاج خارج المختبرات المغلقة. والمقايضة جديرة بأن تُقال صراحةً: دقة تُشترى بطول التوليد لا بنموذج أكبر، ويُدفع ثمنها من زمن الاستجابة وكلفة التقديم.

  • آثار الاستدلال
  • مكافآت قابلة للتحقق
  • ميزانية الاستدلال
2021 / 2023

LoRA / QLoRA

طرائق ضبط دقيق موفّرة للوسائط تدرّب مكيّفات صغيرة منخفضة الرتبة مع إبقاء الأوزان الأساس مجمَّدة. ويجمع QLoRA بين المكيّفات ونموذج أساس مكمَّم لخفض استهلاك الذاكرة أكثر.

  • مكيّفات منخفضة الرتبة
  • نموذج أساسي مجمَّد
  • التدريب بدقة ٤ بتات

الاستدلال والنشر

تقنيات الذاكرة والجدولة والضغط ووقت التشغيل المستخدمة في تقديم النماذج.

٥ مدخلات
2015 / LLM PTQ 2022

التكميم

تمثيل الأوزان أو التفعيلات أو الذاكرة المخبئية بدقة عددية أدنى. وقد يخفض ذلك كلف الذاكرة وعرض النطاق والحساب، مع مقايضات في الدقة وفي دعم العتاد.

  • الدقة العددية
  • INT8
  • INT4
2017–present

KV Cache

ذاكرة لمفاتيح الانتباه وقيمه من الرموز السابقة في أثناء التوليد الانحداري الذاتي. وهي تتجنّب إعادة حساب البادئة كاملةً، لكنها كثيرًا ما تصير مستهلكًا رئيسًا للذاكرة.

  • المفاتيح
  • القيم
  • التعبئة المسبقة
2022–2023

التجميع المستمر / PagedAttention

تقنيات تقديم تقبل الطلبات وتُنهيها باستمرار مع إدارة ذاكرة KV في صفحات. وهما معًا يحسّنان الاستغلال والإنتاجية تحت أحمال متغيّرة الطول.

  • جدولة الطلبات
  • ترحيل الذاكرة
  • الإنتاجية
2022

فكّ الترميز التخميني

طريقة استدلال يقترح فيها مسوّدة أسرع عدة رموز يتحقّق منها النموذج الهدف على التوازي. وقد تخفض زمن التوليد دون تغيير توزيع الهدف.

  • نموذج المسودة
  • التحقق
  • زمن الاستجابة
2023–present

منظومة الاستدلال للنماذج المفتوحة

محرّكات وأزمنة تشغيل مثل vLLM وllama.cpp تحوّل أوزان النماذج القابلة للتنزيل إلى استدلال محلي أو خادمي. وتختلف أولوياتها بين الإنتاجية وقابلية النقل بين العتاد وصيغ النماذج والتعقيد التشغيلي.

  • vLLM
  • llama.cpp
  • GGUF

طبقة التطبيقات

بنية التطبيقات

تصير النماذج منتجات عبر مسارات العمل والأدوات وتبادل السياق وحواجز الأمان والتقييم. يغطي قسما MCP والأدوات هذه الطبقة التطبيقية، فلا حاجة إلى تكرارها هنا.

حالات النماذج المفتوحة

عائلات نماذج مفحوصة من خلال الشِفرة والأوزان وإفصاح التدريب والرخصة.

٩ مدخلات
2023

Llama

ساعدت عائلة نماذج Meta القابلة تنزيل أوزانها على توسيع الاستدلال المحلي والضبط الدقيق اللاحق. وتستعمل إصداراتها شروطًا خاصة بـLlama، فعبارة «أوزان مفتوحة» أدقّ من افتراض مصدر مفتوح بتعريف OSI.

  • الأوزان المفتوحة
  • ترخيص مجتمعي
  • عائلة النماذج
2023

Qwen

تمتد عائلة Qwen من Alibaba عبر إصدارات كثيفة وموجَّهة الخبراء ومتعددة اللغات ومتعددة الوسائط. وكثير من نقاط التحقق قابل للتنزيل علنًا، لكن دعاوى الرخصة والإفصاح ينبغي فحصها على مستوى بطاقة النموذج المفردة.

  • متعدد اللغات
  • الكثيفة وMoE
  • الأوزان المفتوحة
2023

Mistral / Mixtral

تضم عائلة Mistral AI نماذج Mistral الكثيفة ونماذج Mixtral الموجَّهة الخبراء معًا. وتستعمل بعض الإصدارات رخصًا متساهلة دون بعضها الآخر، فيجب تقدير الانفتاح لكل أثر على حدة.

  • النماذج الكثيفة
  • MoE
  • الأوزان المفتوحة
2023

DeepSeek

جعلت إصدارات DeepSeek القابلة للتنزيل تصميم مزيج الخبراء والتدريب اللاحق للاستدلال والتقديم الكفء موضع دراسة واسعة. وقد تستعمل الشِفرة والأوزان رخصًا مختلفة، والإفصاح عن بيانات التدريب بُعد منفصل.

  • MoE
  • الاستدلال
  • الأوزان المفتوحة
2024

Gemma

تصل عائلة Google القابلة تنزيل أوزانها أبحاثًا مشتقّة من Gemini بالنشر المحلي والطرفي والمستضاف. وتسمّي Google العائلة نماذج مفتوحة، لكن التراخيص تختلف بحسب الإصدار.

  • الأوزان المفتوحة
  • النماذج الخفيفة
  • النشر على الأطراف
2024

OLMo

يصدر Ai2 عائلة OLMo مع بيانات تدريبها المسبق وشِفرة تدريبها ونقاط تحققها الوسيطة وسجلاتها إلى جانب الأوزان. وهي الحالة التي تُنشر فيها فعلًا الأمور الأربعة الجديرة بالفحص كلٌّ على حدة — الشِفرة والأوزان وإفصاح التدريب والرخصة — وهو ما يجعلها مرجعًا في مقابل عائلات لا تصدر إلا الأوزان.

  • مفتوح بالكامل
  • بيانات تدريب مفتوحة
  • نقاط التحقق الوسيطة
2025

gpt-oss

نموذجا OpenAI المسمّيان gpt-oss-120b وgpt-oss-20b نموذجا استدلال بمزيج خبراء قابلان للتنزيل مصمَّمان للاستدلال المحلي والمستضاف. وأوزانهما وتنفيذاتهما المرجعية برخصة Apache 2.0 توسّع إتاحة النشر، بينما لا تُصدَر مجموعة بيانات التدريب المسبق نفسها.

  • الأوزان المفتوحة
  • الاستدلال
  • MoE
2026

GLM-5

سلسلة GLM-5 من Z.ai عائلة نماذج لغوية كبيرة بمزيج خبراء للاستدلال والبرمجة والعمل الوكيل بعيد الأفق. ظهر GLM-5 في فبراير ٢٠٢٦، و5.1 في أبريل، و5.2 في يونيو بـ٧٥٣ مليار وسيط ونافذة سياق بمليون رمز، و5.3 في أغسطس على الأساس نفسه مع تغييرات في ما بعد التدريب؛ وتبعه بأيام نموذج GLM-5.3-Flash الأصغر بـ٣٢٠ مليار وسيط إجمالًا و١٨ مليار وسيط نشط. وحجم الأعضاء الأكبر يجعل الاستضافة الذاتية كثيفة الموارد.

  • الأوزان المفتوحة
  • MoE
  • السياق الطويل
2026

Kimi K3

أصدرت Moonshot AI نموذج Kimi K3 في يوليو ٢٠٢٦ نموذجًا لغويًا مفتوح الأوزان متعدد الوسائط أصلًا بمزيج خبراء، بـ٢٫٨ تريليون وسيط إجمالًا و١٠٤ مليارات وسيط نشط ونافذة سياق بمليون رمز. وهو يستهدف البرمجة بعيدة الأفق والعمل المعرفي والوكلاء المستعملين للأدوات، بينما يجعل حجمه النشر المحلي شاقًا.

  • الأوزان المفتوحة
  • MoE
  • السياق الطويل

هذه خريطة تقنية منتقاة، لا ادّعاء بتغطية شاملة.