العربية
العودة إلى الصفحة الرئيسية

بنية النماذج

البنى التي تحدّد كيف تُمثّل النماذج المعلومات وكيف تحوّلها.

٣ مدخلات

الأطر والتمثيل

البرمجيات وواجهات البيانات المستخدمة في بناء النماذج وتدريبها وتشغيلها.

٣ مدخلات

التدريب وما بعد التدريب

طرائق التوسيع والتكييف والمواءمة مع التفضيلات التي تشكّل قدرات النماذج وسلوكها.

٤ مدخلات
2012–present

Distributed Training

تقنيات تقسّم البيانات أو الوسائط أو التفعيلات أو الحساب عبر الأجهزة والعقد. وهي تتيح تدريب النماذج الكبيرة لكنها تُدخل مقايضات في الاتصال والتزامن وتحمّل الأعطال.

  • data parallelism
  • tensor parallelism
  • pipeline parallelism
2017 / 2022 / 2023

SFT / RLHF / DPO

عائلة من طرائق ما بعد التدريب لتعليم اتّباع التعليمات والسلوك المتوائم مع التفضيلات. يتعلّم SFT من عروض عملية، بينما يستعمل RLHF وDPO مقارنات تفضيلية عبر إجراءات استمثال مختلفة.

  • supervised fine-tuning
  • preference data
  • reward model
2024 / 2025

Reasoning and test-time compute

تدريب لاحق يعلّم النموذج أن ينتج أثر استدلال طويلًا قبل الإجابة، وأن ينفق حسابًا أكبر عند الاستدلال كلما صعبت المسألة. والتعلّم المعزّز بمكافآت قابلة للتحقق — حيث تمدّ إجابة قابلة للفحص إشارة التدريب — هو ما جعل المقاربة قابلة لإعادة الإنتاج خارج المختبرات المغلقة. والمقايضة جديرة بأن تُقال صراحةً: دقة تُشترى بطول التوليد لا بنموذج أكبر، ويُدفع ثمنها من زمن الاستجابة وكلفة التقديم.

  • reasoning traces
  • verifiable rewards
  • inference budget
2021 / 2023

LoRA / QLoRA

طرائق ضبط دقيق موفّرة للوسائط تدرّب مكيّفات صغيرة منخفضة الرتبة مع إبقاء الأوزان الأساس مجمَّدة. ويجمع QLoRA بين المكيّفات ونموذج أساس مكمَّم لخفض استهلاك الذاكرة أكثر.

  • low-rank adapters
  • frozen base model
  • 4-bit training

الاستدلال والنشر

تقنيات الذاكرة والجدولة والضغط ووقت التشغيل المستخدمة في تقديم النماذج.

٥ مدخلات
2015 / LLM PTQ 2022

Quantization

تمثيل الأوزان أو التفعيلات أو الذواكر بدقة عددية أدنى. وقد يخفض ذلك كلف الذاكرة وعرض النطاق والحساب، مع مقايضات في الدقة وفي دعم العتاد.

  • precision
  • INT8
  • INT4
2017–present

KV Cache

ذاكرة لمفاتيح الانتباه وقيمه من الرموز السابقة في أثناء التوليد الانحداري الذاتي. وهي تتجنّب إعادة حساب البادئة كاملةً، لكنها كثيرًا ما تصير مستهلكًا رئيسًا للذاكرة.

  • keys
  • values
  • prefill
2022–2023

Continuous Batching / PagedAttention

تقنيات تقديم تقبل الطلبات وتُنهيها باستمرار مع إدارة ذاكرة KV في صفحات. وهما معًا يحسّنان الاستغلال والإنتاجية تحت أحمال متغيّرة الطول.

  • request scheduling
  • memory paging
  • throughput
2022

Speculative Decoding

طريقة استدلال يقترح فيها مسوّدة أسرع عدة رموز يتحقّق منها النموذج الهدف على التوازي. وقد تخفض زمن التوليد دون تغيير توزيع الهدف.

  • draft model
  • verification
  • latency
2023–present

Open-model Inference Ecosystem

محرّكات وأزمنة تشغيل مثل vLLM وllama.cpp تحوّل أوزان النماذج القابلة للتنزيل إلى استدلال محلي أو خادمي. وتختلف أولوياتها بين الإنتاجية وقابلية النقل بين العتاد وصيغ النماذج والتعقيد التشغيلي.

  • vLLM
  • llama.cpp
  • GGUF

طبقة التطبيقات

بنية التطبيقات

تصير النماذج منتجات عبر مسارات العمل والأدوات وتبادل السياق وحواجز الأمان والتقييم. يغطي قسما MCP والأدوات هذه الطبقة التطبيقية، فلا حاجة إلى تكرارها هنا.

حالات النماذج المفتوحة

عائلات نماذج مفحوصة من خلال الشِفرة والأوزان وإفصاح التدريب والرخصة.

٩ مدخلات
2023

Llama

ساعدت عائلة نماذج Meta القابلة تنزيل أوزانها على توسيع الاستدلال المحلي والضبط الدقيق اللاحق. وتستعمل إصداراتها شروطًا خاصة بـLlama، فعبارة «أوزان مفتوحة» أدقّ من افتراض مصدر مفتوح بتعريف OSI.

  • open weights
  • community license
  • model family
2023

Qwen

تمتد عائلة Qwen من Alibaba عبر إصدارات كثيفة وموجَّهة الخبراء ومتعددة اللغات ومتعددة الوسائط. وكثير من نقاط التحقق قابل للتنزيل علنًا، لكن دعاوى الرخصة والإفصاح ينبغي فحصها على مستوى بطاقة النموذج المفردة.

  • multilingual
  • dense and MoE
  • open weights
2023

Mistral / Mixtral

تضم عائلة Mistral AI نماذج Mistral الكثيفة ونماذج Mixtral الموجَّهة الخبراء معًا. وتستعمل بعض الإصدارات رخصًا متساهلة دون بعضها الآخر، فيجب تقدير الانفتاح لكل أثر على حدة.

  • dense models
  • MoE
  • open weights
2023

DeepSeek

جعلت إصدارات DeepSeek القابلة للتنزيل تصميم مزيج الخبراء والتدريب اللاحق للاستدلال والتقديم الكفء موضع دراسة واسعة. وقد تستعمل الشِفرة والأوزان رخصًا مختلفة، والإفصاح عن بيانات التدريب بُعد منفصل.

  • MoE
  • reasoning
  • open weights
2024

Gemma

تصل عائلة Google القابلة تنزيل أوزانها أبحاثًا مشتقّة من Gemini بالنشر المحلي والطرفي والمستضاف. وتسمّي Google العائلة نماذج مفتوحة، بينما يبقى الاستعمال محكومًا بشروط خاصة بـGemma.

  • open weights
  • lightweight models
  • edge deployment
2024

OLMo

يصدر Ai2 عائلة OLMo مع بيانات تدريبها المسبق وشِفرة تدريبها ونقاط تحققها الوسيطة وسجلاتها إلى جانب الأوزان. وظهر OLMo الأول في فبراير ٢٠٢٤، وOLMo 2 في نوفمبر من العام نفسه، وOlmo 3 في نوفمبر ٢٠٢٥ بأحجام ٧ و٣٢ مليار وسيط في صيغ Base وInstruct وThink برخصة Apache 2.0. وهي الحالة التي تُنشر فيها فعلًا الأمور الأربعة الجديرة بالفحص كلٌّ على حدة — الشِفرة والأوزان وإفصاح التدريب والرخصة — وهو ما يجعلها مرجعًا في مقابل عائلات لا تصدر إلا الأوزان.

  • fully open
  • open training data
  • intermediate checkpoints
2025

gpt-oss

نموذجا OpenAI المسمّيان gpt-oss-120b وgpt-oss-20b نموذجا استدلال بمزيج خبراء قابلان للتنزيل مصمَّمان للاستدلال المحلي والمستضاف. وأوزانهما وتنفيذاتهما المرجعية برخصة Apache 2.0 توسّع إتاحة النشر، بينما لا تُصدَر مجموعة بيانات التدريب المسبق نفسها.

  • open weights
  • reasoning
  • MoE
2026

GLM-5

سلسلة GLM-5 من Z.ai عائلة نماذج لغوية كبيرة بمزيج خبراء للاستدلال والبرمجة والعمل الوكيل بعيد الأفق. ظهر GLM-5 في فبراير ٢٠٢٦، و5.1 في أبريل، و5.2 في يونيو بـ٧٥٣ مليار وسيط ونافذة سياق بمليون رمز، و5.3 في أغسطس على الأساس نفسه مع تغييرات في ما بعد التدريب؛ وتبعه بأيام نموذج GLM-5.3-Flash الأصغر بـ٣٢٠ مليار وسيط إجمالًا و١٨ مليار وسيط نشط. وحجم الأعضاء الأكبر يجعل الاستضافة الذاتية كثيفة الموارد.

  • open weights
  • MoE
  • long context
2026

Kimi K3

أصدرت Moonshot AI نموذج Kimi K3 في يوليو ٢٠٢٦ نموذجًا لغويًا مفتوح الأوزان متعدد الوسائط أصلًا بمزيج خبراء، بـ٢٫٨ تريليون وسيط إجمالًا و١٠٤ مليارات وسيط نشط ونافذة سياق بمليون رمز. وهو يستهدف البرمجة بعيدة الأفق والعمل المعرفي والوكلاء المستعملين للأدوات، بينما يجعل حجمه النشر المحلي شاقًا.

  • open weights
  • MoE
  • long context

هذه خريطة تقنية منتقاة، لا ادّعاء بتغطية شاملة.