نماذج اللغة2023متوسط10 دقيقة قراءة
التقرير التقني لـ GPT-4
GPT-4 Technical Report
OpenAI — arXiv
المشكلة
بحلول عام 2022، كانت النماذج اللغوية الكبيرة مثل GPT-3.5 قد أبهرت الجميع بقدراتها، لكن مشكلة جوهرية ظلت قائمة: لا أحد يستطيع التنبؤ بأداء نموذج ضخم قبل أن ينتهي تدريبه الذي يكلف ملايين الدولارات. إضافةً إلى ذلك، كانت النماذج تعاني من أخطاء واقعية ومشاكل في السلامة، ولم تكن قادرة على فهم الصور جنباً إلى جنب مع النصوص. الفجوة بين ما تقدِّمه هذه النماذج وما يحتاجه المتخصصون كانت لا تزال واسعة.
الإسهام
GPT-4 هو نموذج Transformer ضخم يستقبل نصوصاً وصوراً ويُنتج نصوصاً. يقدِّم ثلاث إسهامات جوهرية: (1) — بنية تحتية وأساليب تحسين تتيح للمهندسين التنبؤ بدقة بأداء GPT-4 انطلاقاً من نماذج دُرِّبت بجزء من ألف من الحوسبة، عبر قوانين أُسِّية. (2) أداء بمستوى البشر في الامتحانات — اجتاز GPT-4 امتحان المحاماة ضمن أفضل 10% وحقَّق 86.4% في متفوقاً على أفضل النتائج السابقة في 57 تخصصاً. (3) مسار سلامة مدعوم بالنموذج نفسه يعتمد على نماذج مكافأة قائمة على قواعد (RBRMs) وتعلُّم معزَّز من التغذية الراجعة البشرية، وقد خفَّض المحتوى المحظور بنسبة 82% مقارنةً بـ GPT-3.5.
الأثر
لم يكتفِ GPT-4 بالتفوق في المعايير الأكاديمية، بل اجتاز امتحانات مهنية حقيقية في القانون والطب والعلوم التطبيقية — مما غيَّر نظرة المجتمع لقدرات الذكاء الاصطناعي. منهجية التوسُّع القابل للتنبؤ أثبتت أن تدريب النماذج الضخمة لا يجب أن يكون رهاناً في المجهول. ومسار السلامة الذي قدَّمه أصبح قالباً تتبنّاه المختبرات الكبرى. يُشغِّل GPT-4 اليوم ChatGPT وMicrosoft Copilot ومئات التطبيقات المؤسسية، وهو يمثل نقطة التحوُّل التي انتقلت فيها النماذج اللغوية الكبيرة من أدوات بحثية إلى بنية تحتية أساسية.
تدريب يشبه بناء ناطحة سحاب: كلما ارتفع البناء، زادت المخاطر المجهولة — هل ستتحمل الأساسات؟ هل ستخرج التكاليف عن السيطرة؟ الطريقة التقليدية هي أن تبني وتأمل أن كل شيء سيكون على ما يُرام.
ما فعله GPT-4 يشبه اكتشاف أن مُجسَّماً مصغَّراً في نفق رياح يستطيع التنبؤ بدقة بسلوك ناطحة السحاب الحقيقية. باختبار نماذج صغيرة أولاً، عرف المهندسون ما ينتظرهم من النموذج الكامل — قبل أن يُنفقوا الحوسبة الهائلة على بنائه.
وإلى جانب ذلك، زُوِّدت ناطحة السحاب بـنظام حماية ذكي: مسار سلامة يراقب المخرجات الضارة كما يراقب نظام إنذار متقدِّم المتسللين — مستخدماً ذكاء المبنى نفسه لحماية من بداخله.
ما هو GPT-4؟
GPT-4 هو واسع النطاق مبني على بنية . مثل سابقيه، يمر أولاً بمرحلة يتعلم فيها التنبؤ بـ التالي في النص، ثم يخضع لـ عبر ليتعلم اتباع التعليمات والتصرف بأمان. لكن GPT-4 يأتي بقفزتين نوعيتين: أولاً، يستطيع استقبال الصور إلى جانب النص كمدخلات. ثانياً، طوَّر فريقه أساليب للتنبؤ بأدائه النهائي قبل اكتمال التدريب.
التقرير لا يكشف عن تفاصيل البنية الداخلية — لا حجم النموذج، ولا العتاد، ولا حجم الحوسبة، ولا طريقة بناء بيانات التدريب — لأسباب تتعلق بالمنافسة والسلامة. ما يركِّز عليه التقرير هو كيف يؤدي GPT-4، وكيف أمكن التنبؤ بهذا الأداء، وكيف جرى تحسين سلامته.
التوسُّع القابل للتنبؤ: معرفة الإجابة قبل الامتحان
الفكرة الهندسية المحورية في GPT-4 هي أن أداء النموذج عند الأحجام الضخمة يمكن التنبؤ به من تجارب صغيرة النطاق. تدريب GPT-4 تطلَّب حوسبة هائلة — أكبر بكثير من أن تُترك للتجربة والخطأ. بدلاً من ذلك، درَّب الفريق نماذج أصغر بكثير بالمنهجية ذاتها، ثم رسم للتنبؤ بـ النهائية.
الفكرة بسيطة: تخيَّل أنك ترسم كفاءة استهلاك الوقود لنماذج مصغَّرة من سيارة بأحجام مختلفة. إذا رسمت البيانات على منحنًى سلس، يمكنك أن تتنبأ بأداء السيارة الحقيقية دون أن تبنيها. المعادلة الأساسية هي قانون أُسّي يتضمن حدّاً للخسارة غير القابلة للاختزال — أي الحد الأدنى من الخطأ الذي لا يمكن تجاوزه مهما زدتَ الحوسبة.
والنتيجة؟ تطابق التنبؤ مع خسارة GPT-4 الفعلية بدقة ملفتة — وقد تمَّ ذلك قبل اكتمال التدريب الكامل، باستخدام نماذج دُرِّبت بجزء من عشرة آلاف من الحوسبة على الأكثر.
أداء بمستوى البشر في الامتحانات
خضع GPT-4 لامتحانات مصمَّمة للبشر — امتحانات المحاماة وSAT واختبارات AP وتقييمات المعرفة الطبية وتحديات البرمجة — دون أي تدريب مخصَّص لها. وكانت النتائج لافتة:
- امتحان المحاماة الموحَّد: حقَّق نحو 298/400، أي ضمن أفضل 10% من المتقدمين (بينما سجَّل GPT-3.5 ضمن أدنى 10%).
- SAT رياضيات: 700/800 (الشريحة المئوية 89 تقريباً).
- MMLU (57 تخصصاً أكاديمياً): دقة 86.4%، متفوقاً على جميع النماذج السابقة ومعظم الأنظمة المتخصصة في المعايير المرجعية.
- GRE لفظي: 169/170 (الشريحة المئوية 99 تقريباً).
هذه القدرات مصدرها بالدرجة الأولى التدريب المسبق وليس التعلم المعزَّز من التغذية الراجعة البشرية — فالنموذج الأساسي والنموذج المضبوط أدَّيا بشكل شبه متطابق في امتحانات الاختيار من متعدد (73.7% مقابل 74.0% في المتوسط عبر جميع الامتحانات).
ما وراء الإنجليزية: إتقان متعدد اللغات
لاختبار أداء GPT-4 بلغات غير الإنجليزية، ترجم الفريق معيار MMLU بأكمله إلى 26 لغة باستخدام Azure Translate. والنتيجة أن GPT-4 تفوَّق على درجات GPT-3.5 والنماذج السابقة مثل Chinchilla وPaLM بالإنجليزية في 24 من 26 لغة — بما فيها لغات محدودة الموارد كاللاتفية والويلزية والسواحيلية.
اللافت هنا أن GPT-4 لم يُدرَّب خصيصاً على بيانات امتحانات متعددة اللغات، ومع ذلك فإن فهمه للمفاهيم ينتقل بسلاسة عبر حدود اللغات. في العربية مثلاً، حقَّق GPT-4 دقة تقارب 80% في MMLU — مقارنةً بـ 70% لـ GPT-3.5 بالإنجليزية.
رؤية العالم: القدرة البصرية متعددة الوسائط
يستطيع GPT-4 استقبال مُدخلات تجمع بين الصور والنص معاً — وهي قدرة لم تكن متوفرة في نماذج GPT السابقة. يمكنه تفسير المخططات والصور الفوتوغرافية ولقطات الشاشة والصور الساخرة (memes)، وينتج استجابات نصية تعكس فهماً بصرياً حقيقياً. والتقنيات المعتادة مثل والاستدلال عبر تعمل بنفس الفاعلية مع المُدخلات البصرية.
فكِّر في الأمر وكأنك أعطيت النموذج عيوناً: حيث كان GPT-3.5 لا يستطيع إلا قراءة وصف نصّي لرسم بياني، يمكن لـ GPT-4 أن ينظر إلى الرسم مباشرةً ويجيب عن أسئلة حوله. يستطيع النموذج قراءة نصوص بخط اليد، وشرح النكتة في صورة ساخرة، وحل مسائل فيزياء من مخططات، وتلخيص أوراق أكاديمية بمجرد النظر إلى أشكالها.
ليس مثالياً بعد: قيود معروفة
رغم هذه القدرات، لا يزال GPT-4 يعاني من نفس القيود الجوهرية التي واجهتها نماذج GPT السابقة:
- : قد يولِّد النموذج نصاً سلساً ومقنعاً لكنه خاطئ واقعياً، وأحياناً بثقة عالية. صحيح أن GPT-4 حسَّن الدقة الواقعية بمقدار 19 نقطة مئوية مقارنةً بـ GPT-3.5 في اختبارات الدقة العدائية، لكن المشكلة لم تُحَل بالكامل.
- محدودة: يعالج النموذج مُدخلات بطول ثابت ولا يستطيع الرجوع إلى مصادر خارجية أثناء التوليد.
- لا يتعلم من تجاربه: بخلاف البشر، لا يتعلم GPT-4 من تفاعلاته بعد انتهاء التدريب.
- تراجع بعد التعلم المعزَّز: النموذج المُدرَّب مسبقاً ذو معايرة ممتازة (ثقته تتوافق مع دقته الفعلية)، لكن التعلم المعزَّز يُضعف هذه المعايرة — فيصبح النموذج أحياناً مفرط الثقة وأحياناً أقل ثقة مما ينبغي.
كيف أصبح أكثر أماناً: مسار السلامة المدعوم بالنموذج
قدَّم GPT-4 نهجاً مزدوجاً للسلامة يستخدم النموذج نفسه كأداة لـ.
الشقّ الأول هو بواسطة خبراء متخصصين: أكثر من 50 متخصصاً في الأمن السيبراني والأمن البيولوجي والأمن الدولي فحصوا النموذج بحثاً عن قدرات خطيرة. نتائج هذا الفحص وجَّهت عملية جمع بيانات مستهدفة — مثل تعليم GPT-4 رفض الطلبات المتعلقة بتخليق مواد كيميائية خطيرة.
الشقّ الثاني هو (RBRMs): وهي مصنِّفات تعمل بدون أمثلة مسبقة، تستخدم GPT-4 نفسه لتقييم المخرجات وتوفير إشارة إضافية أثناء التعلم المعزَّز. تتلقى هذه المصنِّفات المُدخَل واستجابة النموذج ومعياراً وضعه بشر (مثل: «صنِّف الاستجابة إلى: رفض مرغوب / رفض غير مرغوب / محتوى محظور / استجابة آمنة»)، ثم تصنِّف المخرَج. هذا يُمكِّن النظام من مكافأة الرفض الصحيح للطلبات الخطيرة ومعاقبة الرفض المفرط للطلبات الآمنة في الوقت نفسه.
النتيجة: انخفاض بنسبة 82% في الاستجابات للمحتوى المحظور مقارنةً بـ GPT-3.5، وتحسُّن بنسبة 29% في الاستجابة المناسبة للطلبات الحساسة.
مسار تدريب GPT-4 المتكامل
يتكون مسار تدريب GPT-4 من ثلاث مراحل رئيسية، كل واحدة تبني على ما قبلها:
المرحلة الأولى — التدريب المسبق: يتعلم النموذج التنبؤ بـالرمز التالي من مجموعة ضخمة من النصوص والصور مصدرها الإنترنت ومصادر مرخَّصة. في هذه المرحلة يكتسب النموذج معرفته الواسعة باللغة والاستدلال والحقائق والبرمجة. قوانين التوسُّع التي ذكرناها سابقاً تتيح للمهندسين التنبؤ بنتائج هذه المرحلة.
المرحلة الثانية — الضبط الدقيق المُشرَف عليه (SFT): يكتب مقيِّمون بشريون استجابات مثالية لمجموعة متنوعة من المُدخلات، ويتعلم النموذج اتباع التعليمات عبر محاكاة هذه الأمثلة.
المرحلة الثالثة — التعلم المعزَّز مع نماذج المكافأة القائمة على القواعد: يُرتِّب مقيِّمون بشريون عدة استجابات للنموذج حسب جودتها، مما يُدرِّب نموذج مكافأة يعكس التفضيلات البشرية. بعدها يُحسَّن النموذج بناءً على نموذج المكافأة هذا، مع إشارات مكافأة إضافية من نماذج قائمة على القواعد (RBRMs) لتوجيه سلوك السلامة بدقة أعلى.
قانون التوسُّع برمجياً
مبسَّط لإظهار الفكرة — ليس التنفيذ الحقيقي.
import numpy as np
from scipy.optimize import curve_fit
def scaling_law(C, a, b, c):
"""قانون أُسِّي مع خسارة غير قابلة للاختزال: L(C) = a * C^b + c"""
return a * np.power(C, b) + c
# ميزانيات الحوسبة (مُعيَّرة) والخسائر النهائية للنماذج الصغيرة
small_compute = np.array([1e-4, 3e-4, 1e-3, 3e-3, 0.01, 0.03, 0.1])
small_losses = np.array([5.8, 5.2, 4.5, 4.0, 3.6, 3.2, 2.8])
# ملاءمة قانون التوسُّع على النماذج الصغيرة فقط
params, _ = curve_fit(scaling_law, small_compute, small_losses,
p0=[5.0, -0.1, 1.5], maxfev=10000)
a, b, c = params
# التنبؤ بأداء GPT-4 (حوسبة = 1.0، مُعيَّرة)
gpt4_predicted_loss = scaling_law(1.0, a, b, c)
gpt4_actual_loss = 1.8 # الخسارة الفعلية النهائية
print(f"المتوقع: {gpt4_predicted_loss:.2f}")
print(f"الفعلي: {gpt4_actual_loss}")
print(f"الحد الأدنى للخسارة: {c:.2f}")
# التنبؤ يتطابق تقريباً — هذا هو التوسُّع القابل للتنبؤ.لماذا كان هذا مهماً
2018
GPT-1 — 117 مليون معامل
أثبت أن التدريب المسبق غير المُشرَف على معمارية Transformer يُمكن نقله إلى مهام تطبيقية لاحقة. كان هذا بذرة نموذج «تنبأ بالكلمة التالية».
2019
GPT-2 — 1.5 مليار معامل
التوسيع عشر مرات كشف عن قدرات ناشئة دون تقديم أمثلة. حجبت OpenAI النموذج الكامل في البداية خوفاً من سوء الاستخدام — في أول نقاش واسع حول سلامة الذكاء الاصطناعي.
2020
GPT-3 — 175 مليار معامل
تعلُّم بأمثلة قليلة دون ضبط دقيق. استطاع النموذج الترجمة وكتابة الكود وإجراء العمليات الحسابية من الأمثلة وحدها. أثبت أن زيادة الحجم تُطلق قدرات ناشئة.
2022
ChatGPT (GPT-3.5) — ثورة التعلم المعزَّز
الضبط بالتعليمات والتعلم المعزَّز بالتغذية الراجعة البشرية حوَّلا نموذج اللغة إلى منتج حواري. 100 مليون مستخدم في شهرين. أثبت أن تقنيات المحاذاة تعمل على نطاق واسع.
2023
GPT-4 — متعدد الوسائط، قابل للتنبؤ، وأكثر أماناً
أضاف الرؤية البصرية والتوسُّع القابل للتنبؤ ومسار سلامة مدعوماً بالنموذج نفسه. اجتاز امتحان المحاماة ضمن أفضل 10%. نقل النماذج اللغوية الكبيرة من أدوات بحثية إلى بنية تحتية مهنية.
2024
GPT-4o — شامل الوسائط
وسَّع القدرات متعددة الوسائط لتشمل الكلام، وأتاح محادثة صوتية آنية مع استدلال يجمع بين النص والصورة والصوت بشكل أصيل.
المرجعOpenAI. GPT-4 Technical Report. arXiv, 2023.
مصطلحات هذه الورقة
- قانون التحجيمScaling Law
- التوسُّع القابل للتنبؤPredictable Scaling
- الفقد غير القابل للاختزالIrreducible Loss
- قانون القدرةPower Law
- التعلُّم المعزز من التغذية الراجعة البشريةRLHF
- نماذج المكافأة القائمة على القواعدRule-Based Reward Models
- الاختبار العدائيRed Teaming
- المحاذاةAlignment
- خط أنابيب السلامةSafety Pipeline
- متعدد الوسائطMultimodal
- الهلوسة الرقميةHallucination
- المعايرةCalibration
- MMLUMMLU
- الضبط الدقيق الخاضع للإشرافSupervised Fine-Tuning
- نموذج المكافأةReward Model