القدرات الناشئة في النماذج اللغوية الكبيرة

الفكرة مستعارة من الفيزياء. حين تُسخَّن جزيئات الماء، يزداد تحرّك كل جزيء قليلاً — تغيُّر سلس يمكن التنبّؤ به. لكن عند 100 درجة مئوية يحدث تحوُّل طوري: السائل يصير غازاً. السلوك الجماعي يتغيّر تغيُّراً نوعياً رغم أن السبب الكامن وراءه — زيادة الطاقة الحركية — كان تدريجياً.

نقل وي وزملاؤه هذه الفكرة إلى عالم النماذج اللغوية. عرّفوا القدرة الناشئة بأنها قدرة لا وجود لها في النماذج الصغيرة لكنها تظهر في النماذج الأكبر. والنقطة الجوهرية أن هذه القدرة لا يمكن توقّعها من خلال استقراء أداء النماذج الأصغر. لو رسمتَ منحنى الأداء مقابل الحجم لقدرة عادية، لرأيت صعوداً سلساً ومتدرّجاً. أما في حالة القدرة الناشئة، فسترى خطّاً مسطّحاً عند مستوى التخمين العشوائي ثم قفزة حادّة مفاجئة.

قاس المؤلّفون حجم النموذج على محورين: عدد المعاملات، وإجمالي حوسبة التدريب مقاساً بوحدة عمليات الفاصلة العائمة. هذا المقياس الثاني مهم لأنه يجمع بين حجم النموذج ومدّة تدريبه — فنموذج أصغر دُرِّب على بيانات أكثر قد يُضاهي نموذجاً أكبر دُرِّب على بيانات أقل.

أول نمط من النشوء تفحصه الورقة يتعلّق بما يُعرف بـالتلقين بأمثلة قليلة. الفكرة — التي شاعت مع GPT-3 — بسيطة: تُعطي النموذج تعليمات بلغة طبيعية مع حفنة من الأمثلة (مدخل ومخرج)، ثم تطلب منه تنفيذ المهمة على مدخل جديد — دون أي تعديل في معاملاته ودون ضبط دقيق.

النتيجة اللافتة: في عدد كبير من المهام، يظلّ أداء النماذج الصغيرة قريباً من التخمين العشوائي مهما أتقنتَ صياغة التلقين. لكن بمجرّد تجاوز حجم حرج، يقفز الأداء قفزة حادّة. وثّقت الورقة هذا النمط عبر مهام متنوّعة من معيارين مرجعيين رئيسيين.

BIG-Bench — مجموعة تعاونية تضمّ أكثر من 200 مهمة — قدّمت أمثلة واضحة. مثلاً، جمع وطرح أعداد من ثلاثة أرقام يُعطي دقّة شبه صفرية في نماذج GPT-3 تحت 13 مليار معامل ($\sim 2 \times 10^{22}$ عملية حسابية)، ثم يقفز فجأة إلى دقّة عالية. LaMDA يُظهر النمط نفسه لكن عند 68 مليار معامل ($\sim 10^{23}$ عملية حسابية). ومن المهام الناشئة الأخرى: النقل الحرفي من الألفبائية الصوتية الدولية، واسترجاع كلمات مبعثرة الحروف، والإجابة عن أسئلة بالفارسية.

MMLU — معيار مرجعي يغطّي 57 مادة دراسية — كشف أن كل مجال يصبح ناشئاً عند حجم مختلف. العلوم الإنسانية والاجتماعية كانت الأكثر وضوحاً في هذا النمط، إذ لم تتجاوز مستوى التخمين العشوائي إلا عند أكبر أحجام النماذج. وتكرّر هذا السلوك عبر GPT-3 وChinchilla وGopher.

المعيار الثالث — TruthfulQA — كشف نمطاً يبدو متناقضاً للوهلة الأولى: نماذج Gopher الأكبر كانت أسوأ في الصدق، لأنها تولّد إجابات تبدو واثقة لكنها خاطئة. ولم يتعافَ الأداء إلا عند الحجم الأكبر. الدلالة هنا مهمّة: النشوء ليس دائماً حكاية «الأكبر هو الأفضل». بعض القدرات قد تتراجع مؤقتاً مع التوسيع قبل أن تنضج وتظهر في النهاية.

الفئة الثانية أعمق من مجرّد مهام منفردة. هنا نجد أن استراتيجيات التلقين نفسها ناشئة — أي أنها تُضرّ بالنماذج الصغيرة وتنفع الكبيرة فقط.

خذ مثلاً سلسلة التفكير: تطلب من النموذج أن يُظهر خطوات استدلاله قبل أن يُعطي الإجابة النهائية. في عائلة LaMDA، لا تتفوّق هذه الطريقة على التلقين المباشر إلا فوق $\sim 10^{23}$ عملية حسابية (نحو 100 مليار معامل). تحت هذه العتبة، مطالبة النموذج بالتفكير خطوة بخطوة تُضعف أداءه فعلاً مقارنة بالإجابة المباشرة. السبب بسيط: النموذج الصغير لا يستطيع الحفاظ على تسلسل استدلالي متماسك، فتتراكم الأخطاء في كل خطوة بدل أن تُبنى الإجابة بنيةً صحيحة.

اتّباع التعليمات يسلك المسلك نفسه. الضبط الدقيق على خليط من المهام المصوغة كتعليمات (منهج FLAN) يُمكّن النموذج من التعميم بلا أمثلة على مهام لم يرَها من قبل — لكن هذا لا ينجح إلا فوق نحو 68 مليار معامل. تحت هذا الحجم، يُدهور ضبط التعليمات الأداءَ مقارنة بالنموذج الأصلي.

أما المسوّدة الحسابية — حيث يكتب النموذج الخطوات الوسيطة كعمليات الحمل في الجمع — فلا تنفع إلا النماذج الكبيرة. في نماذج LaMDA الصغيرة، المسوّدة تُضيف ضوضاء بدل أن تُضيف بنية.

الورقة صريحة هنا: لا نعرف السبب. المؤلّفون يعرضون النمط التجريبي ولا يدّعون تفسيره آليّاً، لكنهم يطرحون فرضيتين تستحقّان التأمّل.

الفرضية الأولى أن القدرة الناشئة تحتاج إلى تضافر عدّة مهارات فرعية في آنٍ واحد. النموذج يحتاج أن يُتقن التقسيم إلى رموز والنحو والدلالة والمعرفة العامة وصيغة المهمة معاً — ولا تظهر القدرة المركّبة إلا حين تتخطّى كلُّ مهارة فرعية عتبتها الخاصة. الصورة الذهنية هنا هي قفل بأقراص متعدّدة: تحريك كل قرص نحو الرقم الصحيح لا يُحدث شيئاً مرئياً حتى تستقرّ جميع الأقراص في أماكنها دفعة واحدة فينفتح القفل.

الفرضية الثانية تتعلّق بالعلاقة بين خسارة التدريب المسبق وأداء المهمة. الخسارة تنخفض بسلاسة، لكن الربط بين مقدار الخسارة والأداء على مهمة محدّدة قد يكون شديد اللاخطّية. تحسُّن صغير في الخسارة قرب منطقة حرجة يمكن أن يُقابله قفزة كبيرة في الدقّة — خاصةً في المهام التي تستخدم معايير نجاح حادّة مثل المطابقة التامّة.

الورقة لا تحسم أيّ التفسيرين أصحّ، وقد تحوّل هذا السؤال المفتوح إلى أحد أنشط محاور البحث بعد نشرها.

في عام 2023 نشر شايفر وميراندا وكويجو ردّاً مثيراً: هل القدرات الناشئة في النماذج اللغوية الكبيرة مجرد سراب؟ حجّتهم أنيقة وتستحقّ الفهم.

الملاحظة الأساسية: معظم المهام التي وُصفت بأنها «ناشئة» قيست بمقاييس غير مستمرة — مثل دقّة المطابقة التامّة التي تمنح صفراً لأيّ إجابة فيها خطأ واحد. بهذا المقياس، نموذج يُصيب أربعة أرقام من خمسة في مسألة حسابية يحصل على الدرجة نفسها التي يحصل عليها نموذج يُخمّن عشوائياً. النتيجة: تبدو منحنيات الأداء مسطّحة رغم أن النموذج يتحسّن فعلاً تحت السطح.

حين أعاد شايفر وزملاؤه تقييم المهام ذاتها بمقاييس مستمرة — مثل مسافة التعديل على مستوى الرموز أو دقّة كل رقم على حدة — اختفت القفزات الحادّة. الأداء تحسّن بسلاسة مع التوسيع. وتلاشت أكثر من 92% من القدرات الناشئة في BIG-Bench حين قيست بمقاييس خطّية.

خلاصتهم: ربما لا يكون النشوء صفةً للنموذج بل صفةً لطريقة القياس. قدرة النموذج الحقيقية تتحسّن بسلاسة، لكن المقياس الخشن يخلق وهم القفزة — تماماً كما لو قست قدرة لاعب الوثب العالي بـ«نجاح أو رسوب» على ارتفاع ثابت بدلاً من قياس الارتفاع الفعلي الذي يقفزه.

سواء كان النشوء ظاهرة حقيقية أم وهماً يصنعه المقياس — جزئياً على الأقل — فإن النتائج العملية عميقة الأثر.

لمطوّري النماذج: إن كانت القدرات الناشئة موجودة فعلاً، فلا سبيل إلى توقّعها بتقييم نماذج أصغر. هذا يعني أنك لن تستطيع معرفة ما يقدر عليه نموذجك الجديد حتى تبنيه وتختبره — وهو وضع مُقلق لمن يخطّط للأمان. ببساطة، الطريقة الوحيدة لمعرفة ما يستطيعه نموذج بعشرة تريليونات معامل هي أن تبنيه.

لأمان الذكاء الاصطناعي: ظهور قدرات غير متوقَّعة مصدر قلق جوهري. إن كان النموذج قادراً على اكتساب قدرات لم يُخطَّط لها، فقد يكتسب أيضاً قدرات خطرة — كتوليد معلومات مضلّلة مُقنِعة أو اكتشاف ثغرات أمنية — دون أن ينتبه أحد مسبقاً. الورقة تُشير صراحةً إلى أن النشوء قد يشمل قدرات ضارّة.

لتصميم المعايير المرجعية: النقاش حول المقاييس يكشف أن طريقة القياس لا تقلّ أهمية عن الشيء الذي نقيسه. المقاييس الخشنة الثنائية قد تُخفي تحسّناً تدريجياً حقيقياً، والمقاييس الناعمة قد تفوّت تحوّلات نوعية. يحتاج المجال إلى أُطر تقييم تلتقط كلا النمطين.

تُختتم الورقة بجملة تقرأها اليوم فتبدو نبوءة: «مزيد من التوسيع قد يفتح نطاقاً أوسع من القدرات». ومنذ 2024 وحتى الآن، تحقّق هذا التوقّع مراراً وتكراراً.

نقاش النشوء كشف حقيقة أعمق عن أبحاث الذكاء الاصطناعي: ما نراه يعتمد على الطريقة التي نقيس بها. سواء كانت القدرات الناشئة تحوّلات طورية حقيقية أم انعكاساً لطريقة القياس، فالنتيجة العملية واحدة — تكبير النماذج اللغوية يُفرز قدرات لم تُتوقَّع ولا يسهل التنبّؤ بها وتحتاج إلى تقييم دقيق ومتأنٍّ. الإسهام الباقي لهذه الورقة ليس إجابة نهائية عن النشوء، بل إطار يساعدنا على طرح الأسئلة الصحيحة: ما الذي يُخبرنا به التوسيع فعلاً، وما الذي لا يُخبرنا به؟