التحفيز بسلسلة التفكير يستخرج الاستدلال من النماذج اللغوية الكبيرة

بحلول 2022 كانت النماذج اللغوية الكبيرة قد أتقنت طيفاً واسعاً من المهام عبر التحفيز بأمثلة قليلة — تعرض على النموذج بضعة أزواج من الأسئلة والأجوبة فيُعمِّم على أسئلة جديدة. لكن لهذه القدرة سقفاً واضحاً: الاستدلال متعدد الخطوات. نموذج قادر على تلخيص فقرة أو ترجمة جملة كان يعجز عن حلّ مسألة مثل «عند سامر 5 كرات تنس، اشترى علبتين في كل واحدة 3 كرات، كم كرة لديه الآن؟» — فيُجيب بثقة وبإجابة خاطئة.

كان هناك نهجان لكن لكلّ منهما عيب جوهري:

• التدريب بالمبررات — تدريب النموذج على حلول مفصّلة خطوة بخطوة. ينجح فعلاً، لكنه يحتاج آلاف المبرِّرات المكتوبة يدوياً لكل مهمة، فيصبح مكلفاً وغير قابل للنقل إلى مهام أخرى.

• التحفيز المعياري بأمثلة قليلة — تعرض على النموذج أزواج مدخلات ومخرجات. أسلوب رخيص وعام، لكن أداءه في مهام الاستدلال ظلّ ثابتاً حتى مع نمو النماذج من مليار إلى أكثر من 100 مليار مُعامِل. السعة الأكبر لم تعنِ استدلالاً أفضل.

فكان السؤال: هل يمكن الاستفادة من الاستدلال المرحلي دون تكلفة التدريب المخصّص لكل مهمة؟

الحل بسيط لدرجة تكاد تكون محرجة. بدلاً من أمثلة تربط كل سؤال بإجابة مجرّدة، اربط كل سؤال بـسلسلة تفكير — أي مجموعة خطوات استدلال وسيطة بلغة طبيعية — ثم الجواب في النهاية. يرى النموذج هذه الأمثلة المحلولة فيحاكي نمطها: يُولِّد سلسلة تفكير خاصة به لكل سؤال جديد، يُفكِّك المسألة إلى خطوات يسهل التعامل معها قبل أن يصل إلى الإجابة النهائية.

عملياً يصبح كل مثال ثلاثياً: ⟨مُدخَل، سلسلة تفكير، مُخرَج⟩. سلسلة التفكير ليست برهاناً رياضياً ولا برنامجاً — بل كلام عادي يشبه طريقة الإنسان حين يشرح حلّ مسألة بصوت عالٍ. مثلاً:

س: كان في المقصف 23 تفاحة. استخدموا 20 للغداء واشتروا 6 أخرى. كم تفاحة لديهم؟

ج: كان في المقصف 23 تفاحة. استخدموا 20 للغداء، فبقي 23 − 20 = 3. اشتروا 6 أخرى، فأصبح لديهم 3 + 6 = 9. الجواب هو 9.

لم يُضبَط أي نموذج ولم يُحدَّث أي تدرُّج. النموذج المجمّد نفسه الذي يُخفق تحت التحفيز المعياري ينجح تحت التحفيز بسلسلة التفكير — التغيير الوحيد هو محتوى التحفيز نفسه.

أهم ما كشفته الورقة هو أن التحفيز بسلسلة التفكير قدرة ناشئة مرتبطة بـحجم النموذج. في النماذج التي تقل عن 100 مليار مُعامِل تقريباً، إضافة أمثلة سلسلة التفكير تُضرّ بالأداء فعلاً — لأن النماذج الأصغر تُنتج سلاسل استدلال تبدو سلسة لغوياً لكنها مكسورة منطقياً، فتقود إلى إجابات أسوأ من التخمين المباشر.

لكن حين يتجاوز النموذج عتبة 100 مليار مُعامِل تقريباً، يُحدث التحفيز بسلسلة التفكير قفزة حادة في الأداء. على معيار GSM8K مثلاً، يقفز PaLM 540B من 17.9% بالتحفيز المعياري إلى 56.9% بسلسلة التفكير — أي أكثر من ثلاثة أضعاف. ويتكرر هذا النمط في مهام الحساب والحس السليم والاستدلال الرمزي: منحنى أداء مسطّح مع التحفيز المعياري، ومنحنى صاعد بحدّة مع سلسلة التفكير.

والنتيجة المهمة هنا: التحفيز المعياري لا يُظهر سوى الحد الأدنى لما تستطيعه النماذج اللغوية الكبيرة. هذه النماذج كانت تملك قدرات استدلال كامنة أخفاها أسلوب التقييم التقليدي — واحتاج الأمر إلى استراتيجية تحفيز مختلفة لإظهارها.

اختبر المؤلفون التحفيز بسلسلة التفكير على ثلاث فئات من مهام الاستدلال، باستخدام خمسة نماذج لغوية (GPT-3 وLaMDA وPaLM وUL2 وCodex) بأحجام مختلفة:

الاستدلال الحسابي — خمسة معايير لمسائل الرياضيات اللفظية (GSM8K وSVAMP وASDiv وAQuA وMAWPS). على GSM8K حقق PaLM 540B بسلسلة التفكير دقة 56.9%، متجاوزاً أفضل نتيجة سابقة حققها GPT-3 المضبوط دقيقاً مع مُحقِّق (55%). في المسائل الأسهل ذات الخطوة الواحدة كان التحسّن أقل — فسلسلة التفكير تُفيد أكثر كلّما زادت صعوبة المسألة.

استدلال الحس السليم — خمسة معايير (CSQA وStrategyQA وفهم التواريخ وفهم الرياضة وتخطيط الروبوت SayCan). حقق PaLM 540B بسلسلة التفكير أفضل نتيجة على StrategyQA بنسبة 75.6% مقابل 69.4%، وتفوّق على هاوٍ رياضي بلا مساعدة في فهم الرياضة بنسبة 95.4% مقابل 84%.

الاستدلال الرمزي — مهمتان اصطناعيتان: دمج الأحرف الأخيرة ("Amy Brown" ← "yn") وتتبّع حالة قلب العملة. مكّنت سلسلة التفكير من أداء شبه مثالي داخل النطاق، والأهم أنها حققت تعميماً طولياً — حل مسائل من 4 خطوات بعد رؤية أمثلة من خطوتين فقط.

لفهم سبب نجاح التحفيز بسلسلة التفكير، أجرى المؤلفون دراسة استئصال بثلاث تجارب، كل واحدة تُزيل عنصراً مُفترضاً:

• المعادلة فقط — يُخرج النموذج المعادلة الرياضية دون أي استدلال بلغة طبيعية. النتيجة: يُفيد في المسائل البسيطة لكنه يفشل على GSM8K، لأن المسألة أعقد من أن تُحوَّل مباشرة إلى معادلة بدون تفكير لغوي يسبقها.

• حوسبة إضافية فقط — يُخرج النموذج سلسلة نقاط ("...") بطول سلسلة التفكير نفسه، مما يُضيف رموزاً إضافية بلا محتوى استدلالي. النتيجة: لا تحسّن يُذكر. الرموز الإضافية وحدها لا تكفي — مضمون الخطوات الوسيطة هو الذي يصنع الفرق.

• سلسلة التفكير بعد الإجابة — يظهر الاستدلال بعد الإجابة النهائية بدلاً من قبلها. النتيجة: لا تحسّن أيضاً. النموذج يحتاج أن يستدل قبل أن يُجيب. وهذا يدحض فرضية أن سلسلة التفكير مجرد وسيلة لاستحضار معلومات ذات صلة — العملية الاستدلالية المتسلسلة نفسها هي الجوهرية.

السؤال الطبيعي هنا: هل يعتمد الأداء على الصياغة الدقيقة لأمثلة سلسلة التفكير؟ اختبر المؤلفون هذه النقطة من عدة زوايا:

• كتّاب مختلفون — ثلاثة من المؤلفين المشاركين كتب كلٌّ منهم سلاسل تفكير بشكل مستقل لنفس الأمثلة. جميعها تفوّقت على التحفيز المعياري بفارق كبير، رغم اختلاف ملحوظ في الأسلوب بين الكتّاب.

• أمثلة مختلفة — ثلاث مجموعات من 8 أمثلة اختيرت عشوائياً من بيانات تدريب GSM8K (بسلاسل استدلال كتبها عمّال حشد وليس باحثين متخصصين) وجميعها تفوّقت على خط الأساس بوضوح.

• ترتيبات مختلفة — الانحرافات المعيارية عبر الترتيبات العشوائية كانت صغيرة في معظم المهام.

• نماذج مختلفة — التحسّن ظهر في GPT-3 وLaMDA وPaLM على حدٍّ سواء، وإن تفاوت مقداره.

الخلاصة: سلسلة التفكير لا تعتمد على أسلوب لغوي بعينه ولا على أمثلة محددة ولا على بنية نموذج واحدة. نمط الحل المرحلي خطوة بخطوة متين بطبيعته.

سلسلة التفكير لا تُنتج دائماً استدلالاً صحيحاً. فحص المؤلفون يدوياً 50 مُخرَجاً صحيحاً و50 مُخرَجاً خاطئاً من LaMDA 137B على GSM8K:

من بين المُخرَجات الصحيحة الخمسين، احتوى 49 منها على سلاسل استدلال صحيحة فعلاً، وواحد فقط وصل إلى الإجابة الصحيحة بالمصادفة.

من بين المُخرَجات الخاطئة الخمسين، كانت 46% منها «شبه صحيحة» — الاستدلال سليم في مجمله لكن يشوبه خطأ حسابي بسيط أو ربط خاطئ للرموز أو خطوة واحدة ناقصة. أما الـ 54% المتبقية فعانت من أخطاء جوهرية في فهم المعنى أو في تماسك السلسلة.

حين كبُر PaLM من 62 إلى 540 مليار مُعامِل، عالج نسبة كبيرة من أخطاء الخطوة الناقصة وأخطاء الفهم الدلالي معاً — مما يُشير إلى أن الحجم يساعد النموذج على البقاء في المسار الصحيح وفهم المعنى بعمق أكبر. لكن لا يوجد ضمان لصحة الاستدلال، ولا ينبغي التعامل مع سلاسل التفكير المُولَّدة كحقائق موثوقة دون تحقّق مستقل.

الإسهام الأعمق لهذه الورقة ليس تقنية — بل طريقة نظر جديدة. قبل سلسلة التفكير كان الافتراض السائد أنه إذا عجز النموذج عن حل مهمة فهو ببساطة لا يملك القدرة. بعد سلسلة التفكير تحوّل السؤال إلى: «هل طرحنا السؤال بالطريقة الصحيحة؟» هذا الانتقال — من قصور النموذج إلى قصور التحفيز — غيّر نظرة المجال بأكمله إلى ما تستطيعه النماذج اللغوية.