النماذج اللغوية المضبوطة بالتعليمات تتعلَّم بدون أمثلة

بحلول عام 2021 كان أمام مجتمع معالجة اللغة الطبيعية ثلاث مقاربات، ولكل واحدة ثغرة واضحة:

• التدريب المسبق ثم الضبط الدقيق (مثل BERT وT5): تحتاج بيانات مُصنَّفة لـكل مهمة جديدة، ولكل مهمة نموذجها الخاص. المقاربة تعمل جيداً لكنها لا تتوسَّع مع التنوع الهائل في المهام التي يحتاجها المستخدمون.

• التوجيه بالمُوجِّهات (مثل GPT-3): نموذج عملاق واحد يتعامل مع مهام عديدة عبر مُوجِّهات ذكية. التعلُّم بأمثلة قليلة (تقديم 10–100 مثال في السياق) يُعطي نتائج مُبهرة، لكن التعلُّم بدون أمثلة — أي سؤال النموذج مباشرةً بلغة طبيعية — يفشل في أغلب الأحيان. السبب أن النموذج تدرَّب على إكمال المستندات لا على الإجابة عن الأسئلة.

• الحلقة المفقودة: نموذج واحد يستطيع التعامل مع طيف واسع من المهام بمجرد قراءة التعليمات، بدون الحاجة لأمثلة أو تدريب مخصَّص لكل مهمة.

فكرة الضبط بالتعليمات بسيطة وأنيقة. خُذ نموذجاً لغوياً كبيراً مُدرَّباً مسبقاً واضبطه على مجموعة متنوعة من مهام معالجة اللغة الطبيعية — لكن بدلاً من تقديم أزواج مدخلات ومخرجات خام، صِف كل مهمة بتعليمات مكتوبة بلغة طبيعية.

مثلاً، بدلاً من أن تُدرِّب النموذج على: المُدخَل: «الفيلم كان رائعاً» ← المُخرَج: «إيجابي»

تُدرِّبه على: المُدخَل: «هل تقييم الفيلم التالي إيجابي أم سلبي؟ ‹الفيلم كان رائعاً› الخيارات: - إيجابي - سلبي» ← المُخرَج: «إيجابي»

جمع الباحثون 62 مجموعة بيانات متاحة للعموم، وصنَّفوها في 12 عنقوداً من المهام (الاستدلال اللغوي وتحليل المشاعر والترجمة والإجابة على الأسئلة والتلخيص وغيرها)، وكتبوا 10 قوالب تعليماتية مختلفة لكل مجموعة. النموذج الذي ضبطوه هو LaMDA-PT، وهو مُحوِّل يعمل بـفاكّ الترميز فقط بحجم 137 مليار مُعامِل.

كيف تُثبت أن النموذج يُعمِّم فعلاً على مهام لم يرَها؟ استخدم الباحثون استراتيجية حجب صارمة على مستوى العنقود بأكمله. لم يكتفوا بحجب مجموعات بيانات منفردة — بل حجبوا أنواعاً كاملة من المهام.

لتقييم FLAN على الاستدلال اللغوي مثلاً، حذفوا كل مجموعات بيانات الاستدلال اللغوي من الضبط بالتعليمات ودرَّبوه على ما تبقّى. أي أن النموذج لم يرَ أي شكل من أشكال الاستدلال اللغوي أثناء التدريب — ولا مجموعة بيانات واحدة تتعلّق بتحديد ما إذا كانت فرضيةٌ تنبع من مقدّمة.

لماذا هذا مهم؟ لو حجبتَ مجموعة بيانات استدلال لغوي واحدة ودرَّبت على البقية، فالنموذج يكون قد تعلَّم بالفعل «ما هو الاستدلال اللغوي». لكن حين تحجب العنقود بأكمله، فأنت تختبر هل الضبط بالتعليمات يُعلِّم النموذج اتّباع التعليمات فعلاً، أم مجرد حفظ صيغ المهام.

رسم أداء FLAN بدون أمثلة صورة لافتة عبر فئات المهام:

• الاستدلال اللغوي: تفوَّق FLAN بفارق كبير على GPT-3 في مجموعات بيانات الاستدلال اللغوي الخمس (ANLI R1–R3 وCB وRTE). السبب أن مهام الاستدلال اللغوي تبدو مُصطنعة حين تُصاغ كإكمال نص — بينما سؤال مثل «هل يعني ‹X› أن ‹Y›؟» أكثر طبيعية بكثير حين يُقدَّم كتعليمة.

• الفهم القرائي: تفوَّق FLAN على GPT-3 في BoolQ وMultiRC وOpenbookQA. صيغة التعليمات («اقرأ الفقرة وأجب عن السؤال») تُطابق الطريقة التي يصف بها البشر هذه المهام.

• الإجابة بدون مرجع: تفوَّق FLAN على GPT-3 في مجموعات البيانات الأربع (ARC-easy وARC-challenge وNatural Questions وTriviaQA).

• الترجمة: تفوَّق FLAN على GPT-3 بدون أمثلة في جميع أزواج اللغات الستة، لكنه لم يصل لمستوى GPT-3 حين يستخدم أمثلة قليلة في معظم اتجاهات الترجمة — غالباً لأن المُرمِّز وبيانات التدريب المسبق كانا بالإنجليزية بشكل أساسي.

في المقابل، كان الضبط بالتعليمات أقل فعالية في المهام التي تُشبه أصلاً نمذجة اللغة — كالاستدلال بالمنطق العام وحلّ المراجع الضميرية حين تُصاغ كإكمال جمل، لأن صيغة المهمة نفسها تُخبر النموذج بما هو مطلوب دون حاجة لتعليمات إضافية.

كشفت دراسات الاستئصال في الورقة عن ثلاثة عوامل حاسمة:

1. تنوُّع أكبر في المهام ← تعميم أفضل. كلما أُضيفت أنواع جديدة من المهام إلى الضبط بالتعليمات، تحسَّن الأداء على العناقيد المحجوبة. مع عنقود واحد فقط (التلخيص) كان الأداء متواضعاً. بإضافة الترجمة والفهم القرائي وتحليل المشاعر وغيرها، رفع كل عنقود جديد المتوسط. ولم تظهر أي علامة تشبُّع حتى عند 7 عناقيد، ما يُشير إلى أن مزيداً من التنوع قد يُحسِّن النتائج أكثر.

2. الحجم الكبير شرط أساسي. الضبط بالتعليمات لا يُفيد إلا النماذج الكبيرة. عند 422 مليون و2 مليار مُعامِل، أضرَّ الضبط بالتعليمات بالأداء على المهام المحجوبة — لأن النموذج استنفد كل طاقته التمثيلية في حفظ مهام التدريب ولم يتبقَّ له شيء للتعميم. عند 8 مليارات كانت النتائج متذبذبة. وفقط عند 68 و137 ملياراً بدأ الضبط بالتعليمات يُحسِّن التعميم بثبات. الخلاصة: النماذج الصغيرة تتعلَّم المهام، أما الكبيرة فتتعلَّم كيف تتّبع التعليمات.

3. صياغة التعليمات بلغة طبيعية أمر ضروري. قُورنت ثلاثة أشكال: (أ) بدون قالب أصلاً (مدخلات ومخرجات خام)، (ب) وسم باسم مجموعة البيانات (مثل "[Translation: WMT'14]")، و(ج) تعليمات طبيعية (مثل «ترجِم هذه الجملة إلى الفرنسية»). FLAN مع التعليمات الطبيعية تفوَّق بوضوح على الشكلين الآخرين، ما يُؤكد أن طريقة وصف المهام لا تقل أهمية عن المهام نفسها.

في مهام التصنيف، قدَّم FLAN حيلة بسيطة لكنها فعّالة: إلحاق لاحقة خيارات (OPTIONS) تسرد الإجابات المقبولة. مثلاً:

«المقدمة: في عمري ستكون قد تعلَّمتَ درساً واحداً على الأقل. الفرضية: ليس مؤكداً كم درساً ستتعلَّم بحلول الثلاثينيات. هل المقدمة تستلزم الفرضية؟ الخيارات: - نعم - لا يمكن الجزم - لا»

لماذا هذا مهم؟ بدون قائمة الخيارات، قد يُوزِّع نموذج فاكّ الترميز كتلته الاحتمالية على صيغ كثيرة لقول «نعم» (مثل "Yes" و"True" و"Correct" و"It is true" وغيرها)، فيصبح التصنيف بالترتيب غير موثوق. لاحقة الخيارات تُركِّز توزيع المخرجات على الاختيارات الصالحة تحديداً — كأنك تضع أمام شخص قائمة محدَّدة بدلاً من أن تتركه يُخمِّن.

بُني FLAN على LaMDA-PT، وهو مُحوِّل يعمل بـفاكّ الترميز فقط بحجم 137 مليار مُعامِل، دُرِّب مسبقاً على 2.49 تريليون رمز من صفحات الإنترنت وبيانات المحادثات وويكيبيديا. نحو 10% من بيانات تدريبه المسبق كانت بلغات غير الإنجليزية.

اللافت أن عملية الضبط بالتعليمات كانت خفيفة جداً مقارنةً بـالتدريب المسبق: 30,000 خطوة تدرُّج بحجم دفعة 8,192 رمزاً، باستخدام مُحسِّن Adafactor بـمعدَّل تعلُّم 3e-5. ولموازنة أحجام مجموعات البيانات المختلفة، حُدَّت كل مجموعة بـ30,000 مثال كحد أقصى مع سقف خلط يبلغ 3,000. العملية بأكملها استغرقت نحو 60 ساعة على TPUv3 بـ128 نواة — أي أقل من 2% من حوسبة التدريب المسبق.

هذه الكفاءة نقطة جوهرية: الضبط بالتعليمات ليس جولة ثانية من التدريب المسبق الضخم، بل هو خطوة مواءمة خفيفة تُعيد توجيه المعرفة الموجودة في النموذج نحو اتّباع التعليمات.

أظهرت الورقة أيضاً أن الضبط بالتعليمات والتعلُّم بأمثلة قليلة يعملان معاً لا ضد بعضهما. حين تُضاف أمثلة قليلة وقت الاستدلال، يتحسَّن أداء FLAN أكثر عبر جميع عناقيد المهام، وبخاصة في المهام ذات صيغ المخرجات المعقَّدة كتوليد النصوص المُهيكلة والترجمة. كما ينخفض الانحراف المعياري بين القوالب المختلفة، أي أن النموذج يصبح أقل حساسية لطريقة صياغة التعليمات بالتحديد.

علاوة على ذلك، أثبت FLAN أنه أكثر استجابة لـضبط المُوجِّهات — وهي تقنية تتعلَّم تضمينات مُوجِّهات مستمرة «ناعمة» عبر الانتشار العكسي. بـ32 مثالاً تدريبياً فقط، حقَّق ضبط المُوجِّهات على FLAN تحسُّناً يتجاوز 10% مقارنةً بتطبيقه على LaMDA-PT الأساسي. هذا يعني أن الضبط بالتعليمات يُنتج نموذجاً «مُهيَّأً» بطبيعته لتوجيهه نحو مهام جديدة بأي أسلوب توجيه كان.

كان الباحثون صريحين بشأن قيود FLAN:

• ليس حلاً شاملاً. الضبط بالتعليمات لم يُفِد في المهام التي تُشبه بطبيعتها نمذجة اللغة (إكمال الجمل، حلّ المراجع الضميرية كملء فراغات). حين تُوضِّح صيغة المهمة نفسها ما هو مطلوب، لا تُضيف التعليمات كثيراً.

• مرهون بالحجم. التقنية لا تنجح إلا مع نماذج كبيرة (68 مليار مُعامِل فأكثر). في النماذج الأصغر، يُضرّ الضبط بالتعليمات بالتعميم بدون أمثلة لأن النموذج يحفظ مهام التدريب بدلاً من اكتساب مهارة التعميم.

• ذاتية التصنيف. تجميع مجموعات البيانات في عناقيد يتضمَّن أحكاماً تقديرية. الحدّ بين «الفهم القرائي» و«الإجابة بدون مرجع» ليس واضحاً دائماً، وتصنيفات مختلفة قد تُعطي استنتاجات مختلفة.

• تعليمات مختصرة فقط. استخدمت الورقة تعليمات من جملة واحدة، أبسط بكثير من التعليمات التفصيلية متعددة الفقرات التي تُعطى للمُقيِّمين البشريين. هل التعليمات الأغنى ستُحسِّن النتائج أكثر؟ يبقى سؤالاً مفتوحاً.

• تكلفة التشغيل. بحجم 137 مليار مُعامِل، نشر FLAN مُكلف، وهذا يُقيِّد استخدامه العملي رغم أدائه القوي.

ما أظهره FLAN هو أن الانتقال من «نموذج لغوي» إلى «مساعد يتّبع التعليمات» لا يتطلَّب بنية معمارية جديدة من الصفر — بل يتطلَّب تعليم النموذج واجهة تواصل جديدة. التدريب المسبق يبني المعرفة، والضبط بالتعليمات يبني القدرة على استخدام تلك المعرفة حين يُطلب منه ذلك. هذا الفصل — اكتساب المعرفة في مرحلة واتّباع التعليمات في مرحلة أخرى — هو المنهج الذي تتّبعه كل أنظمة الذكاء الاصطناعي الحديثة.