معالجة اللغة الطبيعية2021متوسط12 دقيقة قراءة
قوة التوسيع في ضبط المحثّات الموفِّر للمعاملات
The Power of Scale for Parameter-Efficient Prompt Tuning
Lester, B. · Al-Rfou, R. · Constant, N. — EMNLP
المشكلة
بحلول عام 2021، كانت النماذج اللغوية الكبيرة مثل T5-XXL (بـ11 مليار معامل) تحقق أداءً ممتازاً عبر الكامل، لكنّ ذلك كان يتطلب حفظ نسخة كاملة من النموذج لكل مهمة فرعية — تكلفة باهظة في التخزين والخدمة. أظهر GPT-3 أن المحثّات النصية تستطيع توجيه النماذج المجمَّدة، إلا أن المحثّات المكتوبة يدوياً كانت هشّة ومحدودة السعة وبعيدة عن دقة الضبط الدقيق. أما ضبط البادئة فأضاف متجهات قابلة للتعلّم في كل طبقة من طبقات المحوِّل، لكنه كان معقداً ويستهلك معاملات خاصة بالمهمة أكثر مما هو ضروري. لم تكن هناك طريقة بسيطة وبأقل عدد ممكن من المعاملات تضاهي الضبط الدقيق الكامل مع إبقاء النموذج مجمَّداً بالكامل.
الإسهام
ضبط المحثّات: أسلوب يُجمّد النموذج المُدرَّب مسبقاً بالكامل ولا يُدرّب سوى مجموعة صغيرة من متجهات «» المستمرة، تُلحَق بمدخلات . باستخدام نماذج T5 بجميع أحجامها، أثبت المؤلفون أن ضبط المحثّات يُغلق الفجوة مع الضبط الدقيق الكامل كلما زاد حجم النموذج — عند 11 مليار معامل، يُطابق الضبط الدقيق متعدد المهام على SuperGLUE بينما يستخدم أكثر من 20,000 ضعف أقل من المعاملات الخاصة بالمهمة (نحو 20 ألفاً مقابل 11 مليار). كما بيّنت الورقة أن ضبط المحثّات يوفّر متانة أفضل في مقارنة بالضبط الدقيق الكامل، ويُتيح «تجميع المحثّات» بكفاءة — تشغيل عدة محثّات خاصة بمهام مختلفة عبر نموذج مجمَّد واحد في دفعة واحدة.
الأثر
ساعد ضبط المحثّات في ترسيخ منهجية الضبط الدقيق الموفِّر للمعاملات (PEFT) التي أصبحت المعيار السائد في عصر النماذج اللغوية الكبيرة. أثبتت الورقة أنه مع الحجم الكافي، لا حاجة للمساس بأي وزن في النموذج — بادئة صغيرة مُتعلَّمة تكفي. أثّرت هذه الرؤية مباشرةً في LoRA وQLoRA ومنظومة PEFT الأوسع. وأصبحت فكرة تقديم نموذج مجمَّد واحد مع عدة محوِّلات خفيفة لكل مهمة ممارسةً معتادة في الأنظمة الإنتاجية، مما قلّص تكاليف التخزين والخدمة بأضعاف مضاعفة.
تخيّل أوركسترا ضخمة فيها 11 مليار عازف يعرفون عزف كل سيمفونية كُتبت في التاريخ. الطريقة التقليدية لجعلهم يعزفون الجاز هي أن تُعيد تدريب كل عازف على حدة — تكلفة باهظة. هذا ما يفعله الضبط الدقيق الكامل.
تخيّل الآن أنك تكتفي بتسليم المايسترو جملة موسيقية قصيرة — بضع نوتات تُحدّد المزاج والإيقاع والطابع. العازفون لا يتغيّرون، لكنّ تلك الجملة القصيرة تُحوّل العرض بأكمله. هذه الجملة هي المحثّ الناعم: حفنة من المتجهات المُتعلَّمة توجّه نموذجاً مجمَّداً دون تعديل وزنٍ واحد من أوزانه.
المشكلة: نسخة كاملة من النموذج لكل مهمة لا يمكن أن تستمر
الطريقة المعتادة لاستخدام نموذج كبير مُدرَّب مسبقاً مثل T5 هي الضبط الدقيق الكامل: تأخذ الأوزان المُدرَّبة مسبقاً، وتُحدّث كل معامل فيها على بيانات مهمتك المحددة، ثم تحفظ النتيجة. إذا كان نموذجك يحتوي على 11 مليار معامل ولديك 10 مهام فرعية، فأنت بحاجة إلى تخزين وتشغيل 10 نسخ منفصلة بحجم 11 مليار معامل لكل واحدة. التخزين وحده يبلغ مئات الغيغابايت، والخدمة تتطلب دفعات استدلال مستقلة لكل مهمة.
أظهر GPT-3 بديلاً: تكتب محثّاً نصياً — وصف للمهمة مع بضعة أمثلة — وتُلحقه ببداية المدخل. النموذج يبقى مجمَّداً دون أي تحديث للأوزان. لكن لأسلوب تصميم المحثّات هذا قيود حادة: المحثّ محصور بنافذة سياق النموذج، وفعاليته تعتمد بشكل كبير على الصياغة — تغيير كلمة واحدة قد يُحدث تفاوتاً كبيراً في الأداء. وحتى عند 175 مليار معامل، بلغت نتيجة GPT-3 على SuperGLUE بأسلوب القليل من الأمثلة 71.8 نقطة — بفارق نحو 18 نقطة عن T5-XXL المضبوط دقيقياً (89.3) رغم أنه أصغر منه 16 مرة.
التوتر الجوهري واضح: الضبط الدقيق يمنحك الجودة لكنه يهدر الموارد، وتصميم المحثّات يوفّر الموارد لكنه يضحّي بالجودة. ما كان يحتاجه المجال هو أسلوب يحقق الاثنين معاً.
كيف يعمل ضبط المحثّات
الفكرة بسيطة بشكل لافت. خذ نموذج T5 المُدرَّب مسبقاً وجمّد كل معامل فيه. ثم أضف مجموعة صغيرة من المتجهات المستمرة القابلة للتعلّم — المحثّ الناعم — في بداية التضمين المُدخل. هذه المتجهات تعيش في نفس فضاء التضمين الذي تعيش فيه تضمينات الرموز العادية، لكنها لا ترتبط بأي كلمة في المفردات. هي معاملات حرة يتعلّمها النموذج عبر لتوجيه النموذج المجمَّد نحو المخرج الصحيح للمهمة المطلوبة.
بشكل ملموس: إذا كان لديك تسلسل مدخل من n رمزاً يُضمَّن في مصفوفة X_e بأبعاد (n × e) حيث e هو بُعد التضمين، فإن المحثّ الناعم هو مصفوفة معاملات مستقلة P_e بأبعاد (p × e) حيث p هو طول المحثّ. يُدمج الاثنان في مصفوفة واحدة بأبعاد ((p+n) × e) تمرّ عبر المرمِّز-فاكّ الترميز كالمعتاد. أثناء التدريب، تُحدَّث P_e فقط — أما جميع معاملات النموذج فتبقى مجمَّدة.
تخيّل الأمر كأنك تضيف مجموعة صغيرة من مقابض التحكّم عند مدخل مصنع ضخم. آلات المصنع (المحوِّل) تبقى كما هي تماماً — تكتفي بإدارة المقابض لتغيير ما ينتجه المصنع.
قرارات التصميم: التهيئة والطول والتدريب المسبق
ثلاثة قرارات تصميمية أساسية تُشكّل أداء ضبط المحثّات:
تهيئة المحثّ. أبسط خيار هو التهيئة العشوائية. البديل الأذكى هو تهيئة كل رمز في المحثّ من تضمين كلمة حقيقية في المفردات — بما أن المحثّ الناعم يلعب دوراً شبيهاً بنص يسبق المدخل، فالانطلاق من تمثيلات شبيهة بالكلمات يمنح نقطة بداية أفضل. في مهام التصنيف، الاستراتيجية الأفضل هي التهيئة بتسميات الفئات: تغذية رموز المحثّ بتضمينات فئات المخرج (مثل «صح» / «خطأ» في مهمة الاستلزام)، مما يُهيّئ النموذج لإنتاج رموز مخرج صالحة من البداية.
طول المحثّ. المحثّات الأطول تملك سعةً أكبر لكنها تكلّف معاملات أكثر. وجدت الورقة أن الانتقال من رمز واحد إلى 20 رمزاً يمنح تحسّناً كبيراً، لكن المكاسب بعد 20 رمزاً تصبح هامشية. عند حجم XXL، حتى محثّ من رمز واحد يعمل جيداً — مما يشير إلى أن النماذج الأكبر تحتاج إشارة توجيه أقل.
هدف التدريب المسبق. دُرّب T5 أصلاً بمهمة إكمال الفجوات المُقنَّعة التي تستخدم رموزاً خاصة (sentinels). هذا يعني أن T5 لم يرَ نصاً طبيعياً كمدخل ولم يُنتج نصاً طبيعياً كمخرج أثناء التدريب المسبق. وجد المؤلفون أن إضافة مرحلة قصيرة من التكييف اللغوي — مواصلة التدريب الذاتي الإشراف بهدف نمذجة اللغة المعتاد لنحو 100 ألف خطوة — تحسّن جودة ضبط المحثّات بشكل كبير. تُحوّل هذه المرحلة T5 من نموذج «املأ الفراغ» إلى نموذج قادر على توليد نص طبيعي، فيصبح أكثر استجابةً لتوجيه المحثّ.
إغلاق الفجوة مع التوسيع
أبرز ما كشفته الورقة هو أن ضبط المحثّات يصبح أكثر تنافسيةً كلما كبُر النموذج. عند الأحجام الصغيرة (T5-Small بنحو 77 مليون معامل)، تظهر فجوة واضحة بين ضبط المحثّات والضبط الدقيق الكامل. لكن مع وصول النماذج إلى مليارات المعاملات، تتقلّص هذه الفجوة باطّراد. عند حجم XXL (11 مليار معامل)، يُطابق ضبط المحثّات حتى خط الأساس الأقوى وهو الضبط الدقيق متعدد المهام على SuperGLUE — رغم أنه يضبط أكثر من 20,000 ضعف أقل من المعاملات.
يحمل هذا دلالة عملية قوية: بالنسبة للنماذج الأكبر، يمكنك الحصول على جودة الضبط الدقيق بتدريب نحو 20,000 معامل فقط (محثّ من 100 رمز ببُعد 4,096) بدلاً من 11 ملياراً. نموذج مجمَّد واحد يستطيع خدمة عدد غير محدود من المهام في الوقت نفسه — تكتفي باستبدال متجه المحثّ الصغير، لا النموذج بأكمله.
بيّنت الورقة أيضاً أن ضبط المحثّات يتفوق بفارق كبير على أسلوب القليل من الأمثلة في GPT-3. فـ T5-Small المضبوط بالمحثّات يُضاهي GPT-3 XL (أكبر منه 16 مرة)، و T5-Large المضبوط بالمحثّات يتفوق على GPT-3 175B (أكبر منه 220 مرة). وهذا يُثبت أن المحثّات المستمرة المُتعلَّمة أفعل بكثير من المحثّات النصية المصوغة يدوياً.
المقارنة مع ضبط البادئة والمحوِّلات الوسيطة
يقع ضبط المحثّات ضمن طيف من أساليب التكييف الموفِّرة للمعاملات، ويتميّز بـأين وكم عدد المعاملات الخاصة بالمهمة التي يُدخلها:
ضبط البادئة (Li & Liang, 2021) يُلحق تنشيطات قابلة للتعلّم في كل طبقة من طبقات المحوِّل وليس فقط المدخل. يمنح هذا تحكّماً أكبر لكنه يتطلب نحو 0.1–1% من المعاملات الخاصة بالمهمة ويحتاج حيلاً لإعادة المعاملة لتحقيق استقرار التدريب.
طبقات المحوِّلات الوسيطة (Houlsby et al., 2019) تُدرج طبقات ذات عنق زجاجة صغيرة بين طبقات المحوِّل المجمَّدة. تحقق أداءً جيداً على GLUE بإضافة 2–4% من المعاملات الإضافية، لكنها تُعدّل الحوسبة الداخلية للشبكة بدلاً من مدخلاتها.
WARP (Hambardzumyan et al., 2021) يُضيف معاملات فقط لطبقتي المدخل والمخرج، لكنه مقيّد بنماذج اللغة المُقنَّعة ومهام التصنيف ذات المخرج الواحد.
ضبط المحثّات هو الأبسط بين الجميع: تُضاف المعاملات فقط عند طبقة تضمين المدخل — لا بوادئ في كل طبقة، ولا طبقات عنق زجاجة، ولا رؤوس مخرجات. وعند الأحجام الكبيرة، يُحقق هذا الأسلوب البسيط أقل من 0.01% من المعاملات الخاصة بالمهمة مع مطابقة جودة الأساليب التي تُعدّل أجزاءً أكبر بكثير من الشبكة.
المتانة أمام انزياح المجال
من المكاسب المفاجئة لتجميد أوزان النموذج أن ضبط المحثّات أمتن أمام انزياح المجال من الضبط الدقيق الكامل. حين تُحدّث 11 مليار معامل على مجموعة بيانات بعينها، يُخاطر النموذج بحفظ أنماط سطحية — صياغات معيّنة ومفردات وإشارات أسلوبية — فريدة لذلك المجال. وعندما يتغيّر التوزيع عند الاختبار، تنهار تلك الاختصارات المحفوظة.
ضبط المحثّات يتجنّب هذا الفخّ. لأن معاملات الفهم اللغوي الأساسية مجمَّدة، لا يستطيع النموذج أن يتخصّص بشكل مفرط في نمط مجال بعينه. المحثّ المُتعلَّم يلتقط تعريف المهمة — «هذه مهمة إجابة عن أسئلة» — لكن قدرات النموذج اللغوية العامة تبقى سليمة. والنتيجة أن الفجوة بين الأداء داخل المجال وخارجه تتقلّص.
في تجارب الورقة، أظهرت النماذج المُدرَّبة على SQuAD (إجابة عن أسئلة في مجال ويكيبيديا) والمُقيَّمة على TextbookQA فجوةً دراماتيكية: ضبط المحثّات تفوّق على الضبط الدقيق الكامل بفارق 12.5 نقطة F1. وكان النمط متّسقاً — كلما كبُر انزياح المجال، زادت ميزة ضبط المحثّات.
تجميع المحثّات: مهام عديدة، نموذج واحد
تجميع النماذج التقليدي يُدرّب N نسخة من النموذج بتهيئات مختلفة ويُجمّع تنبؤاتها. يحسّن هذا الدقة وتقديرات عدم اليقين، لكنه يكلف N ضعفاً من التخزين والحوسبة. مع نموذج بـ11 مليار معامل، تجميع 5 نسخ يعني تخزين 55 مليار معامل وتشغيل 5 تمريرات أمامية.
تجميع المحثّات يحلّ هذا بأناقة. درّب N محثّاً ناعماً مختلفاً على المهمة نفسها باستخدام النموذج المجمَّد نفسه. الآن لديك N «نموذج» يتشاركون كل المعاملات عدا متجهات المحثّات الصغيرة. عند الاستدلال، انسخ المدخل نفسه N مرة في دفعة واحدة مع محثّ مختلف لكل نسخة. تمريرة أمامية واحدة عبر نموذج واحد تمنحك N تنبؤاً. استخدم التصويت بالأغلبية لدمجها.
على SuperGLUE، تفوّق تجميع 5 محثّات عبر نموذج T5-XXL واحد على كل من المتوسط وأفضل محثّ مفرد في كل مهمة — بتكلفة تخزين لا تكاد تُذكر (5 × 20 ألف معامل ≈ 100 ألف إجمالاً، مقابل 55 ملياراً في التجميع التقليدي).
تفسيرية المحثّات المُتعلَّمة
بما أن المحثّات الناعمة تعيش في فضاء تضمين مستمر وليس في فضاء رموز منفصلة، فإنّ تفسير ما «تقوله» ليس بالأمر البسيط. فحص المؤلفون أقرب الجيران لكل رمز في المحثّ من مفردات النموذج ووجدوا أن الرموز القريبة تُشكّل عناقيد دلالية متماسكة — مثلاً (Technology / technology / Technologies / technological / technologies) أو (entirely / completely / totally / altogether / 100%).
يشير هذا التعنقد إلى أن المحثّات المُتعلَّمة تُرمّز تمثيلات «شبيهة بالكلمات» وليست ضجيجاً عشوائياً. وعند التهيئة بتسميات الفئات، غالباً ما تظل تلك التسميات بين أقرب الجيران بعد التدريب — يتعلّم النموذج الاحتفاظ بفئات المخرج الصالحة مخزّنةً في المحثّ كنقاط مرجعية.
لكن قراءة المحثّات المُتعلَّمة كجمل مفهومة لا تزال بعيدة المنال. المحثّات وظيفية — توجّه النموذج بفعالية — لكنها ليست قابلة للتفسير بالطريقة التي تكون عليها المحثّات النصية. هذه المفاضلة بين التفسيرية والفعالية موضوع متكرّر في أساليب الضبط الموفِّرة للمعاملات.
ضبط المحثّات بالشيفرة البرمجية
مبسَّط لإظهار الفكرة — ليس التنفيذ الحقيقي.
import torch
import torch.nn as nn
class PromptTuning(nn.Module):
"""يُغلّف نموذجاً مجمَّداً بمحثّ ناعم قابل للتعلّم."""
def __init__(self, model, prompt_length=100, embed_dim=4096):
super().__init__()
self.model = model
# تجميد كل معاملات النموذج
for param in self.model.parameters():
param.requires_grad = False
# هذه تضمينات المحثّ فقط هي القابلة للتدريب
self.soft_prompt = nn.Parameter(
torch.randn(prompt_length, embed_dim) * 0.01
)
def forward(self, input_ids):
# استخراج تضمينات الرموز المجمَّدة: [دفعة، طول_التسلسل، بُعد]
input_embeds = self.model.get_input_embeddings()(input_ids)
# توسيع المحثّ لكل عنصر في الدفعة
batch_size = input_embeds.shape[0]
prompt = self.soft_prompt.unsqueeze(0).expand(batch_size, -1, -1)
# الدمج: [محثّ؛ مدخل] -> [دفعة، p+n، بُعد]
combined = torch.cat([prompt, input_embeds], dim=1)
# التمرير عبر النموذج المجمَّد
return self.model(inputs_embeds=combined)خط زمني للضبط الموفِّر للمعاملات: ما فتحه ضبط المحثّات
2019
طبقات المحوِّلات الوسيطة
أدخل Houlsby وآخرون طبقات ذات عنق زجاجة صغيرة بين طبقات المحوِّل المجمَّدة. بإضافة 2–4% من المعاملات الإضافية فقط حققوا جودة قريبة من الضبط الكامل على GLUE.
2021
ضبط البادئة
تعلّم Li وLiang تنشيطات بادئة مستمرة عند كل طبقة من طبقات المحوِّل. نتائج قوية على مهام التوليد، لكن مع حاجة لمعاملات أكثر وحيل إعادة المعاملة لتحقيق الاستقرار.
2021
ضبط المحثّات (هذه الورقة)
أثبت Lester وآخرون أن ضبط تضمينات المحثّ عند طبقة المدخل فقط — بلا بوادئ في كل طبقة — يُطابق الضبط الكامل عند الأحجام الكبيرة. أقل من 0.01% معاملات خاصة بالمهمة عند حجم XXL.
2021
LoRA
حلّل Hu وآخرون تحديثات الأوزان إلى مصفوفات منخفضة الرتبة. بلا تأخير إضافي عند الاستدلال لأن المحوِّلات تُدمج في الأوزان المجمَّدة. أصبح الأسلوب السائد في الضبط الموفِّر للمعاملات.
2023
QLoRA
دمج Dettmers وآخرون التكمية بأربع بتات مع LoRA، فأصبح الضبط الدقيق لنماذج بـ65 مليار معامل ممكناً على وحدة معالجة رسومية واحدة. جعل هذا الضبط الموفِّر للمعاملات عملياً على أجهزة المستهلك.
الإرث الأعمق لضبط المحثّات هو الرؤية القائلة بأن التوسيع يُغيّر القواعد. ما يفشل عند الأحجام الصغيرة قد يصبح تنافسياً عند الأحجام الكبيرة — وما كان يتطلب في السابق تعديل مليارات المعاملات يمكن تحقيقه بتعلّم بضعة آلاف فقط. انتقلت هذه الرؤية إلى LoRA وQLoRA ومنظومة الضبط الموفِّر للمعاملات بأكملها التي تُغذّي مجتمع النماذج اللغوية مفتوحة المصدر اليوم. كل مرة يضبط فيها باحث نموذجاً كبيراً بمحوِّل خفيف على وحدة معالجة رسومية عادية، فإن الأثر الفكري يرجع إلى هذه الورقة الصادرة عام 2021.
المرجعLester, Al-Rfou, Constant. The Power of Scale for Parameter-Efficient Prompt Tuning. EMNLP, 2021.
مصطلحات هذه الورقة
- الضبط بالمُوجِّهاتPrompt Tuning
- المحثّ الناعمSoft Prompt
- الأوزان المُجمَّدةFrozen Weights
- الضبط الدقيق الكفوء بالمعاملاتParameter-Efficient Fine-Tuning
- الضبط بالبادئةPrefix Tuning
- تجميع المُحفِّزاتPrompt Ensembling
- المهمة اللاحقةDownstream Task
- التحديث التراجعيBackpropagation
- التضمينEmbedding
- الضبط الدقيقFine-Tuning
- الطبقات الوسيطةAdapter Layers
- مُلائمات منخفضة الرتبةLow-Rank Adapters
- هندسة التحفيزPrompt Engineering
- نقل المجالDomain Transfer