LoRA: التكيّف مُنخَفِض الرُّتبة للنماذج اللغوية الكبيرة

الطريقة المعتادة لتكييف نموذج مُدرَّب مسبقاً هي ما يُعرف بـالضبط الدقيق الكامل: نأخذ الأوزان الأصلية $W_0$ ونُحدِّث كل معامل بناءً على مُتجهات الميل المحسوبة من بيانات المهمة الجديدة. الهدف الرياضي هو تعظيم اللوغاريتم الشرطي لدالة الأرجحيّة:

$\max_{\Phi} \sum_{(x,y)\in Z}\sum_{t=1}^{|y|} \log P_{\Phi}(y_t \mid x, y_{<t})$

لكن في نموذج بحجم GPT-3 الذي يضم 175 مليار معامل، هذه الطريقة تفرض ثلاث تكاليف باهظة:

• التخزين: كل نسخة مُضبَّطة تحتاج نحو 350 غيغابايت. عشر مهام وحدها تعني 3.5 تيرابايت من نقاط الحفظ.
• الذاكرة: مُحسِّن Adam يحتفظ بمتجهَي حالة إضافيَّين لكل معامل، فيحتاج التدريب إلى نحو 1.2 تيرابايت من ذاكرة المعالج الرسومي.
• لا مشاركة: المعاملات الـ175 مليار تُنسَخ بالكامل لكل مهمة على حدة، رغم أن الجزء الأكبر من المعرفة المُكتسَبة مشترك بين المهام.

الأساليب البديلة الموفِّرة للمعاملات حاولت حل هذه المشكلة لكنها جاءت بتنازلات. الطبقات الوسيطة تُدخِل وحدات عنق زجاجة صغيرة بين طبقات المُحوِّل، لكنها تزيد العمق التسلسلي وترفع زمن الاستدلال بنسبة تصل إلى 30% في التطبيقات الآنية. أما الضبط بالبادئة فيُضيف رموزاً قابلة للتدريب إلى بداية المُدخَل، لكنها تأكل من طول السياق المتاح للمهمة الفعلية وتُعطي نتائج ضعيفة حين تكون البيانات قليلة.

السؤال الطبيعي هو: لماذا ينجح LoRA أصلاً؟ الجواب ينطلق من ملاحظة في أبحاث سابقة: رغم أن النماذج اللغوية الكبيرة تضم مليارات المعاملات، إلا أن الفضاء الذي تستخدمه فعلياً عند التكيّف مع مهمة جديدة صغير بشكل مفاجئ. أظهر Aghajanyan وزملاؤه (2020) أن النماذج المُدرَّبة مسبقاً تمتلك بُعداً جوهرياً منخفضاً — أي يمكن إسقاط فضاء المعاملات على فضاء فرعي أصغر بكثير والاستمرار في التعلّم بفعالية.

LoRA يأخذ هذه الملاحظة خطوة أبعد: إن كان النموذج الكامل يتحرك على سطح منخفض الأبعاد، فإن التغيير في الأوزان أثناء التكيّف ($\Delta W$) ينبغي أن يكون منخفض الرُّتبة أيضاً. الفكرة بسيطة: النموذج المُدرَّب مسبقاً يعرف تقريباً كل ما يحتاجه — كل ما يلزم هو دفعة خفيفة في اتجاهات محدّدة داخل فضاء الأوزان. هذه الاتجاهات القليلة تُشكِّل فضاءً فرعياً منخفض الرُّتبة.

أكّد المؤلفون ذلك تجريبياً: حتى مع رُتبة لا تتجاوز $r = 1$ أو $r = 2$، حقّق LoRA نتائج مكافئة لـالضبط الدقيق الكامل على GPT-3 بحجم 175 مليار عبر عدة مقاييس. والمتجهات المفردة العليا (التحليل بالقيم المفردة) لمصفوفات التكيّف المُدرَّبة برُتَب مختلفة تتداخل بشكل كبير، مما يُثبت أن المعلومات المفيدة تتركّز في أبعاد قليلة جداً.

الفكرة في غاية البساطة. لنأخذ مصفوفة أوزان مُدرَّبة مسبقاً $W_0 \in \mathbb{R}^{d \times k}$. بدلاً من تعلّم تحديث كامل $\Delta W \in \mathbb{R}^{d \times k}$ يتضمّن $d \times k$ معاملاً، نُقيِّد $\Delta W$ ليكون جداءً مُنخَفِض الرُّتبة:

$\Delta W = BA$

حيث $B \in \mathbb{R}^{d \times r}$ و$A \in \mathbb{R}^{r \times k}$، والشرط أن $r \ll \min(d, k)$. بهذا الشكل ينخفض عدد المعاملات القابلة للتدريب من $d \times k$ إلى $r \times (d + k)$ فقط.

أثناء التمرير الأمامي، يصبح الناتج:

$h = W_0 x + \Delta W x = W_0 x + B A x$

لاحظ أن الأوزان المُجمَّدة $W_0$ والتحديث منخفض الرُّتبة $BA$ يعملان على المُدخَل نفسه $x$ بالتوازي، ثم تُجمَع مخرجاتهما. هذا هو جوهر التصميم: لا عمق تسلسلي إضافي كما في الطبقات الوسيطة.

التهيئة: تُهيَّأ $A$ بقيم عشوائية من توزيع غاوسي، وتُهيَّأ $B$ بالأصفار، وبالتالي يكون $\Delta W = BA = 0$ عند بداية التدريب. أي أن النموذج يبدأ مُطابقاً تماماً للنموذج الأصلي. ثم يُطبَّق مُعامِل قياس $\alpha / r$ على $\Delta W x$ لضمان استقرار التدريب مهما تغيّرت قيمة $r$.

كل طبقة في المُحوِّل تحتوي على أربع مصفوفات أوزان في وحدة الانتباه الذاتي ($W_q$ و$W_k$ و$W_v$ و$W_o$) ومصفوفتين في كتلة التغذية الأمامية. جرّب المؤلفون تطبيق LoRA على تركيبات مختلفة من هذه المصفوفات، ووجدوا أن تكييف مصفوفتَي الاستعلام $W_q$ والقيمة $W_v$ معاً يُعطي أفضل النتائج ضمن ميزانية معاملات محدّدة.

هذه نتيجة لافتة: حتى رُتبة بسيطة مثل $r = 4$ موزَّعة على مصفوفتين تكفي لالتقاط المعلومات الضرورية — والأفضل أن نُكيِّف مصفوفات أكثر برُتبة أقل بدلاً من تركيز الميزانية في مصفوفة واحدة برُتبة أعلى. عملياً، بتطبيق $r = 4$ على $W_q$ و$W_v$ في الطبقات الـ96 جميعها لنموذج GPT-3، لا يتجاوز عدد المعاملات القابلة للتدريب 18 مليوناً — أي نحو 0.01% فقط من النموذج الكامل.

أما طبقات التغذية الأمامية فبقيت مُجمَّدة في تجارب الورقة. ورغم أن تكييفها على الأرجح سيُحسّن الأداء أكثر، إلا أن مصفوفات الانتباه وحدها أثبتت أنها كافية لمطابقة جودة الضبط الدقيق الكامل.

هنا تظهر أكثر ميزات LoRA أناقةً. أثناء التدريب، نُبقي $W_0$ و$BA$ منفصلتين حتى نستطيع حساب مُتجهات الميل لـ $A$ و$B$ فقط. لكن عند النشر، كل ما نفعله هو حساب:

$W = W_0 + BA$

ثم نستبدل مصفوفة الأوزان الأصلية بهذه النسخة المدمُوجة. النموذج الناتج له البنية نفسها تماماً — لا طبقات وسيطة ولا وحدات إضافية ولا حسابات مُضافة. الاستدلال يعمل بالسرعة ذاتها التي يعمل بها نموذج خضع لـالضبط الدقيق الكامل.

وللانتقال إلى مهمة أخرى، نطرح $BA$ من $W$ لاستعادة $W_0$، ثم نُضيف $B'A'$ جديدة للمهمة المطلوبة. مصفوفات LoRA لمهمة واحدة على GPT-3 بحجم 175 مليار لا تتجاوز 35 ميغابايت — أي أن مئة مُحوِّل خاص بالمهام مع النموذج الأساسي تُخزَّن في نحو 354 غيغابايت فقط، مقارنة بـ35 تيرابايت تقريباً لو احتجنا نسخة كاملة لكل مهمة.

درس المؤلفون العلاقة بين $\Delta W$ وبين المصفوفة الأصلية $W$، وقدّمت نتائجهم نافذة لفهم لماذا ينجح التكيّف من الأساس. خرجوا بثلاث نتائج جوهرية:

• $\Delta W$ مرتبطة بـ $W$ لكنها ليست تكراراً لها. مصفوفة التكيّف تُضخِّم اتجاهات محدّدة داخل $W$، لكن بالذات تلك الاتجاهات التي لم يُبرزها النموذج الأصلي. كأنها تكتشف سمات تعلّمها النموذج أثناء التدريب المسبق لكنه لم يمنحها الأولوية.
• مُعامِل التضخيم كبير جداً. عند $r = 4$، تُضخِّم مصفوفة التكيّف الاتجاهات المختارة بعامل يقارب 21 ضعفاً. أي أن النموذج المُدرَّب مسبقاً كان يحمل المعرفة المطلوبة للمهمة أصلاً — لكنه كان يحتاج فقط لرفع هذه الإشارات المحدّدة.
• كل مهمة تُضخِّم اتجاهات مختلفة. وهذا يُفسِّر كيف يمكن لنموذج عام واحد أن يتكيّف مع مهام متعددة ومتنوّعة: كل مهمة تحتاج مجموعة صغيرة مختلفة من الاتجاهات في فضاء الأوزان لتُبرَز.

هذا التحليل يكشف صورة بديعة: النموذج الكبير المُدرَّب مسبقاً يشبه سكين الجيب متعدد الأدوات وكل أدواته مطوية بالداخل. LoRA لا يُضيف أدوات جديدة — بل يفتح الأداة المناسبة لكل مهمة.

اختبر المؤلفون LoRA على أربع عائلات من النماذج — RoBERTa (125م/355م) وDeBERTa (1.5 مليار) وGPT-2 (345م/774م) وGPT-3 (175 مليار) — عبر مهام تمتد من فهم اللغة الطبيعية (مقياس GLUE) إلى توليدها (E2E وWebNLG وDART).

على RoBERTa base بـ0.3 مليون معامل قابل للتدريب فقط، حقّق LoRA متوسط 87.2% على GLUE — متفوّقاً على الضبط الدقيق الكامل (86.4%) وعلى أساليب الطبقات الوسيطة (84.4–85.4%). وعلى GPT-3 بحجم 175 مليار، حقّق LoRA بـ4.7 مليون معامل نتائج مكافئة أو أفضل من الضبط الدقيق الكامل (175 مليار معامل) في مهام WikiSQL وMNLI وSAMSum. والنتيجة الأكثر لفتاً: LoRA بقيمة $r_v = 2$ على GPT-3 — أي 4.7 مليون معامل فحسب، ما يُعادل 0.0027% من النموذج — حقّق 73.4% على WikiSQL، بفارق 0.4% فقط عن الضبط الدقيق الكامل.

على عكس الضبط بالبادئة، لا يتراجع أداء LoRA عند زيادة عدد المعاملات القابلة للتدريب. وعلى خلاف الطبقات الوسيطة، لا يُضيف أي تأخير في الاستدلال، لأن المصفوفات منخفضة الرُّتبة تُدمَج في الأوزان الأساسية عند النشر.

تأثير LoRA تجاوز النماذج اللغوية بمراحل. أصبح الأسلوب المعتمد لتخصيص مُولِّدات الصور مثل Stable Diffusion، حيث يُدرِّب المستخدمون مُحوِّلات LoRA صغيرة لتوليد أنماط فنية أو شخصيات بعينها. وفي بيئات الشركات، يُنشَر نموذج لغوي كبير واحد كقاعدة مشتركة، ثم تُضاف إليه مئات مُحوِّلات LoRA المتخصصة — واحد للمستندات القانونية، وآخر لخدمة العملاء، وثالث لتوليد الأكواد — وجميعها تتشارك ذاكرة المعالج الرسومي نفسها. فكرة أن التكيّف منخفض الرُّتبة بطبيعته فتحت اتجاهاً بحثياً لا يزال ينتج أساليب جديدة كل شهر.