السَّمْت

أساسيات تعلم الآلة2013متوسط11 دقيقة قراءة

صعوبة تدريب الشبكات العصبية التكرارية

On the Difficulty of Training Recurrent Neural Networks

Pascanu, R. · Mikolov, T. · Bengio, Y. — ICML

المشكلة

عندما نفرد الشبكة التكرارية عبر خطوات زمنية كثيرة خلال الانتشار الخلفي، ننتهي بسلاسل طويلة من عمليات ضرب المصفوفات. إن تجاوزت أكبر قيمة ذاتية الأوزان التكرارية الواحدَ الصحيح، تنفجر التدرّجات أُسِّياً — وقد تكفي خطوة تحديث واحدة سيئة لإقصاء المعاملات بعيداً عن أي حل مفيد. وإن كانت القيم الذاتية أصغر من 1، تتلاشى التدرّجات ويفقد القدرة على التقاط العلاقات بعيدة المدى. بحلول عام 2013، كانت هاتان المشكلتان العائق الأساسي أمام استخدام الشبكات التكرارية في مهام التسلسلات الواقعية.

الإسهام

تحلّل الورقة انفجار التدرّجات وتلاشيها من ثلاث زوايا: تحليلية (شروط القيم الذاتية على مصفوفة جاكوبيان)، وهندسية (جدران حادة الانحناء في سطح الخطأ)، ومنظور الأنظمة الديناميكية (التشعّبات وعبور حدود أحواض الجذب). ثم تقترح قَصّ مقياس التدرّج: حين يتجاوز مقياس التدرّج عتبةً محددة، يُعاد تحجيمه ليساويها. ولمواجهة التلاشي، تُضيف حدّ انتظام ناعماً يدفع مصفوفة جاكوبيان للحفاظ على مقياس التدرّج عبر الخطوات الزمنية. حين نجمع مع القص والانتظام (SGD-CR)، نحصل على نظام يحلّ مسائل الارتباطات بعيدة المدى حتى 200 خطوة، ويعمّم على تسلسلات بضعف الطول.

الأثر

أصبح قَصّ التدرّجات من أكثر الأدوات التدريبية شيوعاً في . كل إطار عمل رئيسي — PyTorch وTensorFlow وJAX — يوفّره كأداة مدمجة جاهزة. المحوِّلات وLSTM والشبكات التوليدية التنافسية، بل عملياً أي نموذج يُدرَّب بمُحسِّنات عائلة SGD، يستخدم القص. كذلك أسّس تحليل الورقة لهندسة سطح الخطأ قاعدةً لفهم مشهد التحسين، وهو ما أثّر لاحقاً في تصميم Adam وأساليب إحماء وتقنيات استقرار الحديثة.

تخيّل أنك تقود سيارتك في طريق جبلي ضيّق يشقّ وادياً عميقاً. على جانب تجد جرفاً شاهقاً — لفّة مقود خاطئة واحدة وتهوي إلى القاع. وعلى الجانب الآخر ينحدر الطريق بلطف نحو ضباب كثيف، وإن انجرفت نحوه يتباطأ تقدّمك شيئاً فشيئاً حتى تقف عالقاً لا ترى شيئاً أمامك.

تدريب يشبه قيادة هذا الطريق تماماً. الجرف هو انفجار : سطح الخطأ يتحوّل فجأة إلى جدار شبه عمودي، وخطوة تحديث عادية تقذفك خارج الحافّة. أما الضباب فهو تلاشي التدرّجات: الإشارة تخبو بهدوء حتى يفقد النموذج أي قدرة على التوجيه.

ما الحل الذي تطرحه هذه الورقة؟ ضع سقفاً لزاوية المقود. إن اندفعت يدك نحو الجرف، قيّد الدوران — وستبقى على الطريق. هذا هو . ولمواجهة الضباب، ركّب مصابيح أمامية تُبرز علامات الطريق — أي حدّ يحافظ على وضوح الإشارة عبر المسافات الطويلة.

المشكلة: لماذا تنهار الشبكات التكرارية على التسلسلات الطويلة

تعمل الشبكة العصبية التكرارية على معالجة عبر الاحتفاظ بـ تُحدَّث في كل خطوة زمنية. ولكي تتعلّم الشبكة، نفردها عبر الزمن ونطبّق عبر الزمن (BPTT). حساب تدرّج دالة عند اللحظة tt بالنسبة لـ خطوة سابقة kk يتطلّب ضرب سلسلة من مصفوفات ، مصفوفة واحدة لكل خطوة بين kk وtt:

∂xt∂xk=∏t≥i>k∂xi∂xi−1=∏t≥i>kWrec⊤ diag ⁣(σ′(xi−1))\frac{\partial \mathbf{x}_t}{\partial \mathbf{x}_k} = \prod_{t \geq i > k} \frac{\partial \mathbf{x}_i}{\partial \mathbf{x}_{i-1}} = \prod_{t \geq i > k} \mathbf{W}_{\text{rec}}^\top \, \text{diag}\!\left(\sigma'(\mathbf{x}_{i-1})\right)
سلسلة مصفوفات جاكوبيان — المحرك وراء انفجار التدرّجات وتلاشيها معاً — أثناء الانتشار العكسي عبر الزمن، يجب أن تمر معلومات التدرج عبر جميع الخطوات التكرارية الواقعة بين حالة سابقة وحالة لاحقة. ولأن كل خطوة تعيد تحجيم التدرج، فإن تكرار هذه التحويلات مرات كثيرة قد يؤدي إلى انكماش الإشارة تدريجياً حتى تقترب من الصفر أو إلى تضخمها بصورة خارجة عن السيطرة. وتمثل هذه الظاهرة السبب الجذري لمشكلتي تلاشي التدرجات وانفجارها اللتين تجعلانه تعلّم الاعتماديات بعيدة المدى أمراً صعباً في الشبكات العصبية التكرارية التقليدية.

الفكرة تشبه الفائدة المركّبة تماماً. إذا ضخّم كل عامل جاكوبيان الإشارة بمقدار λ>1\lambda > 1، فبعد t−kt - k خطوة تنمو الإشارة بمعدل λt−k\lambda^{t-k} — انفجار أُسِّي. وإذا كان λ<1\lambda < 1، تنكمش بمعدل λt−k\lambda^{t-k} — تلاشٍ أُسِّي. لنأخذ مثالاً عددياً: جداء 100 مصفوفة بقيمة λ=1.1\lambda = 1.1 يضخّم الإشارة إلى 1.1100≈13,7811.1^{100} \approx 13{,}781 ضعفاً. أما بقيمة λ=0.9\lambda = 0.9 فالإشارة تنكمش إلى 0.9100≈0.0000270.9^{100} \approx 0.000027.

وبشكل أدقّ، إذا كانت λ1\lambda_1 هي أكبر لـ التكرارية Wrec\mathbf{W}_{\text{rec}}، وγ\gamma هي الحدّ الأعلى لمقدار مشتقة ∣σ′(x)∣|\sigma'(x)| (في حالة tanh تكون γ=1\gamma = 1، وفي sigmoid تكون γ=14\gamma = \tfrac{1}{4})، نحصل على:

  • شرط كافٍ للتلاشي: λ1<1γ\lambda_1 < \frac{1}{\gamma} — المُركَّبات طويلة المدى تتلاشى أُسِّياً.
  • شرط ضروري للانفجار: λ1>1γ\lambda_1 > \frac{1}{\gamma} — بدون تحقّق هذا الشرط لا يمكن أن تنفجر التدرّجات.
افتح في المختبر
اسحب شريط القيمة الذاتية لترى كيف يتغيّر حجم التدرّج عبر 50 خطوة زمنية. فوق 1.0 يندفع لأعلى بسرعة صاروخية، وتحت 1.0 ينهار نحو الصفر.
تستيقظ التجربة عند وصولك…

المنظور الهندسي: جدران في سطح الخطأ

تكشف الورقة عن نمط هندسي لافت. حين تنفجر التدرّجات، فهي تنفجر في اتجاه محدد v\mathbf{v} — وهو المقابل لأكبر قيمة ذاتية. انحناء سطح الخطأ ينفجر هو الآخر على طول الاتجاه نفسه، فيتشكّل ما يشبه جداراً حاداً وسط مشهد دالة الخسارة.

تصوّر وادياً فسيحاً هادئ الانحدار، يقطعه جدار صخري عمودي. عندما يحسب العشوائي خطوة التحديث، يجعلها متناسبة مع حجم التدرّج. وبالقرب من هذا الجدار يكون التدرّج ضخماً، فتقذفك خطوة التحديث إلى الطرف الآخر من الوادي — أو خارجه بالكامل. النتيجة: التدريب يفقد استقراره، والمعاملات تتأرجح بعنف بدلاً من أن تتقارب.

الملاحظة الجوهرية هنا أن الوادي واسع على جانبَي الجدار. لذا بدلاً من أخذ تلك الخطوة الهائلة، إن وضعت سقفاً لحجم الخطوة وتقدّمت مسافة صغيرة في اتجاه التدرّج، تهبط مباشرة في المنطقة الملساء المجاورة للجدار، حيث يستطيع الانحدار التدريجي أن يواصل عمله بشكل طبيعي.

افتح في المختبر
السطح ثلاثي الأبعاد يُظهر وادياً بجدار حاد. فعّل القص لترى كيف يُبقي مسار التحسين في الجانب الأملس.
تستيقظ التجربة عند وصولك…

منظور الأنظمة الديناميكية: الجاذبات والتشعّبات

يستعير المؤلفون أدوات من نظرية الأنظمة الديناميكية ليفسّروا متى تحدث انفجارات التدرّجات بالتحديد. الحالة الخفية في الشبكة التكرارية تسلك سلوك نظام ديناميكي: لأي مجموعة معاملات معطاة، تميل الحالة إلى الاستقرار حول نقاط تُسمّى جاذبات — أي نقاط توازن مستقرة. فضاء المعاملات بأكمله ينقسم إلى أحواض جذب، كل حوض يسحب الحالة نحو مختلف.

خلال التدريب، تتغيّر خريطة هذه الجاذبات بسلاسة — في معظم الأماكن. لكن هناك نقاط خاصة تُسمّى حدود ، وعندها تظهر جاذبات جديدة أو تختفي أو تتغيّر أشكالها فجأة. حين يعبر مسار التدريب حدّاً فاصلاً بين حوضَي جذب، يكفي تغيير طفيف في المعاملات لإحداث قفزة هائلة في الحالة الخفية — وهذا بالضبط ما يعنيه انفجار التدرّج.

تصوّر كرة زجاجية على سطح فيه وعاءان متجاوران. في الأحوال العادية، إمالة السطح قليلاً تُزيح نقطة استقرار الكرة بمقدار بسيط. لكن عند الحافّة الفاصلة بين الوعاءين، إمالة متناهية الصِّغر ترسل الكرة إلى الوعاء الآخر تماماً — قفزة مفاجئة غير متصلة. تلك الحافّة هي حدّ التشعّب، والقفزة هي الانفجار في التدرّج.

افتح في المختبر
اسحب شريط الانحياز لاستكشاف مخطط التشعّب. لاحظ كيف تظهر الجاذبات وتختفي، وكيف أنّ عبور حدٍّ يُسبب قفزة غير مستمرة في الحالة.
تستيقظ التجربة عند وصولك…

الحل: قَصّ التدرّجات

الملاحظة الهندسية التي ذكرناها — وادٍ واسع يقطعه جدار حاد وحيد — تقودنا مباشرة إلى حلّ أنيق. حين يقفز التدرّج فجأة (دلالة على أنك اصطدمت بالجدار)، لا تأخذ تلك الخطوة الضخمة. بدلاً من ذلك، أعِد تحجيم متجه التدرّج بحيث يصبح مقياسه مساوياً لعتبة ثابتة، ثم تقدّم. بهذا تحافظ على اتجاه الهبوط لكنك تحدّ من حجم الخطوة — فتبقى قرب الجدار بدل أن تطير عبر الوادي.

الخوارزمية بسيطة بشكل لافت:

g^←∂E∂θ,if ∥g^∥≥τ then g^←τ∥g^∥g^\hat{\mathbf{g}} \leftarrow \frac{\partial E}{\partial \boldsymbol{\theta}}, \quad \text{if } \|\hat{\mathbf{g}}\| \geq \tau \text{ then } \hat{\mathbf{g}} \leftarrow \frac{\tau}{\|\hat{\mathbf{g}}\|} \hat{\mathbf{g}}
قَصّ مقياس التدرّج — الخوارزمية كاملة في سطر واحد — احسب التدرّج. إذا تجاوز مقياسه العتبة τ، أعِد تحجيمه ليصبح مقياسه τ. الاتجاه يُحفَظ، الحجم يُقيَّد. هذا كل ما في الأمر.

لماذا ينجح شيء بهذه البساطة؟ السبب يعود لهندسة الوادي نفسها. الجدار ضيّق — الانفجار يقع في رقعة محدودة من فضاء المعاملات. على جانبَي الجدار، سطح الخطأ أملس ومنتظم السلوك. الخطوة المقصوصة من عند الجدار تدفعك ببساطة إلى الجانب الأملس، حيث يعود الانحدار التدريجي العشوائي ليعمل بكفاءة.

بالمقارنة مع أساليب الرتبة الثانية كتحسين الحرّ، يتفوّق القص في ثلاثة جوانب: تكلفته الحوسبية شبه معدومة، ويتعامل مع التغيّرات المفاجئة في الانحناء (التي تُفلت من تقديرات هيسيان المُمَهَّدة)، ويظلّ فعّالاً حتى حين ينمو التدرّج والانحناء بمعدّلات مختلفة — وهي حالة تنفجر فيها تصحيحات الرتبة الثانية ذاتها.

افتح في المختبر
شاهد الانحدار التدريجي مع القص وبدونه وهو يتنقّل على سطح خسارة ثنائي الأبعاد بجدار حاد. النسخة المقصوصة تبقى مستقرة، أما غير المقصوصة فتطير بعيداً.
تستيقظ التجربة عند وصولك…
قَصّ التدرّجات في NumPy — التنفيذ الكاملpython

مبسَّط لإظهار الفكرة — ليس التنفيذ الحقيقي.

import numpy as np

def clip_gradient_norm(gradient, max_norm=1.0):
    """قص متجه التدرّج حين يتجاوز مقياسه الحد الأقصى.

    هذه هي الخوارزمية بالضبط من Pascanu et al. (2013):
    نحافظ على الاتجاه ونقيّد الحجم.
    """
    grad_norm = np.linalg.norm(gradient)
    if grad_norm > max_norm:
        gradient = (max_norm / grad_norm) * gradient
    return gradient

# مثال: تدرّج بمقياس 50 يُعاد تحجيمه لمقياس 1
g = np.random.randn(100) * 50  # "انفجار تدرّج"
g_clipped = clip_gradient_norm(g, max_norm=1.0)
print(f"قبل: {np.linalg.norm(g):.1f}")   # ~500
print(f"بعد:  {np.linalg.norm(g_clipped):.1f}")  # 1.0
# الاتجاه لم يتغيّر، الحجم مقيَّد. التدريب يستمر.

تلاشي التدرّجات: نهج الانتظام

القص يروّض الانفجارات، لكن ماذا عن المشكلة المعاكسة — تلاشي التدرّجات؟ حين تنكمش مُركَّبات التدرّج بشكل أُسِّي، يصبح النموذج عاجزاً عن التقاط العلاقات بين الخطوات الزمنية المتباعدة.

تُقدّم الورقة حدّ انتظام Ω\Omega يُعاقب مصفوفة جاكوبيان كلّما أخفقت في الحفاظ على مقياس إشارة التدرّج أثناء انتقالها خلفياً عبر الزمن. الفكرة ببساطة: أجبر إشارة المنتشرة للخلف ألّا تكبر ولا تصغر وهي تمرّ بكل خطوة زمنية.

Ω=∑k(∥∂E∂xk+1∂xk+1∂xk∥/∥∂E∂xk+1∥−1)2\Omega = \sum_k \left( \left\| \frac{\partial E}{\partial \mathbf{x}_{k+1}} \frac{\partial \mathbf{x}_{k+1}}{\partial \mathbf{x}_k} \right\| \bigg/ \left\| \frac{\partial E}{\partial \mathbf{x}_{k+1}} \right\| - 1 \right)^2
حدّ انتظام التلاشي — حافظ على حجم إشارة الخطأ — عند كل خطوة زمنية، قِس مقدار تغيير مصفوفة جاكوبيان لمقياس إشارة الخطأ المنتشرة خلفياً. عاقب أي انحراف عن 1 (الحفاظ التام). العقوبة اتجاهية — تهتم فقط بالاتجاه المتعلق بالخطأ وليس بجميع القيم الذاتية.

خياران تصميميان يجعلان هذا المنتظم قابلاً للتطبيق عملياً. أولاً، لا يُعاقب سلوك جاكوبيان إلا في اتجاه تدرّج الخطأ الحالي، وليس في جميع الاتجاهات. بهذا نتجنّب الشرط المكلف الذي يفرض تقريب كل القيم الذاتية من الواحد. ثانياً، تستعمل الورقة «المباشرة» فقط لتقليل التكلفة — أي تعامل الحالة الخفية وإشارة الخطأ كثوابت عند اشتقاق Ω\Omega بالنسبة لـWrec\mathbf{W}_{\text{rec}}.

هناك توتّر طبيعي بين الحلّين. منع التلاشي يعني إبقاء النموذج حسّاساً للمدخلات البعيدة — لكن هذا يعني في الوقت نفسه العمل قرب حدود أحواض الجذب، حيث ترتفع احتمالية الانفجار. الورقة تجمع بين الأداتين بذكاء: حدّ الانتظام يدفع النموذج نحو أنظمة أغنى تُتيح ذاكرة طويلة المدى، والقص يعمل كشبكة أمان حين تقع الانفجارات التي لا مفرّ منها.

النتائج التجريبية

اختُبر النهج المُدمَج — SGD-CR (الانحدار التدريجي العشوائي + القص + الانتظام) — على مسائل اصطناعية مصمَّمة لاختبار الحالات المرَضية، وعلى مهام واقعية.

في مسألة الترتيب الزمني التي تتطلّب تذكّر رموز عبر تسلسلات طويلة، يفشل SGD وحده ما إن يتجاوز الطول 20 خطوة. إضافة القص فقط (SGD-C) تُحسّن الأداء لكنها لا تكفي. أما SGD-CR فيحقّق نسبة نجاح 100% على تسلسلات حتى 200 خطوة — بل ويعمّم على تسلسلات بطول 400 خطوة دون إعادة تدريب.

أما في المهام الواقعية، فقد حسّن القص وحده الأداء في التنبؤ بالموسيقى متعددة الأصوات (Piano-midi.de، Nottingham، MuseData) وفي نمذجة اللغة على مستوى الأحرف (Penn Treebank). إضافة حدّ الانتظام جلبت مكاسب إضافية، خصوصاً في مهمة التنبؤ بالحرف الخامس التالي التي تعتمد بشكل أكبر على الارتباطات بعيدة المدى.

افتح في المختبر
قارن معدلات النجاح بين SGD وSGD-C وSGD-CR في مسألة الترتيب الزمني عبر أطوال تسلسلات مختلفة.
تستيقظ التجربة عند وصولك…

السياق: ما سبق هذا العمل

مشكلة تلاشي التدرّجات رصدها لأول مرة Bengio وآخرون (1994)، حيث بيّنوا أن التعلّم القائم على التدرّجات في الشبكات التكرارية يزداد صعوبة كلّما اتّسعت الفجوة الزمنية بين الأحداث المترابطة. تلك الورقة وضعت الأساس النظري — شروط القيم الذاتية لانطفاء التدرّج — الذي بنى عليه Pascanu وزملاؤه وامتدّوا به ليشمل حالة الانفجار.

(1997) عالجت مشكلة التلاشي معمارياً بإدخال خلايا ذاكرة ببوابات وآلية تحافظ على ثبات إشارة الخطأ. لكنها لم تتصدَّ لانفجار التدرّجات بشكل مباشر. تحسين هيسيان الحرّ (Martens وSutskever، 2011) تعامل مع المشكلتين معاً عبر معلومات الرتبة الثانية، لكن بتكلفة حوسبية أعلى بكثير.

قَصّ التدرّجات يسدّ هذه الفجوة: تكلفته بسيطة بما يكفي لاستخدامه مع الانحدار التدريجي العادي، ويعالج الانفجارات التي لا تطالها التعديلات المعمارية كـ LSTM، ويُكمّل هذه الأساليب بدلاً من أن يحلّ محلّها.

لماذا لا يزال مهماً

قَصّ التدرّجات عاش أطول من حقبة الشبكات التكرارية التي وُلد فيها. حين حلّت محلّها كبنية مهيمنة، انتقل القص معها — ليس لأن المحوِّلات تعاني من مشكلة سلسلة جاكوبيان ذاتها، بل لأن أي شبكة عميقة قد تصادف قفزات مفاجئة في التدرّج خلال التدريب بسبب دفعات بيانات شاذّة، أو جدول معدَّل التعلُّم، أو طبيعة مشهد دالة الخسارة.

اليوم، استدعاء torch.nn.utils.clip_grad_norm_ صار جزءاً شبه إلزامي من كل حلقة تدريب على نطاق واسع. GPT وClaude وGemini وLLaMA — كلها تعتمد قَصّ التدرّجات. إنها من تلك الأفكار النادرة التي تجمع بين البساطة الشديدة والفعالية الكبيرة، حتى تحوّلت إلى بنية تحتية خفية يستخدمها كل ممارس دون أن يتوقّف عند الورقة التي أطلقتها.

  1. 1994

    Bengio وآخرون — تلاشي التدرّجات

    أول تحليل رسمي يُثبت أن تعلّم الارتباطات طويلة المدى بالانحدار التدريجي صعب في جوهره. وضع شروط القيم الذاتية التي تحكم تلاشي التدرّج.

  2. 1997

    LSTM — حل معماري

    طرح Hochreiter وSchmidhuber خلايا ذاكرة ببوابات لحل مشكلة التلاشي من خلال البنية المعمارية، لكن مشكلة الانفجار بقيت دون علاج.

  3. 2013

    هذه الورقة — قَصّ التدرّجات

    وحّد Pascanu وMikolov وBengio تحليل المشكلتين واقترحوا قَصّ مقياس التدرّج مع انتظام لمكافحة التلاشي. حل بسيط، رخيص، وفعّال.

  4. 2014

    Seq2Seq مع القص

    وظّف Sutskever وزملاؤه قَصّ التدرّجات كمكوّن أساسي في أول نظام ترجمة آلية عصبية ناجح، ممّا أثبت أهميته خارج نطاق التجارب الاصطناعية.

  5. 2017

    المحوِّلات تتبنّى القص

    ورقة المحوِّل الأصلية اعتمدت قَصّ التدرّجات في التدريب. نجا القص من ثورة الانتقال من الشبكات التكرارية إلى آليات الانتباه — ممّا أكّد صلاحيته العامة.

المرجعPascanu, Mikolov, Bengio. On the Difficulty of Training Recurrent Neural Networks. ICML, 2013.

مصطلحات هذه الورقة