أساليب التدرّج الفرعي التكيُّفية للتعلّم عبر الإنترنت والأمثَلة العشوائية

في SGD التقليدي، كل معامل يحصل على معدّل التعلّم نفسه $\eta$. قاعدة التحديث مباشرة:

$\theta_{t+1} = \theta_t - \eta \, g_t$

حيث $g_t$ هو التدرّج عند الخطوة $t$. هذا يعمل جيداً حين تتلقى جميع المعاملات تدرّجات متقاربة في الحجم والتكرار. لكن في الواقع، كل معامل يعيش حياة مختلفة تماماً.

لنأخذ مثالاً عملياً: نموذج لغوي يتعلّم تضمينات الكلمات. كلمة مثل «في» تظهر في كل جملة تقريباً، فيُحدَّث تضمينها آلاف المرات. في المقابل، كلمة مثل «مصادفة» قد لا تظهر إلا مرة واحدة في كامل مجموعة البيانات. الآن تخيّل أنك تستخدم معدّل تعلّم واحداً للاثنتين: إن رفعت $\eta$ بما يكفي لتتعلم «مصادفة»، ستتأرجح «في» بعنف. وإن خفضته لتستقر «في»، فـ «مصادفة» بالكاد تتحرك.

هذه هي مشكلة التناثر: في معالجة اللغة وأنظمة التوصية والتنبؤ بالنقرات، القوة التنبُّئية الحقيقية تكمن في السمات النادرة — لكن معدّل التعلّم الموحّد يحرمها من التحديثات التي تحتاجها.

الفكرة المركزية في AdaGrad بسيطة بشكل مدهش: راكِم مربعات التدرّجات لكل معامل على حدة، ثم اقسم معدّل التعلّم على الجذر التربيعي لذلك المجموع.

تخيّل أن لكل معامل «عدّاد كيلومترات». المعامل الذي حُدِّث مرات كثيرة بتدرّجات كبيرة عدّاده مرتفع — يعني أنه قطع شوطاً طويلاً واقترب من وجهته، فنُصغّر خطواته. أما المعامل ذو العدّاد المنخفض فبالكاد بدأ رحلته — نمنحه خطوة أوسع ليعوّض تأخّره.

هذا هو جوهر معدّلات التعلّم التكيُّفية لكل معامل: بدلاً من $\eta$ واحد يُفرض على الجميع، يصبح لكل معامل $\eta_i$ خاصّ به، يتقلّص تلقائياً كلّما زادت إشارة التدرّج المتراكمة عنده.

قبل أن ندخل في الرموز، لنفهم المنطق خطوة بخطوة. في كل خطوة من التدريب، يقوم AdaGrad بثلاثة أشياء:

الخطوة 1 — احسب التدرّج لكل معامل، بالطريقة المعتادة تماماً كما في SGD.

الخطوة 2 — راكِم: أضف مربع كل مركّبة من التدرّج إلى مجموع تراكمي. هذا المجموع يكبر باستمرار ولا «ينسى» أبداً.

الخطوة 3 — قيِّس التحديث: اقسم التدرّج على الجذر التربيعي للمجموع المتراكم، ثم اضرب الناتج في معدّل التعلّم العالمي. المعاملات التي تراكمت عندها تدرّجات كبيرة تحصل على خطوات أصغر، والمعاملات ذات التدرّجات القليلة أو النادرة تحصل على خطوات أوسع.

لاحظ ما حدث: بدأنا بـمعدّل تعلّم عالمي واحد $\eta$، وانتهينا بمعدّل تعلّم فعّال مختلف $\eta / \sqrt{G_{t,i}}$ لكل معامل $i$. التكيّف تلقائي بالكامل — لا جدول يدوي ولا ضبط منفصل لكل سمة. المعامل الفائق الوحيد المؤثّر هو $\eta$ الابتدائي، وAdaGrad أقل حساسية لاختياره بكثير مقارنةً بـ SGD التقليدي.

هناك زاوية أعمق لفهم ما يفعله AdaGrad. في SGD العادي، نأخذ التدرّج ونخطو في اتجاهه بخطوة ثابتة. هندسياً، هذا يعني أننا نفترض أن سطح الخسارة ينحني بالتساوي في كل الاتجاهات — كأننا نستخدم مصفوفة الوحدة كمُهيِّئ مسبق.

لكن أسطح الخسارة الحقيقية لا تتصرف هكذا: تنحني بحدّة في اتجاهات وبرفق في أخرى. تخيّل وادياً طويلاً وضيّقاً — الانحدار التدريجي يرتدّ بين الجدران الحادّة بينما يزحف ببطء شديد على أرض الوادي.

AdaGrad يبني ضمنياً تقريباً قُطرياً لانحناء السطح من تاريخ التدرّجات. المجموع المتراكم $G_t$ يقوم مقام قُطر مصفوفة هيسيان: القيم الكبيرة تدلّ على انحناء حادّ (خطوات أقصر)، والقيم الصغيرة تدلّ على سطح مسطّح (خطوات أطول). الأثر الصافي: الوادي الضيق يتحوّل إلى وعاء أكثر استدارة يتقارب فيه الانحدار التدريجي بسلاسة.

النسخة الكاملة من AdaGrad تستخدم الجداء الخارجي $\sum g_t g_t^T$ كمُهيِّئ مسبق — وهو تقريب كامل من الدرجة الثانية. النسخة القُطرية تكتفي بالقُطر فقط، وتُقايض بعض الدقة مقابل ذاكرة بحجم $O(d)$ بدلاً من $O(d^2)$.

قوة AdaGrad تتجلّى بوضوح مع البيانات ذات التناثر العالي. تخيّل سمة لا تظهر إلا في 0.1% من أمثلة التدريب. تدرّجها يساوي صفراً 99.9% من الوقت، فيبقى مجموعها المتراكم $G_{t,i}$ صغيراً. حين تظهر هذه السمة أخيراً وتُنتج تدرّجاً غير صفري، يقسم AdaGrad على عدد صغير — فتحصل على معدّل تعلّم فعّال كبير. بهذا تنال السمة النادرة تحديثاً أكبر يعوّض غيابها المتكرر.

في المقابل، السمة الموجودة في كل مثال تُراكم $G_{t,i}$ كبيراً بسرعة، فينخفض معدّل تعلّمها الفعّال ويُمنع التأرجح الذي كان سيحصل مع معدّل تعلّم ثابت مرتفع.

هذا ما جعل AdaGrad نقلة نوعية في معالجة اللغة وأنظمة التوصية: هذه المجالات تتسم بفضاءات سمات متناثرة عالية الأبعاد، يتفاوت فيها تكرار ظهور السمات بأضعاف مضاعفة.

في AdaGrad عيب جوهري: المجموع المتراكم $G_t$ لا يتحرك إلا في اتجاه واحد — للأعلى. كل خطوة تضيف إليه قيمة غير سالبة، فـمعدّل التعلّم الفعّال $\eta / \sqrt{G_t}$ لا يمكنه إلا أن يتناقص ولا يتعافى أبداً. في مسائل الأمثَلة المحدّبة هذا ليس مشكلة: كلّما اقتربتَ من الحد الأدنى أردت خطوات أصغر وأصغر. لكن في التعلّم العميق حيث سطح الخسارة غير محدّب ومليء بالمناطق المسطّحة والمنحدرات، فمعدّل التعلّم الذي تآكل في منطقة مسطّحة لا يستطيع أن يتسارع مجدداً حين يدخل منحدراً حادّاً.

بعد تكرارات كثيرة، قد يصبح معدّل التعلّم الفعّال ضئيلاً لدرجة أن النموذج يتوقف عملياً عن التعلّم — التحديثات تصير مهملة. لذلك يُعاني AdaGrad وحده مع الشبكات العصبية العميقة التي تتطلب آلاف الحقبات التدريبية.

الورقة الأصلية تقترح في الواقع صيغة أعمّ: بدلاً من تتبّع القُطر وحده، نُراكم الجداء الخارجي الكامل لـالتدرّجات:

$H_t = \sum_{\tau=1}^{t} g_\tau g_\tau^T$

ثم نستخدم $H_t^{1/2}$ (الجذر التربيعي المصفوفي) كمُهيِّئ مسبق في التحديث:

$\theta_{t+1} = \theta_t - \eta \, H_t^{-1/2} \, g_t$

هذا هو التهيئة المسبقة المثالية — لأنها تلتقط الارتباطات بين المعاملات وليس أحجامها الفردية فحسب. لكن عملياً، حساب وقلب مصفوفة $d \times d$ في كل خطوة أمر غير واقعي حين يكون عدد المعاملات بالملايين. لذلك النسخة القُطرية $G_t = \text{diag}(H_t)$ هي الحلّ الوسط العملي الذي صار يُعرف بـ «AdaGrad» في الاستخدام اليومي.

فكرة المصفوفة الكاملة لم تندثر رغم ذلك — عادت بعد سنوات في Shampoo الذي وجد طرقاً كفؤة لتقريب المُهيِّئ الكامل في التدريب واسع النطاق.

AdaGrad يأتي بضمان رسمي من نظرية التعلّم عبر الإنترنت. مفهوم الندم يقيس الفارق بين أداء الخوارزمية وأفضل قرار ثابت كان يمكن اتخاذه بأثرٍ رجعي. في SGD بـمعدّل تعلّم ثابت، حدّ الندم يعتمد على معرفة حجم التدرّجات مسبقاً: إن اخترت معدّلاً مرتفعاً انفجر الندم، وإن اخترته منخفضاً تباطأ التقارب.

حدّ ندم AdaGrad هو:

$R(T) \leq 2 \sum_{i=1}^{d} \|g_{1:T,i}\|_2$

حيث $\|g_{1:T,i}\|_2 = \sqrt{\sum_{t=1}^{T} g_{t,i}^2}$ هو المعيار التراكمي لتدرّج المعامل $i$. هذا الحدّ يعتمد على عدد الأبعاد لكنه يتكيّف مع طبيعة البيانات: إن كانت معظم المعاملات ذات تدرّجات صغيرة (بيانات متناثرة)، يظل الحدّ صغيراً حتى في أبعاد عالية جداً. في المسائل المتناثرة قد يتفوّق هذا الحدّ جذرياً على حدّ SGD التقليدي $O(\sqrt{T})$.

بتعبير مبسّط: AdaGrad مُبرهَن رياضياً أنه يؤدّي بجودة أفضل جدول معدّلات تعلّم كنت ستختاره لو كنت تعرف المستقبل مسبقاً.

AdaGrad زرع البذرة، لكن أحفاده بنوا عليها وتجاوزوها:

RMSProp (هينتون، 2012) — استبدل المجموع الذي لا يتوقف عن النمو بمتوسط متحرك أُسّي لمربعات التدرّجات: $v_t = \beta v_{t-1} + (1-\beta) g_t^2$. بهذا «ينسى» التدرّجات القديمة، فيستقرّ معدّل التعلّم بدلاً من أن ينحدر نحو الصفر. فكّر فيه على أنه AdaGrad بذاكرة مُسرِّبة.

AdaDelta (زيلر، 2012) — يشبه RMSProp لكنه يُكيّف البسط أيضاً عبر متوسط أُسّي لمربعات تحديثات المعاملات، فيستغني عن معدّل التعلّم العالمي كلياً.

Adam (كينغما وبا، 2014) — جمع بين العزم الثاني التكيُّفي من RMSProp والمتوسط المتحرك للعزم الأول (العزم)، مع إضافة تصحيح للانحياز في الخطوات الأولى. سرعان ما أصبح المُحسِّن الافتراضي في التعلّم العميق.

Shampoo (غوبتا وآخرون، 2018) — أحيا المُهيِّئ المسبق بالمصفوفة الكاملة من AdaGrad وجعله قابلاً للتطبيق في التدريب واسع النطاق عبر تقريبات جداء كرونيكر.

كل واحد من هؤلاء يُجيب عن السؤال نفسه الذي طرحه AdaGrad: كيف ينبغي لتاريخ التدرّجات أن يُحدّد شكل خطوة التحديث؟ الاختلاف بينهم في مقدار التاريخ الذي يحتفظون به وطريقة بناء المُهيِّئ المسبق.

رغم مرور السنوات، لا يزال AdaGrad الخيار الأنسب في سياقات بعينها:

استخدم AdaGrad حين تكون سماتك متناثرة وعالية الأبعاد — كالتنبؤ بمعدّل النقرات، ومعالجة اللغة بمفردات كبيرة، وأنظمة التوصية بملايين العناصر. التكيّف التلقائي لكل سمة يتولّى معالجة التفاوت في التكرار تلقائياً، والتناقص الرتيب الذي يبدو عيباً هو في الواقع ميزة في المسائل المحدّبة لأنه يضمن التقارب.

استخدم Adam أو RMSProp بدلاً منه حين تُدرِّب شبكات عصبية عميقة على بيانات كثيفة (صور، صوت، إشارات مستمرة). السطح غير المحدّب يحتاج معدّل تعلّم قادراً على التعافي بعد المناطق المسطّحة.

القاعدة العملية: إن كانت مسألتك تتضمن سمات متفاوتة التكرار بشدة وخسارتك محدّبة أو شبه محدّبة، فـ AdaGrad لا يزال صعب المنافسة. أما إن كنت في عالم التعلّم العميق بتدرّجات كثيفة وخسارة غير محدّبة، فـ Adam هو خيارك الأوّل.