بعض طرق تسريع تقارب الأساليب التكرارية

لنفترض أننا نريد إيجاد القيمة الصغرى لدالة ملساء $f(\mathbf{x})$. الانحدار التدريجي القياسي يسير عكس اتجاه التدرّج في كل خطوة:

$\mathbf{x}_{k+1} = \mathbf{x}_k - \alpha \nabla f(\mathbf{x}_k)$

حيث $\alpha$ هو معدّل التعلّم. لو كان السطح كرويّاً مثالياً — أي الانحناء متساوٍ في كل اتجاه — لعمل هذا بامتياز، لأنّ كل خطوة تتّجه مباشرة نحو القاع.

لكنّ سطوح الخسارة في مسائل التعلّم الآلي الحقيقية نادراً ما تكون كروية. الشائع أنها وديان مستطيلة: حادّة الانحناء في بعض الاتجاهات ومنبسطة في أخرى. نسبة أكبر انحناء إلى أصغره تُعرف بـرقم الحالة $\kappa = L / \mu$.

هنا يقع الانحدار التدريجي في مأزق: إذا كبّرنا معدّل التعلّم بما يكفي للتقدّم في الاتجاه المنبسط، تجاوز المُحسِّن الهدف في الاتجاه الحادّ فنشأ تذبذب. وإذا صغّرناه لتجنّب التذبذب، أصبح التقدّم في الاتجاه المنبسط بطيئاً بشكل مؤلم.

معدّل التقارب على دالة تربيعية محدّبة بقوّة هو $\rho_{\text{GD}} = \frac{\kappa - 1}{\kappa + 1}$. حين يكون $\kappa = 100$ تصبح هذه النسبة $0.98$ — أي أنّ كل خطوة لا تُقلّص الخطأ إلا بنسبة 2%، ونحتاج قرابة $\kappa$ خطوة لمجرّد تنصيف الخطأ.

فكرة بولياك كانت في غاية البساطة: أضِف كسراً من الخطوة السابقة إلى الخطوة الحالية. بدلاً من أن يقرّر المُحسِّن وجهته بناءً على الميل الحالي وحده، يأخذ في الحسبان الاتجاه الذي كان يسير فيه فعلاً.

يمكن تصوُّر الأمر كأنّنا نمنح المُحسِّن ذاكرة. الانحدار التدريجي بطبيعته بلا ذاكرة — ينسى كل شيء عند كل خطوة. الزخم يمنحه ذاكرة بمقدار خطوة واحدة: «كنت أتّجه هنا، فما لم يعترض التدرّج بقوّة، سأستمرّ.»

حين تشير التدرّجات باستمرار في الاتجاه نفسه (على طول قاع الوادي)، يتراكم الزخم وينمو حجم الخطوة الفعلي فيتسارع المُحسِّن. وحين تتعاقب التدرّجات بإشارات متعاكسة (التذبذب عند الجدران)، يُلغي حدّ الزخم جزءاً من التدرّج تلقائياً فيُخمد التذبذب.

هناك صيغة مكافئة أكثر شيوعاً تستعمل متغيّر سرعة $\mathbf{v}$:

$\mathbf{v}_{k+1} = \beta \mathbf{v}_k - \alpha \nabla f(\mathbf{x}_k)$ $\mathbf{x}_{k+1} = \mathbf{x}_k + \mathbf{v}_{k+1}$

$\mathbf{v}$ هنا يمثّل سرعة «الكرة الثقيلة». في كل خطوة تتلاشى السرعة بمقدار $\beta$ (كأنّها احتكاك)، وتتلقّى دفعة من سالب التدرّج (كأنّها جاذبية). بعد ذلك تتحرّك المعاملات ببساطة في اتجاه السرعة.

هذه الصيغة تكشف الفيزياء بوضوح: حين يقترب $\beta$ من 1 ينخفض الاحتكاك فتواصل الكرة التدحرج طويلاً، وحين يساوي $\beta$ صفراً نعود إلى الانحدار التدريجي الصِّرف بلا قصور ذاتي على الإطلاق.

طريقة بولياك مستوحاة من قانون نيوتن الثاني. كرة على سطح تتأثّر بالجاذبية (التدرّج) وبالاحتكاك (معامل الإخماد $\beta$). في الزمن المتصل تُكتب المعادلة هكذا:

$\mathbf{x}''(t) + \gamma \mathbf{x}'(t) + \nabla f(\mathbf{x}(t)) = 0$

هذه معادلة مذبذب توافقي مُخمَد. الاحتكاك $\gamma$ يمنع الكرة من تجاوز النقطة الدنيا والتأرجح بلا توقّف. الجوهري هنا أنّ ديناميكيات الرتبة الثانية (أي التسارع وليس السرعة فحسب) تسمح للنظام باستغلال معلومات الانحناء ضمنياً دون أن نحسب مصفوفة هيسيان قطّ.

على دالة تربيعية $f(\mathbf{x}) = \frac{1}{2}\mathbf{x}^T A \mathbf{x}$، تمثّل القيم الذاتية لـ$A$ الانحناءات في كل اتجاه. بدون زخم، يتقدّم التقارب في كل اتجاه ذاتي بشكل مستقل بمعدّل $|1 - \alpha \lambda_i|$، وعلى حجم الخطوة الأمثل أن يوازن بين الاتجاه الأسرع ($\lambda_{\max} = L$) والأبطأ ($\lambda_{\min} = \mu$).

مع الزخم، ينخفض معامل التقارب إلى $\frac{\sqrt{\kappa} - 1}{\sqrt{\kappa} + 1}$ — الجذر التربيعي يُحوِّل رقم الحالة. الفرق بين $O(\kappa)$ تكرار و$O(\sqrt{\kappa})$ تكرار يعني انتقالاً من اعتماد تربيعي إلى خطّي على صعوبة المسألة.

اشتقّ بولياك المعاملات الفائقة المثلى للدوال التربيعية المحدّبة بقوّة. إذا كانت $\mu$ أصغر قيمة ذاتية لمصفوفة هيسيان و$L$ أكبرها:

$\alpha^* = \frac{4}{(\sqrt{L} + \sqrt{\mu})^2} \qquad \beta^* = \left(\frac{\sqrt{L} - \sqrt{\mu}}{\sqrt{L} + \sqrt{\mu}}\right)^2$

في الواقع العملي لا نعرف $\mu$ و$L$، لذا يستخدم الممارسون عادةً $\beta = 0.9$ (وأحياناً 0.99). السبب أنّ معظم سطوح الخسارة في التعلّم العميق ذات رقم حالة مرتفع جداً ($\kappa \gg 1$)، وعنده يقترب $\beta^*$ من 1 تلقائياً.

هناك تفاعل مهم بين معدّل التعلّم $\alpha$ و$\beta$: زخم أعلى يتيح خطوة فعلية أكبر. كقاعدة ذهنية، الزخم يُضخِّم معدّل التعلّم بعامل يقارب $\frac{1}{1 - \beta}$ — فمع $\beta = 0.9$ يصبح المعدّل الفعلي عشرة أضعاف المعدّل الاسمي.

يمكن النظر إلى صيغة السرعة من زاوية أخرى مفيدة. إذا فككنا العلاقة التكرارية $\mathbf{v}_{k+1} = \beta \mathbf{v}_k - \alpha \nabla f(\mathbf{x}_k)$ نحصل على:

$\mathbf{v}_{k+1} = -\alpha \sum_{i=0}^{k} \beta^{k-i} \nabla f(\mathbf{x}_i)$

أي أنّ السرعة ما هي إلا مجموع مُرجَّح أُسّياً لجميع التدرّجات السابقة، تحظى فيه التدرّجات الأحدث بالوزن الأكبر. هذا بالضبط ما يُعرف بـ المتوسط المتحرك الأُسّي — الأداة ذاتها المُستخدمة في معالجة الإشارات لتنعيم البيانات المُشوَّشة.

هذه الزاوية تفسّر لماذا ينفع الزخم تحديداً مع التدرّجات العشوائية المُشوَّشة: المتوسط يُنعّم الضوضاء ويُبقي على الإشارة المتّسقة. في الانحدار التدريجي العشوائي، تدرّج كل دفعة صغيرة هو تقدير مُشوَّش للتدرّج الحقيقي، والزخم فعلياً يحسب متوسطاً على عدّة دفعات.

زخم بولياك هو البذرة التي نبتت منها شجرة المُحسِّنات الحديثة. العلاقة مباشرة ويمكن تتبّعها:

• الانحدار العشوائي الصِّرف: $\mathbf{x}_{k+1} = \mathbf{x}_k - \alpha \nabla f(\mathbf{x}_k)$ — بلا ذاكرة.
• الانحدار العشوائي + زخم (بولياك، 1964): يُضيف $\beta(\mathbf{x}_k - \mathbf{x}_{k-1})$ — ذاكرة بخطوة واحدة.
• زخم نيستيروف (1983): يحسب التدرّج عند $\mathbf{x}_k + \beta \mathbf{v}_k$ — «انظر قبل أن تقفز.»
• Adam (2014): زخم على العزم الأول ($\beta_1$) والعزم الثاني ($\beta_2$) للتدرّج.

المسار من الانحدار العشوائي إلى Adam هو سلسلة من الطرق المتزايدة تطوّراً للاستفادة من تاريخ التدرّجات — وكلّ ذلك بدأ بحدٍّ إضافي واحد في قاعدة تحديث بولياك.