الزخم
Momentum
تقنية تسارع تراكمية تساعد خوارزمية الأمثلة على تجاوز العقبات الموضعية وتجنب التذبذب.
Momentum
تُرجم أيضاًعزم القصور الحسابي، قوة الدفع التراكمية
أول ظهور في هذه المجموعة: الطريقة العامة لحل جُمَل المعادلات المتزامنة (1847)
يظهر في هذه الأوراق
- أساليب التدرّج الفرعي التكيُّفية للتعلّم عبر الإنترنت والأمثَلة العشوائية2011في السماء ✦
- آدَم: خوارزمية للأمثَلَة العشوائية2014في السماء ✦
- فصل اضمحلال الأوزان عن التحديث التكيُّفي2019في السماء ✦
- تصنيف صور ImageNet بالشبكات العصبية الالتفافية العميقة2012في السماء ✦
- تعلُّم التمثيلات عبر الانتشار العكسي للأخطاء1986في السماء ✦
- تعلُّم تمثيلات بصرية بدون إشراف عبر التنبؤ بالسياق2015في السماء ✦
- Contriever: استرجاع كثيف للمعلومات بدون إشراف عبر التعلّم التبايُني2022في السماء ✦
- معدّلات التعلّم الدورية لتدريب الشبكات العصبية2017في السماء ✦
- تعلُّم التمثيلات بدون إشراف باستخدام الشبكات التوليدية التنافسية الالتفافية العميقة2015في السماء ✦
- الشبكات الالتفافية الكاملة للتجزئة الدلالية2015في السماء ✦
- الطريقة العامة لحل جُمَل المعادلات المتزامنة1847في السماء ✦
- أمثَلة الشبكات العصبية بتقريب الانحناء عبر تحليل كرونيكر2015في السماء ✦
- أمثَلة الدُّفعات الكبيرة للتعلُّم العميق: تدريب BERT في 76 دقيقة2019في السماء ✦
- النزول التدريجي العشوائي بدفعات كبيرة ودقيقة: تدريب ImageNet في ساعة واحدة2017في السماء ✦
- الاكتشاف الرمزي لخوارزميات الأمثَلة2023في السماء ✦
- تباين الزخم للتعلّم التمثيلي البصري غير الخاضع للإشراف2020في السماء ✦
- بعض طرق تسريع تقارب الأساليب التكرارية1964في السماء ✦
- برامج المُوتِّرات V: ضبط الشبكات العصبية الكبيرة عبر النقل الفوري للمعاملات الفائقة2022في السماء ✦
- طريقة لحلّ مسائل البرمجة المحدَّبة بمعدّل تقارُب O(1/k²)1983في السماء ✦
- QLoRA: الضبط الدقيق الكفوء للنماذج اللغوية الكبيرة المُكمَّمة2023في السماء ✦
- QT-Opt: تعلُّم تعزيزي عميق قابل للتوسيع للتحكّم الآلي بالرؤية الحاسوبية2018في السماء ✦
- RMSProp: قسمة التدرّج على المتوسط المتحرك لمقداره الحديث2012في السماء ✦
- SGDR: النزول الاشتقاقي العشوائي مع إعادة التشغيل الدافئة2017في السماء ✦
- Shampoo: أمثَلة المُوتِّرات العشوائية بالتكييف المُسبَق2018في السماء ✦