المتوسط المتحرك الأُسّي
Exponential Moving Average
طريقة لحساب متوسط مُرجَّح لسلسلة زمنية يُعطي وزناً أكبر للقيم الحديثة ووزناً يتناقص أُسّياً للقيم القديمة. يُستخدم في RMSProp وAdam بدلاً من المجموع التراكمي في AdaGrad لمنع تآكل معدّل التعلّم.
A method for computing a weighted average of a time series that gives more weight to recent values and exponentially decreasing weight to older values. Used in RMSProp and Adam instead of AdaGrad's cumulative sum to prevent learning rate decay.
تُرجم أيضاًالمعدّل المتحرك الأُسّي، EMA
أول ظهور في هذه المجموعة: بعض طرق تسريع تقارب الأساليب التكرارية (1964)
يظهر في هذه الأوراق
- آدَم: خوارزمية للأمثَلَة العشوائية2014في السماء ✦
- تسوية الدُّفعات: تسريع تدريب الشبكات العميقة بتقليل الانزياح الداخلي للتوزيعات2015في السماء ✦
- BYOL: مقاربة جديدة للتعلُّم الذاتي الإشراف بتمهيد التمثيلات الكامنة2020في السماء ✦
- نماذج الاتّساق2023في السماء ✦
- سياسة الانتشار: تعلُّم السياسات البصرية-الحركية بانتشار الأفعال2023في السماء ✦
- DINOv2: تعلُّم سمات بصرية متينة بدون إشراف2023في السماء ✦
- تباين الزخم للتعلّم التمثيلي البصري غير الخاضع للإشراف2020في السماء ✦
- بعض طرق تسريع تقارب الأساليب التكرارية1964في السماء ✦
- RMSProp: قسمة التدرّج على المتوسط المتحرك لمقداره الحديث2012في السماء ✦
- VICReg: تنظيم التباين والثبات والتغاير للتعلّم الذاتي الإشراف2021في السماء ✦