اضمحلال متجهات الميل
Vanishing Gradient
مشكلة شائعة في التعلم العميق تحدث عندما تصبح التدرجات صغيرة للغاية مما يعيق تحديث أوزان الطبقات المبكرة، و يتسبب في توقف النموذج عن التعلم أو بطء شديد في التدريب.
Vanishing Gradient
تُرجم أيضاًتلاشي التدرجات، الاختفاء التدريجي، التدرج المتلاشي، تلاشي المشتقات العكسية، تلاشي التدرج التفاضلي، التدرج التفاضلي المتلاشي
أول ظهور في هذه المجموعة: تعلُّم التمثيلات عبر الانتشار العكسي للأخطاء (1986)
يظهر في هذه الأوراق
- تصنيف صور ImageNet بالشبكات العصبية الالتفافية العميقة2012في السماء ✦
- تعلُّم التمثيلات عبر الانتشار العكسي للأخطاء1986في السماء ✦
- تسوية الدُّفعات: تسريع تدريب الشبكات العميقة بتقليل الانزياح الداخلي للتوزيعات2015في السماء ✦
- تعلُّم الاعتماديّات طويلة المدى بالانحدار التدريجي مهمة صعبة1994في السماء ✦
- BERT4Rec: التوصية التسلسلية بتمثيلات المرمِّز ثنائي الاتجاه من المحوِّل2019في السماء ✦
- EfficientNet: إعادة التفكير في توسيع نماذج الشبكات الالتفافية2019في السماء ✦
- الشبكات التوليدية التنافسية2014في السماء ✦
- صعوبة تدريب الشبكات العصبية التكرارية2013في السماء ✦
- تقييم تجريبي للشبكات العصبية التكرارية ذات البوابات في نمذجة التتابعات2014في السماء ✦
- الغوص في عالم المُقوِّمات: كيف تجاوزت الشبكات أداء البشر في تصنيف ImageNet2015في السماء ✦
- شبكات الطريق السريع2015في السماء ✦
- الذاكرة الطويلة قصيرة المدى1997في السماء ✦
- الوحدات الخطية المُصحَّحة تُحسِّن آلات بولتزمان المقيَّدة2010في السماء ✦
- التعلُّم المتبقّي العميق للتعرّف على الصور2015في السماء ✦
- تعلُّم تمثيلات العبارات باستخدام المُرمِّز-فاكّ الترميز التكراري للترجمة الآلية الإحصائية2014في السماء ✦
- النمذجة الكفوءة للتسلسلات الطويلة عبر فضاءات الحالة المُهيكلة2022في السماء ✦
- التعلُّم من تسلسل إلى تسلسل باستخدام الشبكات العصبية2014في السماء ✦
- الشبكات الالتفافية العميقة جداً للتعرُّف على الصور واسع النطاق2014في السماء ✦
- WaveNet: نموذج توليدي للصوت الخام2016في السماء ✦
- شبكة الخصومة التوليدية بمسافة واسرشتاين2017في السماء ✦