التمرير الخلفي
Backward Pass
مرحلة حساب الاشتقاقات (المتجهات التفاضلية) بالاتجاه العكسي عبر الطبقات لتحديث أوزان النموذج أثناء التدريب.
The phase of computing gradients in reverse through the layers to update model weights during training.
تُرجم أيضاًالانتشار الخلفي، التمرير العكسي، المرور الخلفي
أول ظهور في هذه المجموعة: الطريقة العامة لحل جُمَل المعادلات المتزامنة (1847)
يظهر في هذه الأوراق
- تعلُّم التمثيلات عبر الانتشار العكسي للأخطاء1986في السماء ✦
- التقرير التقني لـ DeepSeek-V32024في السماء ✦
- FlashAttention-2: انتباه أسرع بتوازٍ أفضل وتوزيع عمل أذكى2023في السماء ✦
- FlashAttention: انتباه دقيق وسريع وموفِّر للذاكرة بوعي حركة البيانات2022في السماء ✦
- الطريقة العامة لحل جُمَل المعادلات المتزامنة1847في السماء ✦
- الغوص في عالم المُقوِّمات: كيف تجاوزت الشبكات أداء البشر في تصنيف ImageNet2015في السماء ✦
- أمثَلة الشبكات العصبية بتقريب الانحناء عبر تحليل كرونيكر2015في السماء ✦
- Megatron-LM: تدريب نماذج لغوية بمليارات المعاملات باستخدام التوازي على مستوى النموذج2019في السماء ✦
- Shampoo: أمثَلة المُوتِّرات العشوائية بالتكييف المُسبَق2018في السماء ✦
- تصغير مُدرك للحِدّة لتحسين التعميم بكفاءة2021في السماء ✦
- تعلُّم التمثيلات المنفصلة بالشبكات العصبية2017في السماء ✦
- ZeRO: تحسينات الذاكرة نحو تدريب نماذج بتريليون معامل2019في السماء ✦