الإشباع
Saturation
حالة تصل فيها مخرجات دالة التنشيط إلى قيمها القصوى (مثل ±1 في tanh أو 0/1 في sigmoid) فتصبح المشتقة قريبة من الصفر ويتوقف التعلّم عملياً لأنّ التدرّجات لا تستطيع المرور.
A state where activation outputs reach their extreme values (e.g. ±1 for tanh, 0/1 for sigmoid) causing the derivative to approach zero and effectively halting learning because gradients cannot flow through.
تُرجم أيضاًالتشبُّع
أول ظهور في هذه المجموعة: لماذا يصعب تدريب الشبكات العصبية العميقة ذات التغذية الأمامية؟ (2010)
يظهر في هذه الأوراق