Saturating Nonlinearity

دالة تنشيط (مثل sigmoid وtanh) تقترب مخرجاتها من قيمة ثابتة عند المدخلات الكبيرة موجبةً أو سالبة، فتصبح المشتقة قريبة من الصفر ويتلاشى التدرج. تسوية الدُّفعات تُبقي المدخلات في النطاق الفعّال فتمنع التشبع.

An activation function (like sigmoid, tanh) whose output approaches a constant for large positive or negative inputs, making the derivative near zero and causing vanishing gradients. Batch normalization keeps inputs in the active range, preventing saturation.