Noisy Rectified Linear Unit (NReLU)

تقريب لوحدة سيجمويد المُدرَّجة يُحسَب بالصيغة max(0, x + N(0, σ²))، حيث يُضاف ضجيج غاوسي قبل عملية التصحيح. تُنتج تنشيطات مستمرة ومتناثرة بدلاً من الحالات الثنائية.

An approximation of the Stepped Sigmoid Unit computed as max(0, x + N(0, σ²)), adding Gaussian noise before rectification. Produces continuous, sparse activations instead of binary states.