PReLU

نسخة معدّلة من دالة التنشيط ReLU يكون فيها ميل الجانب السالب معاملاً قابلاً للتعلّم بدلاً من أن يكون صفراً ثابتاً، مما يتيح لكل قناة أن تقرر مقدار الإشارة السالبة التي تمرّرها.

A modified ReLU activation where the negative-side slope is a learnable parameter instead of fixed zero, allowing each channel to decide how much negative signal to pass through.