Intensity Equivariance

خاصية تعني أن ضرب شدة المدخلات بعامل ثابت يؤدي إلى ضرب جميع التنشيطات بالعامل نفسه، فيُحافَظ على النسب بين السمات عبر الطبقات. تمتلكها وحدات ReLU بانحياز صفري ولا تمتلكها الوحدات الثنائية.

The property that scaling all input intensities by a constant factor causes all activations to scale by the same factor, preserving inter-feature ratios across layers. Zero-bias ReLU units exhibit this; binary units do not.