تسوية التنشيط

طبقة تسوية قابلة للعكس اقترحها Glow تُجري تحويلاً أفينيًّا لكل قناة (تحجيم وانحياز). تُهيَّأ من الدُّفعة الأولى ثم تُعامَل كمعاملات تدريب عادية، فتعمل جيداً حتى مع دُفعة بحجم 1.

An invertible normalization layer proposed by Glow that applies a per-channel affine transformation (scale and bias). Initialized from the first mini-batch, then treated as regular trainable parameters, working well even with batch size 1.