وحدة سيجمويد المُدرَّجة

وحدة مبنية من عدد لا نهائي من النُّسخ الثنائية ذات الأوزان المشتركة وانحيازات مُزاحة تدريجياً. محصّلة نشاطها تشبه سلّماً ناعماً يُقرَّب بدالة softplus ثم بـ ReLU.

A unit constructed from infinitely many binary copies sharing the same weights but with progressively shifted biases. Its total activity resembles a smooth staircase approximated by softplus and then ReLU.