Equalized Learning Rate

تقنية تُقيِّس أوزان كل طبقة أثناء التشغيل بثابت مشتق من عدد الاتصالات الداخلة (بدلاً من التهيئة الدقيقة)، مما يضمن أن جميع الطبقات تحصل على معدّل تعلّم فعّال متساوٍ تحت المحسّنات التكيفية.

A technique that scales each layer's weights at runtime by a constant derived from fan-in (instead of careful initialization), ensuring all layers receive the same effective learning rate under adaptive optimizers.