المعجم

تهيئة He

He Initialization

تعديل على تهيئة Xavier مُصمَّم لدوال ReLU: يُضاعف التباين إلى Var[W] = 2/n_in لتعويض أنّ ReLU تُصفّر نصف مدخلاتها، مما يحافظ على تدفّق الإشارة في الشبكات العميقة القائمة على ReLU.

An adaptation of Xavier initialization for ReLU networks: it doubles the variance to Var[W] = 2/n_in to compensate for ReLU zeroing out half its inputs, maintaining signal flow in deep ReLU networks.

تُرجم أيضاًتهيئة كايمينغ، تهيئة MSRA