Internal Covariate Shift
الانزياح الداخلي للتوزيعات
ظاهرة تغيُّر التوزيع الإحصائي لمدخلات كل طبقة داخل الشبكة أثناء التدريب، بسبب تحديث معاملات الطبقات السابقة. هذا التحول المستمر يُجبر كل طبقة على التكيّف مع توزيع متغير مما يُبطئ التدريب ويتطلب معدلات تعلم صغيرة.
The change in the distribution of each layer's inputs during training, caused by parameter updates in preceding layers. This continuous shift forces each layer to adapt to a moving target, slowing training and requiring small learning rates.
Also translated asالإزاحة الداخلية للتوزيعات، انزياح التوزيعات الداخلي، التحول الداخلي للتوزيعات المشتركة
First appears in this corpus in: Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift (2015)
Appears in these papers
- Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift2015in the sky ✦
- Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift2015in the sky ✦
- Group Normalization2018in the sky ✦
- Layer Normalization2016in the sky ✦
- Layer Normalization2016in the sky ✦