L2 Regularization
الضبط الهيكلي L2
أسلوب ضبط يضيف عقوبة تتناسب مع مربع حجم الأوزان إلى دالة الخسارة. يتكافأ مع اضمحلال الأوزان في الانحدار التدريجي القياسي لكنهما يفترقان في المُحسِّنات التكيُّفية مثل آدام.
A regularization method that adds a penalty proportional to the squared magnitude of weights to the loss function. Equivalent to weight decay in standard SGD but diverges in adaptive optimizers like Adam.
Also translated asالتنظيم L2، عقوبة L2، تنظيم L2، الضبط L2
First appears in this corpus in: Regression Shrinkage and Selection via the Lasso (1996)
Appears in these papers
- Decoupled Weight Decay Regularization2019in the sky ✦
- Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift2015in the sky ✦
- Regression Shrinkage and Selection via the Lasso1996in the sky ✦
- QT-Opt: Scalable Deep Reinforcement Learning for Vision-Based Robotic Manipulation2018in the sky ✦
- SGDR: Stochastic Gradient Descent with Warm Restarts2017in the sky ✦