Second Moment
العزم الثاني
المتوسط الحسابي المتوقع لمربع المتغير العشوائي. في سياق آدَم، يمثل متوسط مربعات التدرجات ويقيس حجم إشارة التدرج.
The expected mean of the square of a random variable. In Adam, it represents the mean of squared gradients, measuring gradient signal magnitude.
Also translated asاللحظة الإحصائية الثانية، عزم الرتبة الثانية
First appears in this corpus in: Some Methods of Speeding Up the Convergence of Iteration Methods (1964)
Appears in these papers
- Adam: A Method for Stochastic Optimization2014in the sky ✦
- Adam: A Method for Stochastic Optimization2014in the sky ✦
- Optimizing Neural Networks with Kronecker-Factored Approximate Curvature2015in the sky ✦
- Some Methods of Speeding Up the Convergence of Iteration Methods1964in the sky ✦
- Shampoo: Preconditioned Stochastic Tensor Optimization2018in the sky ✦