Glossary

Step Decay

الخفض المتدرّج

جدول لمعدّل التعلّم يُبقيه ثابتاً لعدد محدّد من الحقب ثم يخفضه فجأة بعامل ثابت (مثل القسمة على 10) عند نقاط محدّدة مسبقاً. بسيط لكنه هشّ ويتطلب ضبطاً يدوياً لنقاط الخفض.

A learning rate schedule that keeps the rate constant for a set number of epochs then drops it suddenly by a fixed factor (e.g., dividing by 10) at predetermined points. Simple but fragile and requires manual tuning of drop points.

Also translated asالتخفيض بالخطوات، الخفض الدرجي

First appears in this corpus in: SGDR: Stochastic Gradient Descent with Warm Restarts (2017)

Appears in these papers