SortaGrad

منهج تدريب تُرتَّب فيه أمثلة التدريب حسب طول العبارة من الأقصر إلى الأطول في الحقبة الأولى فقط، ثم يعود الترتيب عشوائياً. يُحسّن الاستقرار العددي خاصة مع دالة خسارة CTC التي تنتج تدرجات كبيرة للعبارات الطويلة.

A curriculum learning strategy where training examples are sorted by utterance length (shortest first) in the first epoch only, then reverts to random order. Improves numerical stability especially with the CTC loss function which produces large gradients for long utterances.