Predictable Scaling

منهجية ملاءمة قوانين التوسُّع على نماذج صغيرة للتنبؤ بأداء النماذج الكبيرة قبل اكتمال تدريبها، مما يحوّل التدريب من مقامرة إلى هندسة.

The methodology of fitting scaling laws on small models to predict large model performance before training completes, turning training from a gamble into engineering.