قوانين التوسعة

علاقات رياضية تصف كيف يتغير أداء النموذج مع توسيع حجمه وحجم البيانات وميزانية الحوسبة. قوانين توسعة Chinchilla تُحسِّن لتكلفة التدريب، بينما وسّعها LLaMA لتحسين تكلفة الاستدلال.

Mathematical relationships describing how model performance changes as model size, dataset size, and compute budget scale up. Chinchilla scaling laws optimize for training cost; LLaMA extended them to optimize for inference cost.