Train-Time Compute

إجمالي الحوسبة المستخدمة أثناء تدريب النموذج، بما في ذلك التدريب المسبق والتعلم المعزز. المحور التقليدي الأساسي لتدريج النماذج اللغوية الكبيرة.

The total computation used during model training, including pre-training and reinforcement learning. Traditionally the primary scaling axis for LLMs.