توزيع الحِمل

ضمان توزيع الرموز بشكل متساوٍ على الخبراء لمنع تحميل بعضهم فوق طاقتهم. مشكلة رئيسية في التوازي بين الخبراء حيث يؤدي عدم التوازن إلى عنق زجاجة.

Ensuring tokens are distributed evenly across experts to prevent overloading individual ones. A key challenge in Expert Parallelism where imbalance creates bottlenecks.