Glossary

Capacity Factor

معامل السعة

مُضاعِف يُحدّد مقدار الاحتياطي الإضافي في سعة كل خبير لاستيعاب التوزيع غير المتساوي للرموز. قيمة 1.0 تعني عدم وجود احتياطي؛ قيم أعلى تُقلّل إسقاط الرموز لكنها تزيد الحوسبة المُهدَرة.

A multiplier that determines the extra buffer in each expert's capacity to accommodate uneven token distribution. A value of 1.0 means no buffer; higher values reduce token dropping but increase wasted computation.

Also translated asعامل السعة، مُعامل الاستيعاب

First appears in this corpus in: Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity (2022)

Appears in these papers