Active Parameter Count
عدد المعاملات النشطة
عدد المعاملات التي تُنشَّط فعلاً عند معالجة رمز واحد. في النماذج المتناثرة يكون أقل بكثير من العدد الإجمالي للمعاملات.
The number of parameters actually activated when processing a single token. In sparse models, this is much smaller than the total parameter count.
Also translated asالمعاملات الفعّالة، المعاملات المستخدمة لكل رمز
First appears in this corpus in: Mixtral of Experts (2024)
Appears in these papers