عدد المعاملات النشطة

عدد المعاملات التي تُنشَّط فعلاً عند معالجة رمز واحد. في النماذج المتناثرة يكون أقل بكثير من العدد الإجمالي للمعاملات.

The number of parameters actually activated when processing a single token. In sparse models, this is much smaller than the total parameter count.