الطبقات الوسيطة

وحدات صغيرة ذات عنق زجاجة تُدخَل بين طبقات المحوِّل الأصلية. تقلل المعاملات لكنها تضيف عمقاً تسلسلياً وتأخيراً في الاستدلال.

Small bottleneck modules inserted between original Transformer layers. They reduce parameters but add sequential depth and inference latency.