تسوية طبقة التضمين

طبقة تسوية إضافية تُوضع فوراً بعد طبقة التضمين وقبل أول كتلة محوِّل. استخدمها BLOOM لتحسين استقرار التدريب على النطاق الكبير، رغم أنها تُضعف قليلاً أداء التعميم بدون أمثلة.

An additional normalization layer placed immediately after the embedding layer and before the first Transformer block. Used by BLOOM to improve training stability at large scale, though it slightly penalizes zero-shot generalization.