النموذج المُسوِّد

نموذج صغير وسريع يُستخدم في فك الترميز التخميني لتوليد رموز مرشّحة بسرعة، ثم يتحقّق منها النموذج الهدف الأكبر. عادةً أصغر بنحو مئة مرة من النموذج الهدف.

A small, fast model used in speculative decoding to quickly generate candidate tokens that are then verified by the larger target model. Typically about 100× smaller than the target.