التقطير

عملية نقل قدرات نموذج كبير (المعلم) إلى نموذج أصغر (الطالب) بتدريب الأصغر على مخرجات الأكبر، مما يحافظ على معظم الأداء بموارد أقل.

The process of transferring a large model's (teacher) capabilities to a smaller model (student) by training the smaller one on the larger one's outputs, preserving most performance at lower cost.