نموذج الطالب
Student Model
نموذج أصغر وأخف يُدرَّب لمحاكاة مخرجات نموذج المعلم المرنة، فيرث معرفته في بنية أقل تكلفة قابلة للنشر.
A smaller, lighter model trained to mimic the teacher's soft outputs, inheriting its knowledge in a cheaper, deployable architecture.
تُرجم أيضاًالشبكة الطالب، النموذج المُتعلِّم
أول ظهور في هذه المجموعة: تقطير المعرفة في الشبكات العصبية (2015)
يظهر في هذه الأوراق
- ألباكا: نموذج قوي وقابل للتكرار يتّبع التعليمات2023في السماء ✦
- BYOL: مقاربة جديدة للتعلُّم الذاتي الإشراف بتمهيد التمثيلات الكامنة2020في السماء ✦
- تدريب محوِّلات الصور الكفوءة بيانياً والتقطير عبر الانتباه2021في السماء ✦
- Depth Anything: إطلاق قوة البيانات غير الموسومة واسعة النطاق2024في السماء ✦
- خصائص ناشئة في محوِّلات الرؤية ذاتية الإشراف2021في السماء ✦
- DINOv2: تعلُّم سمات بصرية متينة بدون إشراف2023في السماء ✦
- DistilBERT: نسخة مُقطَّرة من BERT — أصغر وأسرع وأرخص وأخفّ2019في السماء ✦
- تقطير المعرفة في الشبكات العصبية2015في السماء ✦
- متى يُفيد تنعيم التسميات؟2019في السماء ✦
- تسريع الاستدلال في المُحوِّلات باستخدام فك الترميز التخميني2023في السماء ✦
- التعميم من الضعيف إلى القوي: استخراج القدرات القوية بإشراف ضعيف2023في السماء ✦