نموذج المعلم
Teacher Model
نموذج كبير (أو مجموعة نماذج) مُدرَّب مسبقاً يُستخدم لتوليد أهداف مرنة تُوجِّه تدريب نموذج أصغر (الطالب).
A large pre-trained model (or ensemble) used to generate soft targets that guide the training of a smaller student model.
تُرجم أيضاًالنموذج المُعلِّم، الشبكة المُعلِّمة
أول ظهور في هذه المجموعة: شبكات الطريق السريع (2015)
يظهر في هذه الأوراق
- ألباكا: نموذج قوي وقابل للتكرار يتّبع التعليمات2023في السماء ✦
- BYOL: مقاربة جديدة للتعلُّم الذاتي الإشراف بتمهيد التمثيلات الكامنة2020في السماء ✦
- تدريب محوِّلات الصور الكفوءة بيانياً والتقطير عبر الانتباه2021في السماء ✦
- Depth Anything: إطلاق قوة البيانات غير الموسومة واسعة النطاق2024في السماء ✦
- خصائص ناشئة في محوِّلات الرؤية ذاتية الإشراف2021في السماء ✦
- DINOv2: تعلُّم سمات بصرية متينة بدون إشراف2023في السماء ✦
- DistilBERT: نسخة مُقطَّرة من BERT — أصغر وأسرع وأرخص وأخفّ2019في السماء ✦
- شبكات الطريق السريع2015في السماء ✦
- تقطير المعرفة في الشبكات العصبية2015في السماء ✦
- متى يُفيد تنعيم التسميات؟2019في السماء ✦
- تسريع الاستدلال في المُحوِّلات باستخدام فك الترميز التخميني2023في السماء ✦
- التعميم من الضعيف إلى القوي: استخراج القدرات القوية بإشراف ضعيف2023في السماء ✦