المعرفة الخفية
Dark Knowledge
المعلومات المُرمَّزة في الاحتمالات الصغيرة التي يمنحها نموذج مُدرَّب للفئات غير الصحيحة. تكشف عن بنية التشابه بين الفئات التي تُهدرها التصنيفات القاطعة.
The information encoded in the small probabilities a trained model assigns to incorrect classes. It reveals the similarity structure between categories that hard labels discard.
تُرجم أيضاًالمعرفة المُظلمة، المعرفة الضمنية
أول ظهور في هذه المجموعة: تقطير المعرفة في الشبكات العصبية (2015)
يظهر في هذه الأوراق
- DistilBERT: نسخة مُقطَّرة من BERT — أصغر وأسرع وأرخص وأخفّ2019في السماء ✦
- DistilBERT: نسخة مُقطَّرة من BERT — أصغر وأسرع وأرخص وأخفّ2019في السماء ✦
- تقطير المعرفة في الشبكات العصبية2015في السماء ✦
- تقطير المعرفة في الشبكات العصبية2015في السماء ✦
- المحوِّلات التبديلية: التوسّع إلى تريليون معامل بتناثر بسيط وفعّال2022في السماء ✦