زمن الاستجابة (التأخير البيني)
Latency
مقياس زمن التأخير البيني ويحسب الوقت المستغرق منذ إدخال الأمر وحتى بدء استقبال أولى إجابات ومخرجات النموذج.
Latency
تُرجم أيضاًالوقت المستغرق لإنتاج أولى المخرجات، فترة الانتظار التشغيلية للنموذج
أول ظهور في هذه المجموعة: Deep Speech 2: التعرّف الشامل على الكلام في الإنجليزية والصينية (2015)
يظهر في هذه الأوراق
- ColBERT: البحث الفعّال والكفوء في المقاطع النصية عبر التفاعل المتأخر السياقي فوق BERT2020في السماء ✦
- Deep Speech 2: التعرّف الشامل على الكلام في الإنجليزية والصينية2015في السماء ✦
- DistilBERT: نسخة مُقطَّرة من BERT — أصغر وأسرع وأرخص وأخفّ2019في السماء ✦
- البحث عن التشابه بين مليارات المتّجهات باستخدام GPU2017في السماء ✦
- HuggingGPT: كيف يقود ChatGPT فريقاً من النماذج المتخصّصة على Hugging Face2023في السماء ✦
- MobileNets: شبكات التفاف عصبية كفوءة لتطبيقات الرؤية على الأجهزة المحمولة2017في السماء ✦
- إدارة الذاكرة بكفاءة لخدمة النماذج اللغوية الكبيرة باستخدام PagedAttention2023في السماء ✦
- ZeRO: تحسينات الذاكرة نحو تدريب نماذج بتريليون معامل2019في السماء ✦