معيار الحيرة الاحتمالية
Perplexity
معيار قياس إحصائي يحسب مدى ارتباك وحيرة النموذج أثناء التنبؤ؛ فالقيم الأقل تعني استيعاباً وفهماً أفضل للنص.
Perplexity
تُرجم أيضاًمقياس الارتباك في التنبؤ اللغوي، مؤشر جودة استيعاب النموذج للنص
أول ظهور في هذه المجموعة: تخصيص ديريكليه الكامن (2003)
يظهر في هذه الأوراق
- Atlas: التعلُّم بأمثلة قليلة عبر نماذج لغوية مُعزَّزة بالاسترجاع2023في السماء ✦
- BART: التدريب المسبق بإزالة التشويش لنماذج تسلسل إلى تسلسل في التوليد والترجمة والفهم اللغوي2019في السماء ✦
- القدرات الناشئة في النماذج اللغوية الكبيرة2022في السماء ✦
- هل القدرات الناشئة في النماذج اللغوية الكبيرة مجرد سراب؟2023في السماء ✦
- توسيع نطاق النماذج اللغوية: أساليب وتحليلات ورؤى من تدريب Gopher2022في السماء ✦
- النماذج اللغوية: تعلُّم مهام متعددة بلا إشراف2019في السماء ✦
- GPTQ: تكميم دقيق بعد التدريب للمحوِّلات التوليدية المُدرَّبة مسبقاً2022في السماء ✦
- تخصيص ديريكليه الكامن2003في السماء ✦
- LIMA: القليل يكفي للمواءمة2023في السماء ✦
- LLM.int8(): ضرب المصفوفات بدقة 8 بت للمحوِّلات على نطاق واسع2022في السماء ✦
- مامبا: نمذجة التسلسلات في زمن خطّي باستخدام فضاءات حالة انتقائية2023في السماء ✦
- Mistral 7B2023في السماء ✦
- Mixtral: مزيج الخبراء2024في السماء ✦
- نموذج لغوي عصبي احتمالي2003في السماء ✦
- OPT: نماذج لغوية مفتوحة مُدرَّبة مسبقاً بمعمارية المُحوِّل2022في السماء ✦
- RETRO: تحسين النماذج اللغوية بالاسترجاع من تريليونات الرموز2022في السماء ✦
- Shampoo: أمثَلة المُوتِّرات العشوائية بالتكييف المُسبَق2018في السماء ✦
- المحوِّلات التبديلية: التوسّع إلى تريليون معامل بتناثر بسيط وفعّال2022في السماء ✦
- تصوير البيانات باستخدام t-SNE2008في السماء ✦
- Toolformer: نماذج اللغة تستطيع تعليم نفسها استخدام الأدوات2023في السماء ✦
- UMAP: التقريب والإسقاط المنتظم للمتشعّبات لاختزال الأبعاد2018في السماء ✦