ترميز زوج البايت
Byte Pair Encoding (BPE)
خوارزمية تجزئة نصوص تبني قاموسها عبر دمج أزواج الأحرف أو الرموز الأكثر تكراراً في المدونة اللغوية بانتظام.
Byte Pair Encoding (BPE)
تُرجم أيضاًخوارزمية التجزئة القائمة على تكرار الأحرف، التشفير الثنائي لتوليد القواميس الفرعية
أول ظهور في هذه المجموعة: ELIZA — برنامج حاسوبي لدراسة التواصل بلُغة طبيعية (1966)
يظهر في هذه الأوراق
- BART: التدريب المسبق بإزالة التشويش لنماذج تسلسل إلى تسلسل في التوليد والترجمة والفهم اللغوي2019في السماء ✦
- BLOOM: نموذج لغوي متعدد اللغات مفتوح الوصول بـ 176 مليار معامل2022في السماء ✦
- ترجمة الكلمات النادرة آلياً باستخدام وحدات دون الكلمة2016في السماء ✦
- DALL·E: توليد الصور من النصوص بدون أمثلة2021في السماء ✦
- ELIZA — برنامج حاسوبي لدراسة التواصل بلُغة طبيعية1966في السماء ✦
- سلسلة Falcon من النماذج اللغوية المفتوحة2023في السماء ✦
- إثراء متجهات الكلمات بمعلومات الوحدات الفرعية2017في السماء ✦
- نظام الترجمة الآلية العصبية من جوجل: ردم الفجوة بين الترجمة البشرية والآلية2016في السماء ✦
- تحسين فهم اللغة عبر التدريب المسبق التوليدي2018في السماء ✦
- النماذج اللغوية: تعلُّم مهام متعددة بلا إشراف2019في السماء ✦
- النماذج اللغوية قادرة على التعلّم بأمثلة قليلة2020في السماء ✦
- قطيع نماذج Llama 32024في السماء ✦
- Mistral 7B2023في السماء ✦
- OPT: نماذج لغوية مفتوحة مُدرَّبة مسبقاً بمعمارية المُحوِّل2022في السماء ✦
- RoBERTa: منهج مُحسَّن بمتانة للتدريب المسبق على غرار BERT2019في السماء ✦
- التعلُّم من تسلسل إلى تسلسل باستخدام الشبكات العصبية2014في السماء ✦
- التعرّف على الكلام بمتانة عالية من خلال إشراف ضعيف على نطاق واسع2022في السماء ✦