التكميم
Quantization
عملية تحويل القيم المستمرة (مثل أوزان الشبكة العصبية بدقة 32-بت) إلى مجموعة أصغر من المستويات المنفصلة (مثل 4-بت)، مما يُقلِّص حجم التخزين والاستهلاك الذاكري على حساب بعض الدقة.
Mapping continuous values (such as 32-bit neural network weights) to a smaller set of discrete levels (such as 4-bit), reducing storage and memory consumption at the cost of some precision.
تُرجم أيضاًالتقطيع الرقمي، التكمية، التكميم الرقمي، تقليل دقة التمثيل، خفض دقة المعلمات الرقمية، ضغط النطاق العددي للمصفوفات
أول ظهور في هذه المجموعة: التكميم بأقل مربّعات الخطأ في تعديل الشفرة النبضية (1982)
يظهر في هذه الأوراق
- Chronos: تعلُّم لغة السلاسل الزمنية2024في السماء ✦
- الضغط العميق: تقليص الشبكات العصبية العميقة عبر التقليم والتكميم المُدرَّب وترميز هوفمان2016في السماء ✦
- التقرير التقني لـ DeepSeek-V32024في السماء ✦
- DistilBERT: نسخة مُقطَّرة من BERT — أصغر وأسرع وأرخص وأخفّ2019في السماء ✦
- البحث عن التشابه بين مليارات المتّجهات باستخدام GPU2017في السماء ✦
- Gemini: عائلة نماذج فائقة القدرات تجمع بين وسائط متعددة2023في السماء ✦
- نظام الترجمة الآلية العصبية من جوجل: ردم الفجوة بين الترجمة البشرية والآلية2016في السماء ✦
- GPTQ: تكميم دقيق بعد التدريب للمحوِّلات التوليدية المُدرَّبة مسبقاً2022في السماء ✦
- GQA: تدريب نماذج الانتباه متعدد الاستعلامات المُعمَّم من نقاط تفتيش الانتباه متعدد الرؤوس2023في السماء ✦
- Jukebox: نموذج توليدي للموسيقى2020في السماء ✦
- التكميم بأقل مربّعات الخطأ في تعديل الشفرة النبضية1982في السماء ✦
- LLM.int8(): ضرب المصفوفات بدقة 8 بت للمحوِّلات على نطاق واسع2022في السماء ✦
- Mask R-CNN — شبكة الأقنعة للتجزئة الفورية2017في السماء ✦
- الضرر الدماغي الأمثل1989في السماء ✦
- QLoRA: الضبط الدقيق الكفوء للنماذج اللغوية الكبيرة المُكمَّمة2023في السماء ✦
- wav2vec 2.0: إطار عمل للتعلُّم الذاتي الإشراف لتمثيلات الكلام2020في السماء ✦