الـمُحسِّن
Optimizer
الخوارزمية المخصصة لتحديث الأوزان والانحيازات وتعديل قيمها بناءً على التدرجات المحسوبة.
Optimizer
تُرجم أيضاًخوارزمية التحسين، آلية مواءمة الأوزان
أول ظهور في هذه المجموعة: الطريقة العامة لحل جُمَل المعادلات المتزامنة (1847)
يظهر في هذه الأوراق
- أساليب التدرّج الفرعي التكيُّفية للتعلّم عبر الإنترنت والأمثَلة العشوائية2011في السماء ✦
- آدَم: خوارزمية للأمثَلَة العشوائية2014في السماء ✦
- فصل اضمحلال الأوزان عن التحديث التكيُّفي2019في السماء ✦
- الشبكات العصبية ومعضلة الانحياز والتباين1992في السماء ✦
- معدّلات التعلّم الدورية لتدريب الشبكات العصبية2017في السماء ✦
- تعلُّم التمثيلات بدون إشراف باستخدام الشبكات التوليدية التنافسية الالتفافية العميقة2015في السماء ✦
- التعلُّم العميق2015في السماء ✦
- التعشير النطاقي لنقل الشبكات العصبية العميقة من المحاكاة إلى العالم الحقيقي2017في السماء ✦
- النماذج اللغوية المضبوطة بالتعليمات تتعلَّم بدون أمثلة2022في السماء ✦
- التحكم المستمر في الأبعاد العالية باستخدام تقدير الأفضلية المعمَّم2016في السماء ✦
- وحدات الخطأ الغاوسي الخطية (GELUs)2016في السماء ✦
- الطريقة العامة لحل جُمَل المعادلات المتزامنة1847في السماء ✦
- الاستيعاب المتأخّر: تعميم يتجاوز فرط التخصيص في مجموعات بيانات خوارزمية صغيرة2022في السماء ✦
- أمثَلة الشبكات العصبية بتقريب الانحناء عبر تحليل كرونيكر2015في السماء ✦
- الاكتشاف الرمزي لخوارزميات الأمثَلة2023في السماء ✦
- LLaMA: نماذج أساسية مفتوحة وعالية الكفاءة للغة2023في السماء ✦
- LoRA: التكيّف مُنخَفِض الرُّتبة للنماذج اللغوية الكبيرة2021في السماء ✦
- بعض طرق تسريع تقارب الأساليب التكرارية1964في السماء ✦
- طريقة لحلّ مسائل البرمجة المحدَّبة بمعدّل تقارُب O(1/k²)1983في السماء ✦
- QLoRA: الضبط الدقيق الكفوء للنماذج اللغوية الكبيرة المُكمَّمة2023في السماء ✦
- انحدار الحَرْف: التقدير المنحاز للمسائل غير المتعامدة1970في السماء ✦
- RMSProp: قسمة التدرّج على المتوسط المتحرك لمقداره الحديث2012في السماء ✦
- أسلوب التقريب العشوائي1951في السماء ✦
- SGDR: النزول الاشتقاقي العشوائي مع إعادة التشغيل الدافئة2017في السماء ✦
- Shampoo: أمثَلة المُوتِّرات العشوائية بالتكييف المُسبَق2018في السماء ✦
- تصغير مُدرك للحِدّة لتحسين التعميم بكفاءة2021في السماء ✦