خوارزمية آدام
Adam
محسن تكيفي متطور يدمج بين مزايا العزم التراكمي ومعدل التعلم المتغير لكل معلمة بشكل مستقل.
Adam
تُرجم أيضاًالـمُحسِّن التكيفي العزمي، محسن آدام
أول ظهور في هذه المجموعة: الطريقة العامة لحل جُمَل المعادلات المتزامنة (1847)
يظهر في هذه الأوراق
- أساليب التدرّج الفرعي التكيُّفية للتعلّم عبر الإنترنت والأمثَلة العشوائية2011في السماء ✦
- آدَم: خوارزمية للأمثَلَة العشوائية2014في السماء ✦
- معدّلات التعلّم الدورية لتدريب الشبكات العصبية2017في السماء ✦
- تعلُّم التمثيلات بدون إشراف باستخدام الشبكات التوليدية التنافسية الالتفافية العميقة2015في السماء ✦
- التعشير النطاقي لنقل الشبكات العصبية العميقة من المحاكاة إلى العالم الحقيقي2017في السماء ✦
- سلسلة Falcon من النماذج اللغوية المفتوحة2023في السماء ✦
- نظام الترجمة الآلية العصبية من جوجل: ردم الفجوة بين الترجمة البشرية والآلية2016في السماء ✦
- توسيع نطاق النماذج اللغوية: أساليب وتحليلات ورؤى من تدريب Gopher2022في السماء ✦
- الطريقة العامة لحل جُمَل المعادلات المتزامنة1847في السماء ✦
- أمثَلة الدُّفعات الكبيرة للتعلُّم العميق: تدريب BERT في 76 دقيقة2019في السماء ✦
- الاكتشاف الرمزي لخوارزميات الأمثَلة2023في السماء ✦
- Megatron-LM: تدريب نماذج لغوية بمليارات المعاملات باستخدام التوازي على مستوى النموذج2019في السماء ✦
- بعض طرق تسريع تقارب الأساليب التكرارية1964في السماء ✦
- برامج المُوتِّرات V: ضبط الشبكات العصبية الكبيرة عبر النقل الفوري للمعاملات الفائقة2022في السماء ✦
- كفاءة التدرّج الطبيعي في التعلّم1998في السماء ✦
- طريقة لحلّ مسائل البرمجة المحدَّبة بمعدّل تقارُب O(1/k²)1983في السماء ✦
- OPT: نماذج لغوية مفتوحة مُدرَّبة مسبقاً بمعمارية المُحوِّل2022في السماء ✦
- QLoRA: الضبط الدقيق الكفوء للنماذج اللغوية الكبيرة المُكمَّمة2023في السماء ✦
- RMSProp: قسمة التدرّج على المتوسط المتحرك لمقداره الحديث2012في السماء ✦
- SGDR: النزول الاشتقاقي العشوائي مع إعادة التشغيل الدافئة2017في السماء ✦
- Shampoo: أمثَلة المُوتِّرات العشوائية بالتكييف المُسبَق2018في السماء ✦
- الترميز الذاتي بنهج بايز التبايُني2013في السماء ✦
- التعرّف على الكلام بمتانة عالية من خلال إشراف ضعيف على نطاق واسع2022في السماء ✦
- ZeRO: تحسينات الذاكرة نحو تدريب نماذج بتريليون معامل2019في السماء ✦