معدل التعلم
Learning Rate
مُعامِل فائق يتحكم في حجم خطوة تحديث المعاملات أثناء النزول التدريجي. قيمة كبيرة جداً تسبب عدم استقرار، وصغيرة جداً تسبب بطء التقارب.
A hyperparameter that controls the step size of each parameter update during gradient descent. Too large causes instability; too small causes slow convergence.
تُرجم أيضاًحجم خطوة التحديث، خطوة التحديث، خطوة التحديث الحسابي، سرعة التعلم، سرعة التعلُّم، معدل تعلُّم، وتيرة التكيف الحسابي
أول ظهور في هذه المجموعة: الطريقة العامة لحل جُمَل المعادلات المتزامنة (1847)
يظهر في هذه الأوراق
- الأساليب غير المتزامنة للتعلُّم المعزَّز العميق2016في السماء ✦
- أساليب التدرّج الفرعي التكيُّفية للتعلّم عبر الإنترنت والأمثَلة العشوائية2011في السماء ✦
- آدَم: خوارزمية للأمثَلَة العشوائية2014في السماء ✦
- فصل اضمحلال الأوزان عن التحديث التكيُّفي2019في السماء ✦
- نقل التعلُّم بكفاءة المُعاملات في معالجة اللغة الطبيعية2019في السماء ✦
- تصنيف صور ImageNet بالشبكات العصبية الالتفافية العميقة2012في السماء ✦
- ALIGN: توسيع نطاق تعلّم التمثيلات البصرية والبصرية-اللغوية بإشراف نصّي مُشوَّش2021في السماء ✦
- ألباكا: نموذج قوي وقابل للتكرار يتّبع التعليمات2023في السماء ✦
- تعلُّم التمثيلات عبر الانتشار العكسي للأخطاء1986في السماء ✦
- تسوية الدُّفعات: تسريع تدريب الشبكات العميقة بتقليل الانزياح الداخلي للتوزيعات2015في السماء ✦
- الأمثَلة البايزية التطبيقية لخوارزميات التعلم الآلي2012في السماء ✦
- BERT: التدريب المسبق لمحوِّلات عميقة ثنائية الاتجاه لفهم اللغة2018في السماء ✦
- BYOL: مقاربة جديدة للتعلُّم الذاتي الإشراف بتمهيد التمثيلات الكامنة2020في السماء ✦
- تحويل الصور دون أزواج متطابقة باستخدام شبكات تنافسية ذات اتساق دوري2017في السماء ✦
- معدّلات التعلّم الدورية لتدريب الشبكات العصبية2017في السماء ✦
- تعلُّم التمثيلات بدون إشراف باستخدام الشبكات التوليدية التنافسية الالتفافية العميقة2015في السماء ✦
- التحكم المستمر بالتعلُّم المعزِّز العميق2015في السماء ✦
- التقرير التقني لـ DeepSeek-V32024في السماء ✦
- تدريب محوِّلات الصور الكفوءة بيانياً والتقطير عبر الانتباه2021في السماء ✦
- Depth Anything: إطلاق قوة البيانات غير الموسومة واسعة النطاق2024في السماء ✦
- التعشير النطاقي لنقل الشبكات العصبية العميقة من المحاكاة إلى العالم الحقيقي2017في السماء ✦
- الإسقاط العشوائي: طريقة بسيطة لمنع الشبكات العصبية من فرط التخصيص2014في السماء ✦
- سلسلة Falcon من النماذج اللغوية المفتوحة2023في السماء ✦
- الشبكات الالتفافية الكاملة للتجزئة الدلالية2015في السماء ✦
- الدمج في المفكِّك: الاستفادة من استرجاع المقاطع مع النماذج التوليدية للإجابة عن الأسئلة المفتوحة2021في السماء ✦
- النماذج اللغوية المضبوطة بالتعليمات تتعلَّم بدون أمثلة2022في السماء ✦
- وحدات الخطأ الغاوسي الخطية (GELUs)2016في السماء ✦
- توسيع نطاق النماذج اللغوية: أساليب وتحليلات ورؤى من تدريب Gopher2022في السماء ✦
- التقريب الجشع للدوال: آلة التعزيز التدرُّجي2001في السماء ✦
- صعوبة تدريب الشبكات العصبية التكرارية2013في السماء ✦
- الطريقة العامة لحل جُمَل المعادلات المتزامنة1847في السماء ✦
- تقييم تجريبي للشبكات العصبية التكرارية ذات البوابات في نمذجة التتابعات2014في السماء ✦
- تنظيم السلوك: نظرية في علم النفس العصبي1949في السماء ✦
- Hyperband: نهج مبتكر لضبط المعاملات الفائقة مستوحى من مسائل قطّاع الطريق2018في السماء ✦
- أمثَلة الشبكات العصبية بتقريب الانحناء عبر تحليل كرونيكر2015في السماء ✦
- متى يُفيد تنعيم التسميات؟2019في السماء ✦
- أمثَلة الدُّفعات الكبيرة للتعلُّم العميق: تدريب BERT في 76 دقيقة2019في السماء ✦
- النزول التدريجي العشوائي بدفعات كبيرة ودقيقة: تدريب ImageNet في ساعة واحدة2017في السماء ✦
- LightGBM: تعزيز تدرُّجي فائق الكفاءة لأشجار القرار2017في السماء ✦
- LIMA: القليل يكفي للمواءمة2023في السماء ✦
- الاكتشاف الرمزي لخوارزميات الأمثَلة2023في السماء ✦
- تصوير سطح الخسارة في الشبكات العصبية2018في السماء ✦
- فرضية تذكرة اليانصيب: إيجاد شبكات عصبية مُبعثرة قابلة للتدريب2019في السماء ✦
- التدريب بالدقة المختلطة2018في السماء ✦
- بعض طرق تسريع تقارب الأساليب التكرارية1964في السماء ✦
- برامج المُوتِّرات V: ضبط الشبكات العصبية الكبيرة عبر النقل الفوري للمعاملات الفائقة2022في السماء ✦
- كفاءة التدرّج الطبيعي في التعلّم1998في السماء ✦
- طريقة لحلّ مسائل البرمجة المحدَّبة بمعدّل تقارُب O(1/k²)1983في السماء ✦
- نواة المماس العصبية: التقارب والتعميم في الشبكات العصبية2018في السماء ✦
- OPT: نماذج لغوية مفتوحة مُدرَّبة مسبقاً بمعمارية المُحوِّل2022في السماء ✦
- طرق مُتَّجَه ميل السياسة في التعلُّم المعزَّز مع تقريب الدوال1999في السماء ✦
- خوارزمية تحسين السياسة القريبة (PPO)2017في السماء ✦
- إعادة التجربة بالأولوية2015في السماء ✦
- تعلُّم دالة الجودة (Q-Learning)1992في السماء ✦
- QT-Opt: تعلُّم تعزيزي عميق قابل للتوسيع للتحكّم الآلي بالرؤية الحاسوبية2018في السماء ✦
- هرميّات السمات الغنية للكشف الدقيق عن الأجسام والتجزئة الدلالية2014في السماء ✦
- RMSProp: قسمة التدرّج على المتوسط المتحرك لمقداره الحديث2012في السماء ✦
- RoBERTa: منهج مُحسَّن بمتانة للتدريب المسبق على غرار BERT2019في السماء ✦
- قوانين التوسُّع في النماذج اللغوية العصبية2020في السماء ✦
- التعلُّم من تسلسل إلى تسلسل باستخدام الشبكات العصبية2014في السماء ✦
- SGDR: النزول الاشتقاقي العشوائي مع إعادة التشغيل الدافئة2017في السماء ✦
- Shampoo: أمثَلة المُوتِّرات العشوائية بالتكييف المُسبَق2018في السماء ✦
- تصغير مُدرك للحِدّة لتحسين التعميم بكفاءة2021في السماء ✦
- استكشاف تعلُّم التمثيلات بشبكات سيامية بسيطة2021في السماء ✦
- شبكات ناقلات الدعم1995في السماء ✦
- محوِّل Swin: محوِّل رؤية هرمي باستخدام النوافذ المُنزاحة2021في السماء ✦
- التعلُّم بالتنبؤ عبر أساليب الفارق الزمني1988في السماء ✦
- Toolformer: نماذج اللغة تستطيع تعليم نفسها استخدام الأدوات2023في السماء ✦
- أمثَلة السياسة بمنطقة الثقة2015في السماء ✦
- الضبط الدقيق الشامل لنموذج اللغة من أجل تصنيف النصوص2018في السماء ✦
- التعرّف على الكلام بمتانة عالية من خلال إشراف ضعيف على نطاق واسع2022في السماء ✦
- XGBoost: نظام قابل للتوسُّع لتعزيز الأشجار التدرُّجي2016في السماء ✦