الإسقاط العشوائي للعصبونات
Dropout
تقنية كبح للإفراط تعطل عشوائياً نسبة من العصبونات في كل خطوة تدريب لإجبار الشبكة على عدم الاعتماد على مسارات محددة.
Dropout
تُرجم أيضاًالتعطيل المؤقت لمسارات المعالجة، آلية كبح الإفراط بالتحييد الدوري، الإسقاط الترشيحي
أول ظهور في هذه المجموعة: طريقة مونتي كارلو (1949)
يظهر في هذه الأوراق
- تصنيف صور ImageNet بالشبكات العصبية الالتفافية العميقة2012في السماء ✦
- تسوية الدُّفعات: تسريع تدريب الشبكات العميقة بتقليل الانزياح الداخلي للتوزيعات2015في السماء ✦
- BERT4Rec: التوصية التسلسلية بتمثيلات المرمِّز ثنائي الاتجاه من المحوِّل2019في السماء ✦
- الشبكات العصبية ومعضلة الانحياز والتباين1992في السماء ✦
- اختزال أبعاد البيانات بالشبكات العصبية2006في السماء ✦
- التعلُّم العميق2015في السماء ✦
- تدريب محوِّلات الصور الكفوءة بيانياً والتقطير عبر الانتباه2021في السماء ✦
- شبكة الاهتمام العميق للتنبؤ بمعدّل النقر2018في السماء ✦
- التعشير النطاقي لنقل الشبكات العصبية العميقة من المحاكاة إلى العالم الحقيقي2017في السماء ✦
- الإسقاط العشوائي: طريقة بسيطة لمنع الشبكات العصبية من فرط التخصيص2014في السماء ✦
- EfficientNet: إعادة التفكير في توسيع نماذج الشبكات الالتفافية2019في السماء ✦
- Fast R-CNN: اكتشاف أجسام أسرع بمعمارية موحّدة2015في السماء ✦
- فهم الأمثلة الخصومية واستثمارها2015في السماء ✦
- الدمج في المفكِّك: الاستفادة من استرجاع المقاطع مع النماذج التوليدية للإجابة عن الأسئلة المفتوحة2021في السماء ✦
- FlashAttention: انتباه دقيق وسريع وموفِّر للذاكرة بوعي حركة البيانات2022في السماء ✦
- الشبكات التوليدية التنافسية2014في السماء ✦
- شبكات الانتباه البيانية2018في السماء ✦
- وحدات الخطأ الغاوسي الخطية (GELUs)2016في السماء ✦
- التعمّق في الالتفافات2014في السماء ✦
- الاستيعاب المتأخّر: تعميم يتجاوز فرط التخصيص في مجموعات بيانات خوارزمية صغيرة2022في السماء ✦
- LIMA: القليل يكفي للمواءمة2023في السماء ✦
- فرضية تذكرة اليانصيب: إيجاد شبكات عصبية مُبعثرة قابلة للتدريب2019في السماء ✦
- Megatron-LM: تدريب نماذج لغوية بمليارات المعاملات باستخدام التوازي على مستوى النموذج2019في السماء ✦
- mixup: ما وراء تدنية المخاطر التجريبية2018في السماء ✦
- طريقة مونتي كارلو1949في السماء ✦
- برامج المُوتِّرات V: ضبط الشبكات العصبية الكبيرة عبر النقل الفوري للمعاملات الفائقة2022في السماء ✦
- N-BEATS: تحليل التوسّع بدوال الأساس العصبية للتنبؤ التفسيري بالسلاسل الزمنية2019في السماء ✦
- مُبرهنات لا وجبة مجانية في الأمثَلة1997في السماء ✦
- OPT: نماذج لغوية مفتوحة مُدرَّبة مسبقاً بمعمارية المُحوِّل2022في السماء ✦
- سلسلة زمنية تساوي 64 كلمة: التنبؤ طويل المدى باستخدام المحوِّلات2023في السماء ✦
- ترجمة الصور بالشبكات التنافسية التوليدية المشروطة2017في السماء ✦
- PointNet: التعلُّم العميق على مجموعات النقاط لتصنيف وتجزئة الأشكال ثلاثية الأبعاد2017في السماء ✦
- خوارزمية تحسين السياسة القريبة (PPO)2017في السماء ✦
- انحدار الحَرْف: التقدير المنحاز للمسائل غير المتعامدة1970في السماء ✦
- RoBERTa: منهج مُحسَّن بمتانة للتدريب المسبق على غرار BERT2019في السماء ✦
- المحوِّلات التبديلية: التوسّع إلى تريليون معامل بتناثر بسيط وفعّال2022في السماء ✦
- توليد الكلام الطبيعي بتهيئة WaveNet على تنبؤات طيف ميل2018في السماء ✦
- الضبط الدقيق الشامل لنموذج اللغة من أجل تصنيف النصوص2018في السماء ✦
- VQA: الإجابة البصرية عن الأسئلة2015في السماء ✦