السَّمْت

التعلم الذاتي الإشراف2020متوسط13 دقيقة قراءة

BYOL: مقاربة جديدة للتعلُّم الذاتي الإشراف بتمهيد التمثيلات الكامنة

Bootstrap Your Own Latent: A New Approach to Self-Supervised Learning

Grill, J.-B. · Strub, F. · Altché, F. · Tallec, C. · Richemond, P. H. · Buchatskaya, E. · Doersch, C. · Pires, B. A. · Guo, Z. D. · Azar, M. G. · Piot, B. · Kavukcuoglu, K. · Munos, R. · Valko, M. — NeurIPS

المشكلة

حتى عام 2020، كانت أساليب التعلّم الذاتي الإشراف الرائدة في مجال الصور — SimCLR وMoCo وتنويعاتهما — تقوم كلها على فكرة التعلّم التبايُني: قرّب تمثيلات المنظورين المختلفين للصورة نفسها، وأبعد تمثيلات الصور المختلفة عن بعضها. النتائج كانت جيدة، لكن الثمن العملي كان باهظاً: SimCLR كان يحتاج دُفعات ضخمة تتجاوز 4096 عيّنة ليوفّر أعداداً كافية من الأزواج السلبية، وMoCo كان يعتمد على بنك ذاكرة منفصل يخزّن التمثيلات السابقة، وكلا الأسلوبين كان هشّاً أمام اختيار تحويلات تكبير البيانات. الفرضية السائدة آنذاك كانت أن الأزواج السلبية شرط لا غنى عنه لتفادي الانهيار التمثيلي — أي أن تُصدر الشبكة المتجه نفسه مهما كان المدخل. ولم يكن أحد قد أثبت العكس على نطاق كبير.

الإسهام

قدّم BYOL أسلوباً للتعلّم الذاتي الإشراف يصل إلى أداء متقدّم في تمثيل الصور دون الحاجة لأيّ أزواج سلبية. الفكرة تقوم على شبكتين: شبكة متصلة وشبكة هدف. الشبكة المتصلة تتعلّم التنبؤ بتمثيلات لمنظورين مُكبَّرين من الصورة نفسها. شبكة الهدف لا تُدرَّب مباشرة، بل تُحدَّث كمتوسط متحرك أُسّي بطيء لأوزان الشبكة المتصلة. ومُتنبِّئ غير متماثل في فرع الشبكة المتصلة هو ما يمنع الانهيار. بمعمارية ResNet-50 قياسية، حقّق BYOL دقة 74.3% على تقييم ImageNet الخطي، متجاوزاً كل الأساليب الذاتية الإشراف السابقة، ووصل إلى 79.6% بمعمارية ResNet-200 الأكبر.

الأثر

كسر BYOL القناعة الراسخة بأن الأزواج السلبية لازمة للتعلّم الذاتي الإشراف، وفتح الطريق أمام عائلة كاملة من الأساليب غير التبايُنية. ألهم مباشرةً SimSiam الذي استغنى عن بالكامل، وDINO الذي جمع بين التقطير الذاتي ومحوِّلات الرؤية. وأصبح المبدأ الذي أرساه — شبكة هدف بطيئة مع مُتنبِّئ غير متماثل لمنع الانهيار — نمط تصميم أساسي في تعلّم التمثيلات. كذلك أثبت BYOL متانة واضحة تجاه حجم الدُفعة وخيارات تكبير البيانات، ما جعل التعلّم الذاتي الإشراف أقرب منالاً لمن يملكون موارد حوسبية محدودة.

تخيّل رسّامَين مبتدئَين يجلسان ظهراً لظهر أمام مشهد طبيعة صامتة واحد، كلٌّ منهما يراه من زاوية مختلفة. الرسّام الأول يرسم ما يراه، ثم يحاول أن يتخيّل كيف تبدو لوحة الرسّام الثاني. لكن الرسّام الثاني لا يرسم لحظةً بلحظة — بل يعمل من خلاصة مُنعَّمة لكل ما تعلّمه الأول سابقاً. ولا واحد منهما ينظر إلى لوحات مشاهد أخرى ليعرف ما يجب تجنّبه.

بعد مئات الجلسات، تصبح تنبؤات الرسّام الأول بالغة الدقة، لأن نموذجه الذهني للمشهد بات يلتقط بنيته الحقيقية ثلاثية الأبعاد — كل ذلك دون «مثال خاطئ» واحد. هذا هو جوهر BYOL: التعلّم عبر التنبؤ بنسخة بطيئة التطوّر من ذاتك، لا عبر المقارنة مع الآخرين.

معضلة التعلّم التبايُني: لماذا الأزواج السلبية مُكلِفة

قبل ظهور BYOL، كان هو الأسلوب المهيمن في للصور. الفكرة بسيطة: خُذ صورة، وأنشئ منها عبر تحويلات مثل القصّ العشوائي وتشويه الألوان والضبابية، ثم درِّب الشبكة على تقريب تمثيلَيهما من بعضهما. لكن هذا وحده لا يكفي — لأن الشبكة تستطيع «الغشّ» بأن تُسقط كل صورة على المتجه الثابت نفسه. لتفادي هذا الانهيار، أدخلت الأساليب التبايُنية ما يُعرف بـ: تمثيلات صور مختلفة يجب دفعها بعيداً عن بعضها.

تصوّر الأمر كقاعة مؤتمرات مزدحمة: الزملاء ينبغي أن يقفوا معاً، والغرباء ينبغي أن يتباعدوا. بلا غرباء، سيتكدّس الجميع في ركن واحد.

المشكلة أنك تحتاج عدداً كبيراً من هذه الأزواج السلبية لكي ينجح الأسلوب. SimCLR لجأ إلى دُفعات بحجم 4096 عيّنة أو أكثر حتى يحصل كل مثال على آلاف السلبيات يدفعها بعيداً. وMoCo استعان ببنك ذاكرة منفصل يخزّن تمثيلات سابقة. كلا الأسلوبين استلزم موارد حوسبية كبيرة، وكان أداؤهما حسّاساً لاستراتيجية — مجرد إزالة تشويه الألوان من SimCLR كان يُسقط الدقة بأكثر من 20 نقطة مئوية.

افتح في المختبر
بدّل بين التعلّم التبايُني وBYOL لترى الفرق الجوهري: الأساليب التبايُنية تعتمد على أزواج سلبية لتفادي الانهيار، أمّا BYOL فيستعيض عنها بمُتنبِّئ وشبكة هدف تتحرّك ببطء.
تستيقظ التجربة عند وصولك…

بنية BYOL: شبكتان وهدف واحد

يعتمد BYOL على شبكتين عصبيتين تتعلّمان من بعضهما: الشبكة المتصلة وشبكة الهدف. البنية المعمارية واحدة في كلتيهما، لكن الأوزان مختلفة.

آلية العمل تسير كالتالي: نأخذ صورة وننشئ منها منظورَين مُكبَّرَين vv وv′v'. المنظور vv يدخل إلى الشبكة المتصلة، وv′v' يدخل إلى شبكة الهدف. الشبكة المتصلة تمرّ بثلاث مراحل: أولاً fθf_\theta (مثل ResNet-50) يستخرج تمثيلاً yθy_\theta، ثم مُسقِط gθg_\theta (طبقات MLP) يُحوّله إلى إسقاط zθz_\theta، وأخيراً qθq_\theta (طبقات MLP أخرى) مهمته التنبؤ بإسقاط شبكة الهدف. شبكة الهدف في المقابل تملك فقط المُرمِّز fξf_\xi والمُسقِط gξg_\xi — بلا مُتنبِّئ. وهذا اللاتماثل مقصود وجوهري.

الشبكة المتصلة تُدرَّب بـ كالمعتاد. أمّا شبكة الهدف فلا تصلها أيّ تدرّجات — بل تُحدَّث أوزانها ξ\xi كـمتوسط متحرك أُسّي بطيء لأوزان الشبكة المتصلة θ\theta. وعند انتهاء التدريب، نستغني عن المُسقِط والمُتنبِّئ ونحتفظ فقط بالمُرمِّز fθf_\theta بوصفه التمثيل المُتعلَّم النهائي.

افتح في المختبر
استكشف بنية BYOL. الشبكة المتصلة في الأعلى تضمّ مُرمِّزاً ومُسقِطاً ومُتنبِّئاً. شبكة الهدف في الأسفل تُطابق أول مكوّنين فقط، وتتلقّى أوزانها عبر المتوسط المتحرك الأُسّي — لا تمرّ إليها أيّ تدرّجات.
تستيقظ التجربة عند وصولك…

دالة الخسارة: التنبؤ بإسقاط الهدف

هدف التدريب في BYOL بسيط: اجعل تنبؤ الشبكة المتصلة يتطابق مع إسقاط شبكة الهدف. عملياً، يُطبَّع كلا المخرجَين أولاً بمعيار ℓ2\ell_2 فيُسقَطان على كرة الوحدة، ثم يُقارَنان بـ — وهو ما يُكافئ، بعد التطبيع، سالب .

لماذا التطبيع؟ لأنه يمنع الشبكة من الالتفاف على المهمة بتضخيم حجم مخرجاتها. حين نُجبر كل شيء على كرة الوحدة، لا يتبقّى أمام الشبكة سوى ترميز معلومات اتجاهية — الزاوية بين المتجهات هي المهمة، لا أطوالها.

Lθ,ξ  ≜  ∥qˉθ(zθ)−zˉξ′∥22  =  2−2⋅⟨qθ(zθ), zξ′⟩∥qθ(zθ)∥2  ⋅  ∥zξ′∥2\mathcal{L}_{\theta,\xi} \;\triangleq\; \left\| \bar{q}_\theta(z_\theta) - \bar{z}'_\xi \right\|_2^2 \;=\; 2 - 2 \cdot \frac{\langle q_\theta(z_\theta),\, z'_\xi \rangle} {\|q_\theta(z_\theta)\|_2 \;\cdot\; \|z'_\xi\|_2}
خسارة BYOL — متوسط مربعات الخطأ المُطبَّع يُكافئ سالب تشابه جيب التمام — الخط العلوي يعني أن المتجه مُطبَّع بمعيار ℓ2\ell_2. في الطرف الأيسر نرى مربع المسافة على كرة الوحدة بين تنبؤ الشبكة المتصلة qθ(zθ)q_\theta(z_\theta) وإسقاط شبكة الهدف zξ′z'_\xi. الطرف الأيمن يُبيّن أن هذه المسافة تُساوي 2−2cos⁡(α)2 - 2\cos(\alpha)، حيث α\alpha هي الزاوية بين المتجهين. بتصغير هذه الخسارة، نُحاذي المتجهين على الكرة.

الخسارة تُحسب في الاتجاهين: نُدخل أيضاً v′v' إلى الشبكة المتصلة وvv إلى شبكة الهدف فنحصل على خسارة ثانية L~θ,ξ\tilde{\mathcal{L}}_{\theta,\xi}. الخسارة الكلية هي مجموعهما. النقطة الجوهرية هنا أن التدرّجات تسري فقط عبر θ\theta أي الشبكة المتصلة. أمّا أوزان شبكة الهدف ξ\xi فتُحدَّث عبر متوسط متحرك أُسّي مع — وهذا بالتحديد ما يُميّز BYOL عن الأساليب التي تُصغّر خسارة مشتركة على الشبكتين معاً.

Lθ,ξBYOL=Lθ,ξ+L~θ,ξ\mathcal{L}^{\text{BYOL}}_{\theta,\xi} = \mathcal{L}_{\theta,\xi} + \tilde{\mathcal{L}}_{\theta,\xi}
خسارة BYOL المُتماثلة — حين نحسب الخسارة في كلا الاتجاهين — الشبكة المتصلة تتنبّأ بإسقاط الهدف ثم العكس — نضمن أن التمثيل يلتقط المعلومات من كلا المنظورَين المُكبَّرَين بالتساوي. هذا التناظر يُعزّز الاستقرار ويُحسّن الأداء النهائي.

شبكة الهدف: معلِّم بطيء التطوّر

شبكة الهدف لا تتلقّى أيّ تدرّجات على الإطلاق. بدلاً من ذلك، بعد كل خطوة تدريب، تُحدَّث أوزانها لتكون متوسطاً متحركاً أُسّياً لأوزان الشبكة المتصلة. يتحكّم في سرعة هذا التحديث τ\tau يبدأ مرتفعاً (مثلاً 0.996) ويتصاعد تدريجياً نحو 1 خلال التدريب وفق جدول جيب تمامي.

يمكن تشبيه شبكة الهدف بمُرشدٍ صبور: لا يتفاعل مع كل فكرة جديدة يأتي بها التلميذ، بل يمتصّ خبرته ببطء عبر الزمن ويقدّم توجيهاً مستقراً وثابتاً. هذا الاستقرار هو ما يحمي الشبكة المتصلة من مطاردة ضجيجها والانهيار.

ξ←τ ξ+(1−τ) θ\xi \leftarrow \tau\,\xi + (1-\tau)\,\theta
قاعدة تحديث المتوسط المتحرك الأُسّي لشبكة الهدف — بعد كل خطوة تدرّج على θ\theta، تُزاح أوزان الهدف ξ\xi قليلاً باتجاه θ\theta. حين يكون τ=0.99\tau = 0.99 مثلاً، تحتفظ شبكة الهدف بـ99% من أوزانها القديمة وتمتصّ 1% فقط من الشبكة المتصلة. النتيجة نسخة مُنعَّمة بطيئة التطوّر — أشبه بصورة فوتوغرافية بتعريض طويل مقارنةً بلقطة آنية.
افتح في المختبر
عدِّل معدّل الاضمحلال τ وراقب كيف تتبع شبكة الهدف الشبكة المتصلة. قيمة τ مرتفعة تعني تتبّعاً هادئاً ومستقراً، وقيمة منخفضة تعني متابعة سريعة لكن مُشوَّشة.
تستيقظ التجربة عند وصولك…

لماذا لا ينهار BYOL؟

هذا هو السؤال المحوري في BYOL. في غياب أزواج سلبية تدفع التمثيلات بعيداً عن بعضها، ما الذي يمنع الشبكة من الانزلاق نحو حلّ تافه — أن تُصدر المتجه نفسه لكل مدخل؟

الجواب يكمن في التفاعل بين مكوّنين: المُتنبِّئ غير المتماثل وشبكة الهدف بالمتوسط المتحرك الأُسّي. لا يستطيع أيّ منهما وحده منع . أزِل المُتنبِّئ مع إبقاء المتوسط المتحرك؟ ينهار النظام. أزِل المتوسط المتحرك مع إبقاء المُتنبِّئ؟ ينهار أيضاً. كلاهما ضروري.

الحدس يتّضح حين نفكّر فيما يتعلّمه المُتنبِّئ فعلاً. حين يكون المُتنبِّئ قريباً من الأمثلية، تتحوّل خسارة BYOL إلى التباين الشرطي لإسقاط الهدف بمعلومية إسقاط الشبكة المتصلة. لو انهار المخرج إلى قيمة ثابتة، فإن هذا التباين سيرتفع لا ينخفض — لأن الهدف يظلّ متغيّراً بينما التنبؤ جامد. إذن التدرّج يدفع الشبكة المتصلة لتلتقط معلومات أكثر لا أقل.

وهنا يأتي دور المتوسط المتحرك الأُسّي: أن يُبقي المُتنبِّئ قريباً من الأمثلية. لو تغيّرت شبكة الهدف بنفس سرعة الشبكة المتصلة (τ=0\tau = 0)، لظلّ المُتنبِّئ يلاحق دون أن يلحق أبداً. البطء في التحديث يمنح المُتنبِّئ وقتاً كافياً للتقارب، فتبقى ديناميكيات مقاومة الانهيار فاعلة.

∇θE ⁣[∥q∗(zθ)−zξ′∥22]=∇θE ⁣[∑iVar(zξ,i′∣zθ)]\nabla_\theta \mathbb{E}\!\left[\left\|q^*(z_\theta) - z'_\xi\right\|_2^2\right] = \nabla_\theta \mathbb{E}\!\left[\sum_i \mathrm{Var}(z'_{\xi,i} \mid z_\theta)\right]
المُتنبِّئ الأمثل يختزل خسارة BYOL إلى التباين الشرطي — حين يكون المُتنبِّئ q∗q^* أمثلياً — أي يُساوي التوقّع الشرطي — تتحوّل الخسارة إلى مجموع التباينات الشرطية لكل سمة في إسقاط الهدف بمعلومية إسقاط الشبكة المتصلة. المخرج المنهار zθz_\theta الثابت سيحمل تبايناً شرطياً أعلى من مخرج غني بالمعلومات — وبالتالي التدرّجات تدفع الشبكة نحو الاحتفاظ بمعلومات أكثر لا أقل.
افتح في المختبر
فعّل المُتنبِّئ والمتوسط المتحرك أو عطّلهما وراقب متى يحدث الانهيار. المُتنبِّئ وحده لا يكفي، والمتوسط المتحرك وحده لا يكفي — الجمع بينهما فقط هو ما يحمي التمثيل.
تستيقظ التجربة عند وصولك…

تكبير البيانات: إنشاء مناظير ذات معنى

يُنشئ BYOL منظورَين مُكبَّرَين لكل صورة باستخدام تركيبة من التحويلات المعيارية: قصّ عشوائي مع تغيير الحجم، قلب أفقي عشوائي، تشويه ألوان (سطوع وتباين وتشبّع ودرجة لونية)، تحويل عشوائي إلى تدرّجات الرمادي، ضبابية غاوسية، وتشميس. خطّا التكبير T\mathcal{T} وT′\mathcal{T}' يختلفان اختلافاً طفيفاً في توزيعات معاملاتهما.

من أبرز ما كشفته التجارب أن BYOL أمتن بفارق واضح تجاه اختيار التكبيرات مقارنةً بأساليب التعلّم التبايُني. حين نقتصر على القصّ العشوائي وحده — بإزالة جميع تكبيرات الألوان — تنخفض دقة BYOL بـ13.1 نقطة مئوية فقط (إلى 59.4%)، بينما تهبط دقة SimCLR بـ27.6 نقطة (إلى 40.3%). والتفسير منطقي: الأساليب التبايُنية تستطيع أن تلجأ إلى اختصارات بسيطة — كمطابقة توزيعات الألوان — إذا كانت تلك الاختصارات كافية للتمييز بين والسلبية. أمّا BYOL، فبغياب الأزواج السلبية أصلاً، تظلّ الشبكة محفَّزة دائماً للحفاظ على كل المعلومات في تمثيل الهدف، لا فقط ما يُميّز صورة عن أخرى.

افتح في المختبر
قارن بين تراجع أداء BYOL وSimCLR كلّما أزلنا تكبيرات أكثر. BYOL يحتفظ بأداء أقوى بكثير حتى مع تكبيرات محدودة.
تستيقظ التجربة عند وصولك…

وصفة التدريب: تجميع كل شيء معاً

يمكن تلخيص تدريب BYOL في خمس خطوات تتكرّر كل تكرار. أولاً نختار صورة وننشئ منها منظورَين مُكبَّرَين. ثانياً نُمرّر كل منظور عبر الشبكة المناسبة — المتصلة تأخذ أحدهما وشبكة الهدف تأخذ الآخر. ثالثاً نحسب الخسارة المُتماثلة في الاتجاهين. رابعاً نُحدّث أوزان الشبكة المتصلة θ\theta بـالانحدار التدريجي. وخامساً نُحدّث أوزان شبكة الهدف ξ\xi بقاعدة المتوسط المتحرك الأُسّي.

المُرمِّز هو ResNet-50 أو أكبر. المُسقِط عبارة عن طبقتَي MLP مع بأبعاد 4096→2564096 \to 256. المُتنبِّئ يأخذ البنية ذاتها: 4096→2564096 \to 256. يُستخدم محسِّن LARS مع جدول جيب تمامي، و 4096، و1000 حقبة تدريب. أمّا معدّل اضمحلال شبكة الهدف فيتبع جدولاً جيب تمامياً يتصاعد من τbase=0.996\tau_{\text{base}} = 0.996 إلى 1.

خطوة تدريب BYOL — شفرة زائفة مبسّطةpython

مبسَّط لإظهار الفكرة — ليس التنفيذ الحقيقي.

# تكبير الصورة نفسها مرتين
v1, v2 = augment(image, T), augment(image, T_prime)

# الشبكة المتصلة: مرمِّز ← مُسقِط ← مُتنبِّئ
y1 = encoder_online(v1)      # التمثيل
z1 = projector_online(y1)     # الإسقاط
p1 = predictor(z1)            # التنبؤ

# شبكة الهدف: مرمِّز ← مُسقِط (بلا مُتنبِّئ!)
with stop_gradient():
    y2 = encoder_target(v2)
    z2 = projector_target(y2)


# خسارة MSE المُطبَّعة (= سالب تشابه جيب التمام)
loss = norm_mse(p1, z2) + norm_mse(predictor(projector_online(encoder_online(v2))),
                                   projector_target(encoder_target(v1)))


# تحديث الشبكة المتصلة بالانحدار التدريجي
theta = optimizer_step(theta, grad(loss, theta))

# تحديث شبكة الهدف بالمتوسط المتحرك (بدون تدرّجات!)
xi = tau * xi + (1 - tau) * theta

النتائج: أحدث ما توصّل إليه الميدان بدون أزواج سلبية

في التقييم الخطي على ImageNet — أي تدريب مصنّف خطي فوق تمثيلات مُجمَّدة — حقّق BYOL بمعمارية ResNet-50 القياسية دقة 74.3% متفوّقاً بفارق 1.3% على أفضل أسلوب ذاتي الإشراف سبقه (InfoMin Aug. بدقة 73.0%). ومع معمارية أكبر (ResNet-200 بعرض مضاعف) وصلت الدقة إلى 79.6%، متجاوزةً حتى خطّ أساس ResNet-50 البالغ 76.5%.

في التدريب باستخدام 1% فقط من تسميات ImageNet، تفوّق BYOL على SimCLR بـ4.9 نقطة مئوية (53.2% مقابل 48.3%). وفي عبر 12 مجموعة بيانات متنوّعة — من التعرّف الدقيق على الطيور والسيارات والطائرات إلى الأنسجة (DTD) إلى المشاهد (SUN397) — تصدّر BYOL كل المعايير دون استثناء، وطابق خطّ أساس ImageNet المُشرَف أو تجاوزه في أغلبها.

ولم تقتصر قوة التمثيلات على التصنيف. فقد نُقلت بنجاح إلى (+1.1 mIoU مقابل SimCLR على VOC) و (+2.3 AP50 على VOC) وتقدير العمق على NYU v2. هذا الطيف الواسع من النتائج القوية يُؤكّد أن BYOL يتعلّم سمات بصرية عامة الاستخدام فعلاً.

افتح في المختبر
قارن دقة BYOL على ImageNet مع الأساليب التبايُنية عبر معماريات ResNet مختلفة. BYOL يتصدّر في كل الحالات رغم استغنائه عن الأزواج السلبية.
تستيقظ التجربة عند وصولك…

الاستئصالات المحورية: ما الذي يهمّ وما الذي لا يهمّ

أجرى المؤلفون تجارب مكثّفة لعزل العوامل التي تجعل BYOL يعمل. أكثر النتائج كاشفيةً تتعلّق بـمعدّل الاضمحلال τ\tau. حين نضبطه على τ=1\tau = 1 — أي لا نُحدّث شبكة الهدف أبداً — نحصل على 18.8% فقط، لأن الهدف يبقى شبكة عشوائية مُجمَّدة والشبكة المتصلة لا تجد ما تتعلّمه إلا بنية محدودة. وحين نضبطه على τ=0\tau = 0 — أي ننسخ الشبكة المتصلة فوراً — نحصل على 0.3%: انهيار تام، لأن الهدف يتغيّر أسرع من قدرة المُتنبِّئ على مواكبته. جميع القيم بين 0.9 و0.999 تُعطي أداءً قوياً يتراوح بين 68% و72%، وأفضلها τ=0.99\tau = 0.99 بدقة 72.5% على 300 حقبة.

استئصال آخر بالغ الأهمية أظهر أن متانة BYOL تجاه حجم الدُفعة أفضل بكثير من SimCLR. حين نُنقص الدُفعة من 4096 إلى 256، تهبط دقة SimCLR بنحو 3 نقاط، بينما BYOL لا يكاد يتأثّر. والسبب واضح: خسارة BYOL لا تعتمد إلا على الزوج الإيجابي وحده — حجم الدُفعة لا يُؤثّر إلا في إحصائيات تطبيع الدُفعات، لا في إشارة التعلّم نفسها.

الإرث: ثورة ما بعد التعلّم التبايُني

  1. 2018

    MoCo — التعلّم التبايُني بالزخم

    أدخل فكرة المرمِّز المُحدَّث بالزخم مع طابور للتمثيلات السلبية، فأصبح التعلّم التبايُني ممكناً بدُفعات أصغر. هذا النمط — المرمِّز الزخمي — هو ما أعاد BYOL توظيفه لاحقاً بصورة مختلفة تماماً.

  2. 2020

    SimCLR — إطار تبايُني بسيط

    أثبت أن إطاراً بسيطاً يجمع بين دُفعات كبيرة وتكبيرات قوية ورأس إسقاط قادر على منافسة الأساليب التبايُنية المعقّدة. لكنه كان يحتاج دُفعات بحجم 4096 عيّنة أو أكثر لتحقيق أفضل النتائج.

  3. 2020

    BYOL — هذه الورقة

    أثبت أن التعلّم الذاتي الإشراف يمكن أن ينجح بدون أزواج سلبية، وذلك بالجمع بين مُتنبِّئ غير متماثل وشبكة هدف بمتوسط متحرك أُسّي لمنع الانهيار. حقّق 74.3% على ImageNet بمعمارية ResNet-50، متفوّقاً على جميع الأساليب التبايُنية.

  4. 2021

    SimSiam — تبسيط إضافي

    بيّن أن شبكة الهدف بالمتوسط المتحرك ليست شرطاً صارماً — يكفي إيقاف التدرّج على أحد الفرعين لمنع الانهيار. اختزل BYOL إلى الحدّ الأدنى من مكوّناته الضرورية.

  5. 2021

    DINO — التقطير الذاتي يلتقي محوِّلات الرؤية

    جمع بين إطار المعلِّم والتلميذ المستوحى من BYOL ومحوِّلات الرؤية، واكتشف أن محوِّلات الرؤية المُدرَّبة ذاتياً تتعلّم خرائط انتباه تُجزّئ الكائنات بشكل طبيعي. نقل أفكار BYOL الجوهرية إلى عصر المحوِّلات.

تأثير BYOL يتجاوز خوارزميته بحدّ ذاتها. فقد أثبت أن المعادلة التي ظنّها الجميع بديهية — «التعلّم التبايُني = أزواج سلبية» — ليست صحيحة. يمكنك تعلّم تمثيلات ممتازة بمجرد التنبؤ بنسخة بطيئة التطوّر من مخرجاتك الذاتية. هذه الرؤية بسّطت مسار التعلّم الذاتي الإشراف، وخفّضت المتطلبات الحوسبية، وفتحت الباب أمام أساليب مثل VICReg وBarlow Twins وعائلة التعلّم غير التبايُني بأسرها. كل أسلوب حديث في التعلّم الذاتي الإشراف يتخلّى عن الأزواج السلبية يعود في جذوره الفكرية إلى BYOL.

المرجعGrill, Strub, Altché, Tallec, Richemond, Buchatskaya, Doersch, Pires, Guo, Azar, Piot, Kavukcuoglu, Munos, Valko. Bootstrap Your Own Latent: A New Approach to Self-Supervised Learning. NeurIPS, 2020.

مصطلحات هذه الورقة