تعلُّم التمثيلات بدون إشراف عبر التنبؤ بدوران الصور

الشبكات العصبية الالتفافية العميقة تتعلّم سمات بصرية قوية — لكنها تشترط ملايين الصور المُعنونة. مجموعة ImageNet وحدها احتاجت تعنون 14 مليون صورة يدوياً. ولكل مجال جديد — تصوير طبي، أقمار اصطناعية، فحص صناعي — تحتاج تسميات جديدة من الصفر. هذا هو عنق زجاجة التسميات: صور بلا حدود، لكن تسميات شحيحة.

بحلول 2018 كانت عدة أساليب تعلُّم ذاتي الإشراف قد ظهرت. التنبؤ بالسياق يطلب من الشبكة تخمين الموقع النسبي لرقع الصورة. التلوين يُدرّبها على إعادة الألوان لصور رمادية. أحاجي التركيب تُدرّبها على ترتيب قطع صورة مُبعثرة. كل أسلوب كان مبتكراً لكنه معقّد — يحتاج معالجة مسبقة دقيقة أو بنيات خاصة أو أنابيب تدريب مكلفة. ولم يقترب أيٌّ منها من أداء التعلُّم المُشرَف عليه.

فطرح السؤال نفسه: هل يمكن لشيء أبسط أن يعمل أفضل؟

الفكرة بسيطة لدرجة مفاجئة. خُذ أيّ صورة، وأنشئ منها أربع نسخ بتدويرها 0° و90° و180° و270°. مرِّر كل نسخة عبر شبكة التفافية ودرِّبها على تحديد زاوية الدوران — مسألة تصنيف عادية من أربع فئات.

لماذا يُجبر هذا الشبكة على تعلُّم سمات مفيدة؟ لأن التعرّف على الدوران مستحيل دون فهم ما في الصورة. خُذ مثلاً صورة قطة: حتى تعرف أنها مقلوبة، عليك أولاً أن تُدرك أنها قطة، ثم تُحدّد أين رأسها وأين أقدامها، ثم تعرف أن القطط تقف بأقدامها للأسفل وأذنيها للأعلى. المهمة هنا أشبه بحصان طروادة — الشبكة تظن أنها تتعلّم عن الزوايا، لكنها في الواقع تتعلّم عن الكائنات وأجزائها ومواقعها وبنية المشهد البصري.

تخيّلها كبوصلة لا تعمل إلا إذا كان حاملها يملك خريطة. التنبؤ بالدوران هو البوصلة، والفهم الدلالي هو الخريطة.

اختيار الدوران تحديداً ليس عشوائياً، بل له ثلاث مزايا واضحة على المهام الذريعة الأخرى:

يفرض فهماً عالي المستوى. التلوين يمكنه الاعتماد على إحصائيات النسيج المحلّية، وأحاجي التركيب قد تستغلّ استمرارية الحواف. أما التنبؤ بالدوران فـيشترط أن تفهم الشبكة الكائنات دلالياً. لا يمكنك معرفة أن الكلب مُدار 90° دون أن تعرف أصلاً ما هو الكلب وكيف يبدو في وضعه الطبيعي.

لا تشوّهات بصرية تُسرِّب الحلّ. الدوران بمضاعفات 90° يُنفَّذ بعمليات قلب وتبديل محاور فقط — بلا أيّ استيفاء. الصور المُدارة تبقى نظيفة تماماً، فلا توجد تشوّهات يمكن للشبكة استغلالها كطريق مختصر. في المقابل، الدوران بزوايا حرة يُدخل تشوّهات استيفاء تكشف الإجابة.

مهمة واضحة بلا غموض. الصور التي يلتقطها البشر تُظهر الأشياء في وضعها المنتصب غالباً. هذا يجعل مسألة الدوران محسومة — يكاد يكون هناك دائماً اتجاه «صحيح» واحد. الاستثناء الوحيد هو صور الأجسام الدائرية تماماً، وهي نادرة.

الأنبوب يمرّ بخمس مراحل. أولاً، خُذ صورة غير مُعنونة $X$. ثانياً، أنتج منها أربع نسخ مُدارة: $X^0$ (الأصلية) و$X^{90}$ و$X^{180}$ و$X^{270}$. ثالثاً، مرِّر النسخ الأربع عبر عمود فقري التفافي مشترك $F(\cdot)$ — الأوزان نفسها تُعالج كل دوران. رابعاً، تُخرج الشبكة توزيعاً احتمالياً على فئات الدوران الأربع. خامساً، درِّب باستخدام خسارة الإنتروبيا التقاطعية المعيارية لتعظيم احتمال الدوران الصحيح.

نقطة تنفيذية مهمة: أثناء التدريب تُدخَل النسخ الأربع لكل صورة في الدُّفعة نفسها. أي أن الشبكة ترى المحتوى البصري ذاته في الاتجاهات الأربعة معاً، وهذا يُحسّن التعلُّم بشكل ملحوظ مقارنة بسحب دوران واحد عشوائي لكل صورة.

ما يُميّز RotNet أن دالة الخسارة فيه ليست سوى الإنتروبيا التقاطعية العادية — نفس الدالة المُستخدمة في التعلُّم المُشرَف عليه. الفرق الوحيد هو ماذا نُصنِّف. بدلاً من «قطة» أو «كلب»، الشبكة تتنبّأ بـ«0°» أو «90°» أو «180°» أو «270°».

نُعرِّف مجموعة من $K=4$ تحويلات هندسية $G = \{g(\cdot|y)\}_{y=1}^{K}$، حيث $g(X|y) = \text{Rot}(X, (y-1) \times 90°)$. الشبكة $F(\cdot)$ تأخذ صورة مُدارة وتُخرج توزيعاً احتمالياً على الدورانات الأربعة. هدف التدريب هو تصغير متوسط سالب لوغاريتم الأرجحية عبر جميع الصور وجميع الدورانات:

للتأكّد من أن التنبؤ بالدوران يفرض فعلاً فهماً دلالياً، فحص المؤلفون خرائط الانتباه التي تُبيّن أيّ مناطق الصورة تُركّز عليها الشبكة عند اتخاذ قرارها.

النتيجة كانت لافتة: خرائط انتباه RotNet تُركّز على أجزاء الكائنات ذات المعنى — العيون والأنوف والذيول والرؤوس والعجلات. والمفاجأة أنها عند مقارنتها بنموذج مُشرَف مُدرَّب على تمييز الكائنات، يتبيّن أن كليهما يُركّز على المناطق نفسها. أي أن مهمة الدوران — بلا تسمية واحدة — تعلّمت الانتباه إلى المحتوى الدلالي ذاته الذي يتعلّمه الإشراف الكامل.

والأكثر إثارة: مرشّحات الطبقة الأولى في RotNet أظهرت تنوّعاً أكبر في كاشفات الحواف الموجَّهة وبتردّدات متعددة مقارنةً بنظيرتها المُشرَف عليها. مهمة الدوران أنتجت سمات منخفضة المستوى أغنى، والسبب المُرجَّح أن فهم الاتجاه يتطلّب حساسية للحواف في كل الاتجاهات.

جرّب المؤلفون أعداداً مختلفة من فئات الدوران: دورانان (0° و180°)، و4 دورانات (0° و90° و180° و270°)، و8 دورانات (كل 45°). أفضل دقة في المهام اللاحقة جاءت من 4 دورانات بنسبة 89.06% على CIFAR-10.

لماذا ليس أكثر؟ عند 8 دورانات تحتاج الزوايا 45° إلى استيفاء بكسلي يُدخل تشوّهات، والفرق بين 45° و90° يصير دقيقاً جداً. ولماذا ليس أقل؟ دورانان فقط مهمة سهلة لا تُعطي إشارة إشرافية كافية. أربع دورانات تُصيب التوازن المثالي: تنوّع كافٍ يشترط الفهم الدلالي، بلا تشوّهات استيفاء، مع فصل نظيف بين الفئات.

ليست كل طبقات RotNet متساوية في نفعها لـالمهام اللاحقة. النمط الذي وجده المؤلفون واضح: خرائط السمات من الطبقات الوسطى (تحديداً الكتلة الالتفافية الثانية) تُعطي أفضل دقة في تمييز الكائنات. الطبقات المبكّرة تلتقط أنماطاً بسيطة جداً، والمتأخرة تتخصّص في مهمة الدوران نفسها فتفقد عموميتها.

الأمر منطقي لو تخيّلت الشبكة كأنبوب معالجة: الطبقات المبكّرة تكشف الحواف، والوسطى تفهم الأجزاء والكائنات — وهذه هي المعرفة الأكثر قابلية للنقل — أما المتأخرة فمُكرَّسة للإجابة عن «أيّ دوران؟»، وهي مفيدة لـالمهمة الذريعة لكنها متخصّصة أكثر من أن تُنقل بكفاءة.

ملاحظة مهمة: جعل الشبكة أعمق يُحسّن سمات الطبقات الوسطى. عندما تُضاف طبقات فوقها، ينحصر العمل الخاص بالدوران في الطبقات الأخيرة، فتتحرّر الوسطى لتعلُّم تمثيلات أعمّ. لذلك يُنتج RotNet المؤلَّف من 5 كتل سمات أقدر على النقل من RotNet بـ3 كتل، حتى لو استُخرجت السمات من العمق ذاته.

نتائج RotNet كانت لافتة على كل المعايير. على CIFAR-10 حقّق دقة 91.16% — أقلّ بـ1.64 نقطة مئوية فقط من نموذج مُشرَف عليه بالكامل بالبنية ذاتها. وبعد الضبط الدقيق تقلّصت الفجوة إلى 0.63 نقطة فقط (92.17% مقابل 92.80%).

على تصنيف ImageNet بمُصنِّفات غير خطية، تجاوز RotNet كل الأساليب غير المُشرَف عليها السابقة بفوارق كبيرة: 50.0% عند conv4 (مقابل 45.6% لأقرب منافس) و43.8% عند conv5 (مقابل 36.0%). قفزة بمقدار 8 نقاط مئوية عند conv5 — تحسُّن ضخم في هذا المعيار.

في كشف الكائنات على PASCAL VOC 2007 حقّق 54.4% mAP — أقل بـ2.4 نقطة فقط من الإشراف الكامل (56.8%). وفي التجزئة على PASCAL VOC 2012 بلغ 39.1% mIoU. هذه النتائج أثبتت أن سمات RotNet تُنقل بقوة ليس فقط بين مجموعات البيانات، بل بين أنواع المهام — تصنيف وكشف وتجزئة.

لعلّ أكثر النتائج إثارة عملياً هي في سياق التعلُّم شبه المُشرَف عليه. درّب المؤلفون RotNet على كامل مجموعة تدريب CIFAR-10 بلا تسميات، ثم درّبوا مُصنِّفات كائنات فوق السمات المُجمَّدة مستخدمين جزءاً فقط من الصور المُعنونة.

حين ينخفض عدد الأمثلة المُعنونة لكل فئة عن 1,000، تتفوّق سمات RotNet على نموذج مُشرَف بالكامل مُدرَّب من الصفر على التسميات القليلة ذاتها. وكلما قلّت التسميات كبرت الأفضلية. مع 20 مثالاً مُعنوناً فقط لكل فئة، الفجوة تصير هائلة.

هذا هو الوعد العملي لـالتعلُّم الذاتي الإشراف: درِّب مسبقاً على كمّ هائل من الصور بلا تسميات، ثم اضبط النموذج بتسميات قليلة. RotNet أثبت أن هذا النهج يعمل حتى بأبسط مهمة ذريعة ممكنة.

إسهام RotNet الباقي ليس نتائجه فحسب، بل الدرس الذي قدّمه: جودة الإشارة الإشرافية أهمّ من تعقيد الطريقة. هذا الدرس مهّد لثورة التعلُّم التبايُني — أساليب مثل SimCLR وMoCo التي نجحت لاحقاً في مجاراة التعلُّم المُشرَف عليه بل تجاوزه.

كما رسّخت الورقة بروتوكول تقييم أساليب التعلُّم الذاتي الإشراف: جمِّد السمات، درِّب مُصنِّفات خطية أو غير خطية فوقها، ثم قِس أداء النقل عبر المهام ومجموعات البيانات. هذا البروتوكول لا يزال هو المعيار حتى اليوم.