تعلُّم التمثيلات: مراجعة شاملة وآفاق جديدة

أي خوارزمية تعلُّم آلة لا ترى البيانات كما هي فعلاً، بل تراها من خلال عدسة — هي التمثيل. نظام التعرف على الوجوه مثلاً قد يستقبل بكسلات خامًا، أو مُدرَّجات حواف صمّمها مهندس يدويًّا، أو سمات مُتعلَّمة آليًّا. والمدهش أن الخوارزمية نفسها قد تفشل فشلاً ذريعًا مع تمثيل ما، ثم تنجح بسلاسة مع تمثيل آخر — وهذا يعني عمليًّا أن جودة التمثيل أهم من الخوارزمية ذاتها في كثير من الأحيان.

قبل ظهور التعلُّم العميق، كان الممارسون يقضون معظم وقتهم في ما يُعرف بـهندسة السمات: تصميم تحويلات يدوية مُفصَّلة لكل مهمة على حدة. مهندسو الصوت صمّموا معاملات MFCC، وباحثو الرؤية الحاسوبية ابتكروا واصفات SIFT وHOG، وفِرَق معالجة اللغة بنت محلّلات نحوية. كل مجال كان يتطلب سنوات من الخبرة المتخصصة، والسمات التي يُنتجها نادرًا ما كانت تصلح لمجال آخر.

ما طرحه بينجيو وكورفيل وفانسون هو أن عنق الزجاجة هذا يُمثّل العقبة المركزية أمام تقدُّم الذكاء الاصطناعي. أطروحتهم واضحة: لو استطعنا بناء نظام يتعلّم بنفسه كيف يُمثّل البيانات — أي يستخلص عوامل التنوّع التفسيرية الكامنة ويفكّ تشابكها — فإن هذا النظام سيُعمِّم عبر المجالات المختلفة تمامًا كما يفعل الإدراك البشري.

لعلّ أبرز ما قدّمته الورقة هو قائمة القرائن العامة (Generic Priors) — وهي افتراضات عن طبيعة العالم ينبغي لأي تمثيل جيد أن يعكسها. هذه ليست قواعد مرتبطة بمهمة معينة، بل هي خصائص عامة للعالم الفيزيائي تجعل بعض التمثيلات أنجح من غيرها بغضّ النظر عن التطبيق. تخيّلها كقوانين التنظيم الجيد في نظام أرشفة ذكي.

الجميل في هذه القرائن أنها ليست مستقلة عن بعضها، بل يُغذّي بعضها بعضًا. أي تمثيل يحترمها معًا سيتمكّن من فكّ تشابك عوامل التنوّع، ودعم التعميم، وتسهيل أي مهمة لاحقة. والنقطة المحورية التي تطرحها الورقة هي أن نجاح التعلُّم العميق يعود في جزء كبير منه إلى أن بنيته المعمارية تُجسّد كثيرًا من هذه القرائن ضمنيًّا، دون أن يبرمجها أحد صراحةً.

لنأخذ صورة وجه كمثال: هذه الصورة هي نتاج عدّة عوامل مستقلة في الأصل — هُوية الشخص، ووضعية الرأس، واتجاه الإضاءة، وتعبير الوجه، والخلفية. لكن في البكسلات الخام تتشابك هذه العوامل تمامًا: مجرّد تغيير الإضاءة يُغيّر كل قيمة بكسل في الصورة. ما يفعله التمثيل المفكَّك التشابك هو أنه يُخصّص لكل عامل بُعدًا مستقلاً أو مجموعة أبعاد خاصة به، بحيث إذا غيّرت عاملاً واحدًا تتأثّر أبعاده فقط وتبقى بقية الأبعاد ثابتة.

لماذا هذا مهم عمليًّا؟ لأن فكّ التشابك يجعل نقل التعلُّم أمرًا يسيرًا. نموذج تدرَّب على وجوه مُضاءة جيدًا يستطيع التعميم على ظروف إضاءة خافتة، لأن الأبعاد التي تُمثّل الإضاءة منفصلة تمامًا عن تلك التي تُمثّل الهُوية. الفكرة المركزية في الورقة هي أن فكّ التشابك هو ذاته تعريف التمثيل الجيد — وأن القرائن العشر هي الشروط التي تُتيح تحقيقه.

هناك عائلة كاملة من الأساليب تتعلّم التمثيلات عبر نمذجة التوزيع الاحتمالي للبيانات نفسها. أبرز هذه الأساليب هي آلة بولتزمان المقيَّدة: شبكة مؤلّفة من طبقتين — وحدات مرئية تُمثّل البيانات، ووحدات خفية تُمثّل السمات المُتعلَّمة — من دون أي وصلات داخل الطبقة الواحدة. تتدرّب هذه الآلة لتُعطي احتمالاً عاليًا للبيانات المُلاحَظة واحتمالاً منخفضًا لكل شيء آخر، مستعينةً بأسلوب التباعد التبايُني لتقريب حساب التدرُّج.

النقطة الجوهرية هنا أن الوحدات الخفية بعد التدريب هي نفسها تمثيل للبيانات. كل وحدة خفية تعمل ككاشف سمات — واحدة قد تنشط عند رؤية حواف رأسية، وأخرى عند ظهور نسيج معيّن. وحين نُكدّس عدة آلات RBM طبقةً فوق أخرى نحصل على شبكة اعتقاد عميق، تلتقط كل طبقة فيها سمات أعلى تجريدًا: بكسلات ← حواف ← أجزاء ← أشكال كاملة.

هذا هو المسار الاحتمالي في تعلُّم التمثيلات: عرِّف نموذجًا توليديًّا للبيانات ودرّبه، ثم اقرأ المتغيّرات الكامنة بوصفها تمثيلك. الميزة الكبرى لهذا المسار أن النموذج يتعلّم بنية البيانات بالكامل، لا مجرد إسقاط مفيد لمهمة واحدة.

في حين تتعلّم النماذج الاحتمالية التمثيلات من خلال نمذجة التوزيعات، تسلك المرمّزات التلقائية طريقًا أكثر مباشرة: اضغط المُدخل عبر عنق زجاجة ضيّق ثم حاول إعادة بنائه. ما يتمكّن من المرور عبر هذا العنق هو التمثيل. تستعرض الورقة ثلاثة أنماط رئيسية، كلٌّ منها يستخدم حيلة مختلفة لمنع الحل التافه — أي أن تكتفي الشبكة بنسخ مُدخلاتها حرفيًّا:

المرمّز التلقائي المُتفرِّق يُضيف عقوبة تُجبر أغلب الوحدات الخفية على البقاء خاملة لأي مُدخل. تخيّل أنك تطلب وصف كل مستند في أرشيف ضخم بخمس كلمات مفتاحية فقط من أصل ألف كلمة متاحة — هذا القيد يدفع كل وحدة لتمثيل مفهوم واضح ومحدَّد قابل لإعادة الاستخدام.

المرمّز التلقائي المُزيل للضجيج يُفسد المُدخل بضجيج عشوائي ثم يُطالب الشبكة باستعادة النسخة النظيفة الأصلية. هذا الأسلوب يُجبر التمثيل على التقاط الانتظامات الإحصائية القوية في البيانات — فالشبكة لا بد أن تتعلّم كيف ينبغي أن تبدو البيانات فعلاً، لا مجرد حفظ شكل مثال مُشوَّش وحيد.

المرمّز التلقائي الانكماشي يُضيف عقوبة على مصفوفة جاكوبيان المُرمِّز — فيُعاقب أي تمثيل يكون شديد الحساسية لتغيّرات صغيرة في المُدخل. والنتيجة هي تجسيد مباشر لقرينة النعومة: المُدخلات المتشابهة ينبغي أن تُنتج تمثيلات متقاربة.

أعمق ما تطرحه الورقة هو ربط تعلُّم التمثيلات بالهندسة. البيانات الواقعية لا تملأ الفضاء المحيط بها — فصور الوجوه لا تشغل كل تركيبات البكسلات الممكنة. ما يحدث فعلاً هو أن البيانات تتركّز قرب أسطح رقيقة منحنية تُسمى متشعِّبات. صورة وجه بأبعاد 128×128 تعيش نظريًّا في فضاء من 49,152 بُعدًا، لكن متشعِّب الوجوه الفعلي قد لا يتجاوز نحو 50 بُعدًا جوهريًّا فقط — تُمثّل الوضعية والتعبير والإضاءة والهُوية وما شابه.

إذن ما معنى تعلُّم تمثيل جيد في هذا السياق؟ يعني تعلُّم «تسطيح» ذلك المتشعِّب المنحني وتحويله إلى نظام إحداثيات تكون فيه الأبعاد الجوهرية واضحة ومُفصَّلة. لهذا السبب تنجح كلٌّ من المرمّزات التلقائية وتحليل المكونات الرئيسية (PCA) — كلاهما يحاول إيجاد المتشعِّب. لكن الفرق الجوهري أن PCA لا يكتشف إلا متشعِّبات مسطّحة (مستويات فائقة)، أما المرمّزات التلقائية العميقة فتستطيع تعلُّم متشعِّبات منحنية.

فرضية المتشعِّب تُفسّر أيضًا لماذا يحتاج التعلُّم العميق عنونات أقل بكثير مما نتوقّع: البيانات لا تملأ فعلاً 49,152 بُعدًا، فلا نحتاج هذا الكمّ الهائل من العنونات. البيانات غير المُعنونة تكشف شكل المتشعِّب، والعنونات تصير طبقة رقيقة من الضبط المُوجَّه فوقه — وهذا بالضبط جوهر التعلُّم شبه المُوجَّه.

ليس كل تعلُّم تمثيلات يحتاج بالضرورة إلى شبكات عميقة. تستعرض الورقة طريقتين تأسيسيتين تحسبان التمثيلات مباشرةً دون حاجة لطبقات كثيرة:

تحليل المكونات الرئيسية (PCA) يبحث عن الإسقاط الخطي الذي يحفظ أكبر قدر من التباين — أي أفضل تقريب مسطّح لـمتشعِّب البيانات. هو سريع ومُغلق الصيغة وأمثل بين الطرق الخطية، لكنه عاجز عن التقاط البنية المنحنية.

الترميز المُتفرِّق يذهب خطوة أبعد: يُمثّل كل مُدخل بتركيبة خطية مُتفرِّقة من ذرات قاموس مُتعلَّم. بوجود قاموس D، تمثيل h للمُدخل x معناه: أوجِد أكثر h تفرُّقًا بحيث x ≈ Dh. قيد التفرُّق يعني عمليًّا أن كل مُدخل يستخدم ذرات قليلة فقط من القاموس، فينتج تفكيك قائم على الأجزاء وقابل للتفسير. والصلة مباشرة بقرينة التفرُّق: المفاهيم في الواقع لا تُنشِّط إلا عددًا قليلاً من العوامل في الوقت نفسه.

كلتا الطريقتين تتعلّمان التمثيلات بلا أي عنونات — أي عبر تعلُّم غير مُوجَّه. الورقة تضعهما كحالات خاصة ضمن الإطار الأوسع: PCA يلتقط قرينتي النعومة والمتشعِّب خطيًّا، والترميز المُتفرِّق يُضيف قرينة التفرُّق بشكل لاخطي.

تُقدّم الورقة حجة نظرية مقنعة لصالح العمق. صحيح أن شبكة ضحلة تستطيع نظريًّا تمثيل أي دالة بشرط أن تملك وحدات خفية كافية، لكن الشبكة العميقة تستطيع تمثيل الدالة ذاتها بكفاءة أُسّيّة أعلى بكثير. هذه الحجة مرتبطة بنظرية تعقيد الدارات: ثمة دوال تحتاج عددًا أُسّيًّا من البوابات في دارة ضحلة، لكنها تُحسَب بعدد كثير حدود من البوابات حين نسمح بالعمق.

لكن الحجة الأقوى والأكثر حدسية للعمق هي قرينة التدرُّج الهرمي: العالم من حولنا تركيبي بطبيعته. الأشياء مصنوعة من أجزاء، والأجزاء من حواف، والحواف من بكسلات. كل طبقة في الشبكة العميقة تلتقط مستوى واحدًا من هذا التدرُّج. فكاشف الوجوه لا يقفز من البكسلات إلى «وجه» مباشرة — بل يسير خطوةً خطوة: بكسلات ← حواف ← عين/أنف/فم ← وجه. العمق هنا يعكس البنية التركيبية للواقع ذاته.

ولهذا نجح التدريب المسبق الجشع طبقةً بطبقة نجاحًا ملحوظًا (كما رأينا في ورقة المرمّزات التلقائية العميقة): يمكن تدريب كل طبقة مسبقًا باستقلال لأن كل مستوى من التدرُّج الهرمي هو فعلاً مستقل إلى حدٍّ كبير عن المستويات الأخرى.

من أكثر أفكار الورقة استشرافًا للمستقبل تلك الصلة العميقة بين تعلُّم التمثيلات وتقدير كثافة البيانات. مرمّز تلقائي يُعيد بناء مُدخلاته بدقة عالية يكون قد تعلّم ضمنيًّا توزيع البيانات — فهو يعرف أي المُدخلات «حقيقية» (خطأ إعادة بناء منخفض) وأيها «غير واردة» (خطأ مرتفع). أما المرمّز التلقائي المُزيل للضجيج فيُقدّر صراحةً دالة النتيجة — أي تدرُّج لوغاريتم الكثافة — وهذا يربطه مباشرة بـنماذج التوليد القائمة على النتيجة التي لم تظهر إلا بعد عقد كامل.

هذا الرابط يُفسّر لماذا نرى البنى المعمارية نفسها تتكرّر في المجالين: بنى المُرمِّز-فاكّ الترميز والفضاءات الكامنة وأعناق الزجاجة موجودة في تعلُّم التمثيلات وفي النمذجة التوليدية على حدٍّ سواء. والمرمّز التلقائي المتغيّر (VAE)، الذي ظهر في العام نفسه الذي نُشرت فيه هذه المراجعة، جعل هذه الصلة صريحة تمامًا: فهو يتعلّم تمثيلات عبر المُرمِّز، ويُولّد بيانات جديدة عبر فاكّ الترميز، كل ذلك في إطار احتمالي واحد مُحكم.