تعلُّم التمثيلات عبر الترميز التنبُّئي التبايُني

قبل ظهور CPC، كان النهج السائد في التعلُّم بدون إشراف هو النمذجة التوليدية: درِّب نموذجاً على إعادة بناء مدخلاته (مثل المُرمِّز الذاتي العميق) أو على التنبؤ بكل بكسل أو عيّنة صوتية. المشكلة أن الجزء الأكبر من المعلومات في الإشارات الخام — سطوع كل بكسل بالتحديد، الشكل الموجي الدقيق للصوت — ليس سوى ضجيج عالي التردد لا يحمل أي دلالة عن المعنى الحقيقي.

نموذج يحاول إعادة بناء صورة وجه بدقة سيُنفق معظم سعته على نمذجة ملمس البشرة والإضاءة، لا على تعلُّم أن ما أمامه هو وجه أصلاً. ونموذج الكلام الذي يُعيد بناء الموجات الصوتية سيُنفق سعته على صدى الغرفة بدلاً من التعرُّف على الأصوات اللغوية.

ما نريده فعلاً هو البنية عالية المستوى البطيئة التغيُّر: اللحن الذي يمتد عبر مقطع صوتي، هوية الكائن عبر رُقَع الصورة، الموضوع عبر فقرة نصية. هذه البنية هي ما يجعل المهام اللاحقة — من تصنيف واسترجاع واستدلال — ممكنة.

الفكرة المحورية في CPC بسيطة: غيِّر ماذا تتنبأ به وكيف تُقيِّم التنبؤ:

ماذا تتنبأ: لا تتنبأ ببكسلات خام أو أشكال موجية. بدلاً من ذلك، تنبَّأ بـتمثيل مضغوط للمستقبل — تضمين يلتقط المحتوى عالي المستوى ويتخلص من الضجيج.

كيف تُقيِّم: لا تُقارن تنبؤك بالحقيقة بكسلاً ببكسل. بدلاً من ذلك، حوِّلها إلى مسألة تصنيف: هل تستطيع اختيار تضمين المستقبل الحقيقي من بين مجموعة عينات سلبية عشوائية؟

هذا المزيج فعّال جداً. النموذج مُجبَر على التقاط البنية المشتركة البطيئة التغيُّر بين الماضي والمستقبل (أي تعظيم المعلومات المتبادلة) مع تجاهل الضجيج الذي لا يمكن التنبؤ به. ولأن التنبؤ يحدث في فضاء التضمين، فهو سريع ويعمل مع أي نوع من البيانات — صوت وصور ونصوص وتعلُّم معزَّز.

يتكوّن CPC من ثلاث قطع تعمل معاً — تخيّلها كميكروفون وراوٍ ومحقِّق:

1. المُرمِّز $g_{\text{enc}}$ — الميكروفون. يضغط كل ملاحظة خام $x_t$ (إطار صوتي، رُقعة صورة، كلمة) إلى تضمين كامن $z_t = g_{\text{enc}}(x_t)$. يُزيل هذا الضغط الضجيج عالي التردد ويحتفظ بالمحتوى المفيد فقط. في الكلام يكون المُرمِّز شبكة التفافية بخطوات متدرجة تعمل مباشرة على صوت خام بتردد 16 كيلوهرتز؛ وفي الصور يكون ResNet؛ وفي النصوص يكون جدول بحث تضمينات كلمية.

2. النموذج ذاتي الانحدار $g_{\text{ar}}$ — الراوي. يقرأ تسلسل التضمينات $z_1, z_2, \ldots, z_t$ حتى الخطوة الزمنية الحالية ويُنتج متجه سياق واحد $c_t = g_{\text{ar}}(z_{\leq t})$ يُلخِّص كل ما شوهد حتى الآن. قد يكون هذا النموذج GRU أو LSTM أو شبكة التفافية مُقنَّعة — أي بنية تلتقط الترتيب الزمني. متجه السياق هو «القصة الجارية» للنموذج عن كل ما حدث.

3. المُتنبِّئات الخطية $W_k$ — المحقِّقون. لكل خطوة مستقبلية $k$ (واحد، اثنان، ثلاثة، …) تحويل خطي منفصل $\hat{z}_{t+k} = W_k c_t$ يتنبأ بالشكل المتوقع لتضمين المستقبل. كل مُتنبِّئ يتخصص في «مسافة نظر أمامي» مختلفة.

السؤال الجوهري: كيف تُدرِّب هذا النظام بدون أي تسميات بشرية؟ الجواب هو دالة خسارة مصمَّمة بذكاء تُسمى InfoNCE (التقدير التبايُني للضجيج المعلوماتي).

الإعداد يشبه طابور تعرُّف في مركز شرطة: عند كل خطوة زمنية $t$ ولكل خطوة مستقبلية $k$، اجمع مجموعة من $N$ تضمين. واحد فقط منها هو المستقبل الحقيقي $z_{t+k}$ (العيّنة الإيجابية)؛ والبقية $N-1$ تضمينات عشوائية مسحوبة من البيانات (العيّنات السلبية). على النموذج أن يُحدِّد أيها الحقيقي مستخدماً فقط متجه السياق $c_t$.

دالة التقييم هي ضرب نقطي بسيط يقيس مدى التوافق: $f_k(x_{t+k}, c_t) = \exp(z_{t+k}^\top W_k c_t)$. كلما ارتفعت الدرجة دلّ ذلك على أن «هذا المرشح يبدو كالمستقبل الحقيقي بالنظر إلى سياقي».

يمكنك قراءة هذه الصيغة على أنها مُصنِّف سوفت ماكس على المرشحين: الخسارة هي الإنتروبيا التقاطعية حيث «الصنف الصحيح» هو المستقبل الحقيقي. إذا ميّز النموذج العيّنة الإيجابية من السلبيات بشكل مثالي، تصل الخسارة إلى حدّها الأدنى $-\log(1) = 0$. أما إذا خمّن عشوائياً فالخسارة تبلغ $\log(N)$.

الجزء الأجمل هو الضمان النظري: تقليل InfoNCE يُكافئ تعظيم حدّ أدنى لـالمعلومات المتبادلة بين $c_t$ و$x_{t+k}$: $I(x_{t+k}; c_t) \geq \log(N) - \mathcal{L}_N$. كلما أضفت عيّنات سلبية أكثر ضاق الحدّ — وأُجبر النموذج على التقاط مزيد من المعلومات المشتركة.

المعلومات المتبادلة $I(x_{t+k}; c_t)$ تقيس إلى أيّ حدّ يُقلِّل السياق $c_t$ من حالة عدم اليقين حول المستقبل $x_{t+k}$. تعظيمها يُجبر النموذج على ترميز المعلومات المشتركة تحديداً بين الماضي والمستقبل — أي الأنماط البنيوية البطيئة — وتجاهل المعلومات الخاصة بكل خطوة زمنية — أي الضجيج.

فكِّر فيها كـمصفاة للأهمية: اللحن مشترك بين المقطع الأول والثاني من المقطوعة (معلومات متبادلة عالية)، لكن ضجيج التسجيل في كل لحظة مستقل تماماً (معلومات متبادلة منخفضة). النموذج يتعلّم تمثيل اللحن والتخلص من الضجيج — ليس لأننا طلبنا منه ذلك، بل لأن هذا هو السبيل الوحيد لحلّ المهمة التبايُنية.

لهذا يلتقط CPC سمات متعددة الأغراض: البنية المشتركة عبر الزمن هي بالضبط ما تحتاجه المهام اللاحقة — هوية الصوت اللغوي في الكلام، هوية الكائن في الصور، تماسك الموضوع في النصوص.

هنا يأتي خيار تصميمي حاسم: CPC لا يُنمذج التوزيع الشرطي الكامل $p(x_{t+k}|c_t)$ ولا التوزيع الهامشي $p(x_{t+k})$. إنما يُنمذج نسبتهما فقط:

$f_k(x_{t+k}, c_t) \propto \frac{p(x_{t+k}|c_t)}{p(x_{t+k})}$

هذه هي نسبة الكثافة: تُخبرك بمقدار زيادة احتمال ملاحظة مستقبلية عندما تعرف السياق مقارنةً باحتمالها العام بدون سياق. يتعلّم CPC هذه النسبة مباشرة عبر الخسارة التبايُنية، فيتجاوز الحاجة لأي نموذج توليدي.

لماذا هذا الأسلوب ذكي؟ لأن نمذجة $p(x)$ في فضاءات عالية الأبعاد (بكسلات، صوت) صعبة للغاية وتُهدر السعة على الضجيج. لكن النسبة $p(x|c)/p(x)$ تلتقط فقط الترابط بين السياق والمستقبل — أي المعلومات المتبادلة بالذات. إنها الطريق المختصر من البيانات الخام إلى الفهم عالي المستوى.

أقوى ما تدّعيه الورقة هو الشمولية: الهدف التنبُّئي التبايُني نفسه يعمل عبر أنواع بيانات مختلفة جذرياً. المُرمِّز يتغير من مجال لآخر، لكن دالة الخسارة ونمط البنية يبقيان كما هما:

الصوت (LibriSpeech): المُرمِّز شبكة التفافية من 5 طبقات بخطوات متدرجة تعمل على موجات صوتية خام بتردد 16 كيلوهرتز، وتُنتج متجه سمات كل 10 مللي ثانية. النموذج ذاتي الانحدار هو GRU. رغم أن النموذج لم يرَ تسميات صوتية قط، تحقق التمثيلات دقة 64.6% في تصنيف الفونيمات بمسبار خطي بسيط — وهي نتيجة تُضاهي الأساليب الخاضعة للإشراف.

الرؤية (ImageNet): تُقسَم الصور إلى شبكة 7×7 من الرُّقَع المتداخلة. كل رُقعة يُرمِّزها ResNet-v2-101. شبكة التفافية مُقنَّعة (مثل PixelCNN) تعمل كنموذج ذاتي الانحدار وتتنبأ بالرُّقَع من الأعلى إلى الأسفل عموداً بعمود. يحقق CPC دقة 48.7% في top-1 بمُصنِّف خطي على التمثيلات المجمَّدة.

النصوص (BookCorpus): الجملة هي الوحدة الأساسية. شبكة التفافية أحادية البعد تُرمِّز الكلمات إلى تضمين جملة؛ وGRU يُلخِّص الجمل السابقة في سياق. ثم يتنبأ النموذج بتضمينات الجمل المستقبلية.

التعلُّم المعزَّز (DeepMind Lab): يُضاف CPC كخسارة مساعدة لوكيل A3C في مهام تنقل ثلاثية الأبعاد. يُحسِّن كفاءة استخدام العيّنات ويُسرِّع التعلم، خاصة في البيئات المعقدة بصرياً.

المعيار الذهبي لتقييم التمثيلات غير الخاضعة للإشراف هو المسبار الخطي: جمِّد المُرمِّز المُتعلَّم ثم درِّب فقط مُصنِّفاً خطياً فوقه. إذا استطاعت طبقة خطية بسيطة التصنيف بجودة عالية، فهذا يعني أن التمثيلات نظّمت البيانات بالفعل في عناقيد قابلة للفصل الخطي — ما يُثبت أن المُرمِّز تعلّم بنية ذات معنى وليس مجرد أنماط محفوظة.

في تصنيف الفونيمات على LibriSpeech، تحقق تمثيلات CPC دقة 64.6% — وهي نتيجة تنافس الأساليب الخاضعة للإشراف الكامل وتتفوق بفارق كبير على خطوط الأساس العشوائية أو MFCC. على ImageNet بمُصنِّف خطي على سمات ResNet-v2 المجمَّدة، يصل CPC إلى دقة 48.7% في top-1. وفي مجال النصوص، تُظهر تمثيلات مستوى الجملة أداءً قوياً في تصنيف المشاعر وكشف نوع السؤال.

لعلّ الأكثر دلالة هو أن تمثيلات CPC تُرمِّز مستويات متعددة من البنية في آنٍ واحد. في مجال الكلام مثلاً، التمثيل ذاته الذي يتنبأ بالصوت المستقبلي يلتقط أيضاً هوية الفونيم وهوية المتحدث — وهما مهمتان متعامدتان — في فضاءات فرعية قابلة للفصل الخطي. النموذج لم يُدرَّب على أيٍّ من هاتين المهمتين، ومع ذلك كلتاهما مقروءة من التضمين نفسه.

يمثّل CPC الجسر بين حدس Word2Vec — «تنبَّأ بجيرانك لتتعلّم المعنى» — وبين النموذج الحديث في التعلُّم ذاتي الإشراف حيث مُرمِّز واحد مُدرَّب مسبقاً بدون تسميات يُشغِّل كل شيء، من التعرُّف على الكلام إلى البحث في الصور إلى الفهم متعدد الوسائط.