التوجيه الديناميكي بين الكبسولات

الشبكات الالتفافية تكتشف السمات عبر مرشّحات مُتعلَّمة — حواف وأنسجة وأجزاء — وهذا يؤدي عملاً ممتازاً (كما رأينا مع LeNet). لكن هناك ثغرة جوهرية في الطريقة التي تتعامل بها هذه الشبكات مع ترتيب السمات المُكتشَفة:

• التجميع الأقصى يُضيّع الموقع. حين تكتشف الشبكة «عيناً» و«فماً»، لا يحتفظ التجميع الأقصى إلا بأنهما وُجدا في مكانٍ ما ضمن المنطقة. هل العين فوق الفم أم تحته؟ الشبكة لا تعرف — كل ما يعنيها أن التنشيطين مرتفعان.

• تغيُّرات زاوية النظر تكلّف ثمناً أُسّياً. الشبكة تتعامل مع الإزاحة تلقائياً بفضل بنية الالتفاف، لكن الدوران والتحجيم والمنظور ثلاثي الأبعاد قصة مختلفة. التعامل معها يتطلب إما تكرار المرشّحات بعشرات الزوايا (نموّ أُسّي)، أو رؤية كل زاوية نظر ممكنة أثناء التدريب (بيانات أُسّية).

• لا فهم لعلاقة الجزء بالكلّ. الشبكة الالتفافية لا تملك آلية تسأل بها: «هل الأجزاء المُكتشَفة تتّفق على مكان الكائن الكامل وهيئته؟» بل تعامل كل سمة كصوت مستقل، لا كقطعة في أحجية هندسية.

الفكرة الجوهرية بسيطة رغم عمقها: بدل عصبونات مُفرَدة تُخرج رقماً واحداً، نستخدم مجموعات صغيرة من العصبونات (كبسولات) تُخرج متجهاً كاملاً.

في الشبكة الالتفافية التقليدية، العصبون يقول: «اكتشفتُ حافّة هنا بقوة 0.9.» هذا الرقم يُخبرك كم هي قوية الإشارة، لكنه لا يقول شيئاً عن هيئة السمة — أين هي بالضبط؟ كم حجمها؟ ما ميلانها؟

الكبسولة تقدّم معلومات أغنى بكثير:

• طول المتجه (بين 0 و1) يُعبّر عن احتمال وجود الكيان — وهذا يُشبه قيمة التنشيط القديمة.

• اتجاه المتجه يحمل تفاصيل الهيئة — أين يقع الكيان، ما حجمه، كيف يميل، كيف يتشوّه.

هذا تمثيل مختلف جذرياً. كبسولة مخصصة لمفهوم «عين» لا تكتفي بأن تنشط حين توجد عين — بل يُرمّز متجهها أيّ عين هذه، في أيّ موضع، بـأيّ زاوية. تخيّل الفرق بين مفتاح إنارة (تشغيل/إيقاف) وبوصلة (اتجاه ومقدار).

طول المتجه الخارج من الكبسولة يُعبّر عن احتمال، وبالتالي يجب أن يبقى بين 0 و1. لكننا في الوقت نفسه نريد الحفاظ على اتجاه المتجه لأنه يحمل معلومات الهيئة. دالة السحق تحلّ المعادلة: تضغط المتجهات القصيرة فتقترب من الصفر، وتكبح الطويلة فتقترب من الواحد، بينما يظلّ الاتجاه كما هو.

تخيّلها كصنبور ذكي: الماء القليل يمرّ كما هو، والتدفق العنيف يُكبح قبل الحدّ الأقصى بقليل، لكن اتجاه الجريان لا يتغيّر أبداً.

هنا تكمن المساهمة الأهم في الورقة. السؤال المحوري: كيف تقرّر كبسولة سُفلى (لنقل «عين») لأيّ كبسولة عُليا تُرسل خرجها — هل إلى «وجه» أم إلى «سيارة»؟

الجواب هو التوجيه بالاتفاق — عملية تكرارية تشبه لجنة خبراء تبحث عن إجماع:

1. التنبؤ. كل كبسولة سُفلى $i$ تُنتج متجه تنبؤ لكل كبسولة أب محتملة $j$، وذلك بضرب خرجها $\mathbf{u}_i$ في مصفوفة تحويل مُتعلَّمة $W_{ij}$: $\hat{\mathbf{u}}_{j|i} = W_{ij} \mathbf{u}_i$. كأن الكبسولة تقول: «لو كنتُ جزءاً من الكيان $j$، فهيئته ينبغي أن تكون هكذا.»

2. الترجيح والجمع. كل كبسولة أب تجمع التنبؤات الواردة إليها بعد ترجيحها بـمعاملات اقتران $c_{ij}$ (تبدأ متساوية)، ثم تُمرّر المجموع عبر دالة السحق فتحصل على خرجها $\mathbf{v}_j$.

3. قياس الاتفاق. إذا كان تنبؤ $\hat{\mathbf{u}}_{j|i}$ قريباً من خرج الأب $\mathbf{v}_j$ (ضرب نقطي عالٍ)، يرتفع معامل الاقتران $c_{ij}$ — أي أن الجزء «يتّفق» مع هذا الكلّ فيُرسل إليه إشارة أقوى.

4. التكرار لعدة جولات (عادةً 3). الأجزاء المتّفقة مع كلٍّ معيّن تُعزّز بعضها، والأجزاء المختلفة تُوجَّه إلى كبسولة أخرى.

تخيّل أن كبسولة العين تقول «الوجه هنا بهذه الزاوية»، وكبسولة الأنف تؤكّد الكلام نفسه — حينها تنشط كبسولة الوجه بقوة لأن الأجزاء متّفقة.

تعمل الخوارزمية بين كل زوج متجاور من طبقات الكبسولات. الخطوات كالتالي:

• التهيئة: نبدأ بتصفير جميع قيم التوجيه $b_{ij} = 0$، فتُرسل كل كبسولة سُفلى وزناً متساوياً لجميع الآباء المحتملين.
• لعدد $r$ من الجولات (عادةً 3):
• حساب معاملات الاقتران: $\mathbf{c}_i = \text{softmax}(\mathbf{b}_i)$
• حساب المدخل المُرجَّح لكل أب: $\mathbf{s}_j = \sum_i c_{ij} \hat{\mathbf{u}}_{j|i}$
• تطبيق دالة السحق: $\mathbf{v}_j = \text{squash}(\mathbf{s}_j)$
• تحديث قيم التوجيه: $b_{ij} \leftarrow b_{ij} + \hat{\mathbf{u}}_{j|i} \cdot \mathbf{v}_j$

الضرب النقطي $\hat{\mathbf{u}}_{j|i} \cdot \mathbf{v}_j$ هو مقياس الاتفاق — يُخبرنا كم كان تنبؤ الكبسولة $i$ للأب $j$ قريباً مما حسبه $j$ فعلاً. اتفاق عالٍ يعني اقتراناً أقوى، واتفاق منخفض يعني توجيهاً إلى مكان آخر.

تعرض الورقة بنية مباشرة من ثلاث طبقات لتمييز أرقام MNIST:

الطبقة الأولى — Conv1: طبقة التفافية تقليدية تضمّ 256 نواة بحجم 9×9 مع تفعيل ReLU. مهمّتها تحويل قيم البكسلات إلى كواشف سمات محلية — لا شيء خاص بالكبسولات حتى هذه النقطة.

الطبقة الثانية — الكبسولات الأولية (PrimaryCapsules): طبقة كبسولات التفافية فيها 32 قناة، كل قناة تُنتج كبسولات من 8 أبعاد، بأنوية 9×9 وخطوة 2. المحصّلة: 32 × 6 × 6 = 1,152 كبسولة، كلٌّ منها متجه ثماني الأبعاد يُمثّل كياناً بسيطاً كحافّة موجَّهة أو شكل أوّلي. هنا تحلّ دالة السحق محلّ ReLU.

الطبقة الثالثة — كبسولات الأرقام (DigitCaps): 10 كبسولات (واحدة لكل صنف)، كلٌّ منها بـ16 بُعداً. كل كبسولة رقم تستقبل مدخلات من الكبسولات الأولية الـ1,152 جميعها عبر مصفوفات تحويل مُتعلَّمة، والتوجيه الديناميكي يجري بين هاتين الطبقتين.

طول متجه كل كبسولة رقم يُعطي مباشرةً احتمال التصنيف. بـ8.2 مليون معامل فقط (مقابل 35.4 مليون في شبكة التفافية مُقارنة)، تحقّق CapsNet خطأ اختبار 0.25% على MNIST.

كل كبسولة في DigitCaps تقرّر بشكل مستقل ما إذا كان صنف رقمي معيّن موجوداً، ولذلك تستخدم الورقة خسارة هامش منفصلة لكل كبسولة. هذا الاستقلال ضروري كي تستطيع الشبكة اكتشاف أرقام متعددة في آنٍ واحد (كما في مهمة الأرقام المتداخلة).

الفكرة بسيطة: إذا كان الرقم $k$ موجوداً ($T_k = 1$)، نريد طول كبسولته $\|\mathbf{v}_k\|$ أن يصل إلى $m^+ = 0.9$ على الأقل. وإذا كان غائباً ($T_k = 0$)، نريد أن ينخفض الطول إلى $m^- = 0.1$ أو أقل. الخسارة تُعاقب أيّ انتهاك لهذين الحدّين.

معامل التخفيف $\lambda = 0.5$ على حدّ الأصناف الغائبة يحمي من مشكلة عملية: بدونه قد تتعلّم الشبكة في بداية التدريب أن تُقلّص جميع المتجهات إلى الصفر بدل أن تتعلّم تمييزاً حقيقياً.

كيف نتأكّد أن متجهات DigitCaps تحمل فعلاً معلومات هيئة حقيقية وليست مجرد إشارة تمييزية؟ الورقة تُضيف فاكّ ترميز لإعادة البناء: ثلاث طبقات كاملة الاتصال (512 ← 1024 ← 784) تُعيد بناء صورة الدخل انطلاقاً من متجه الكبسولة للرقم الصحيح.

أثناء التدريب، تُصفَّر جميع المتجهات ما عدا متجه الرقم الصحيح، ثم يحاول فاكّ الترميز إعادة بناء الصورة الأصلية 28×28 من 16 بُعداً فقط. خسارة إعادة البناء (متوسط مربع الخطأ، مُقيَّسة بـ0.0005) تُضاف إلى خسارة الهامش.

هذه الإضافة تعمل بوصفها منظِّماً فعّالاً: تُجبر الكبسولة على ترميز تفاصيل بصرية دقيقة عن هذا الرقم تحديداً — سُمكه وميله وعرضه — لا مجرد «إنه 7». والدليل على نجاحها أنك حين تُغيّر بُعداً واحداً في متجه DigitCaps وتمرّره عبر فاكّ الترميز، ترى كل بُعد يتحكّم في خاصية بصرية واضحة: سُمك الخط، العرض، الدوران، تشوّهات موضعية.

أبرز نتيجة في الورقة تظهر على مجموعة MultiMNIST: رقمان من صنفين مختلفين مُركَّبان فوق بعضهما في الصورة نفسها، بتداخل يصل إلى نحو 80% بين المربعات المحيطة.

الشبكة الالتفافية التقليدية تتعثّر هنا لأن التجميع الأقصى يخلط سمات الرقمين في حساء لا يمكن فكّه. في المقابل، تستخدم CapsNet التوجيه بالاتفاق لفصل الرقمين دون أيّ إشراف على مستوى البكسلات — كل كبسولة رقم «تستحوذ» على الأجزاء المتّفقة مع هيئتها المُتنبَّأة، والكبسولة الأخرى تأخذ الباقي.

فاكّ ترميز إعادة البناء يُثبت نجاح الفكرة: حين تُعيد بناء كل رقم من متجه كبسولته على حدة، تحصل على صورتين نظيفتين منفصلتين — رغم أن الرقمين كانا متداخلين فيزيائياً في المدخل. تحقّق CapsNet خطأ 5.2% على MultiMNIST بـ11.36 مليون معامل فقط، مُضاهيةً نموذج انتباه تتابعياً اختُبر على نسخة أسهل بكثير من المهمة.

الفارق الفلسفي الجوهري بين الشبكات الالتفافية والكبسولات يتعلّق بكيفية التعامل مع تغيُّرات زاوية النظر:

الشبكات الالتفافية تسعى إلى ثبات التغيُّر: التجميع الأقصى يجعل الخرج ثابتاً بغضّ النظر عن موضع السمة. الرقم «7» ينشّط العصبون نفسه سواء ظهر في الأعلى أو الأسفل. لكن الثمن فقدان معلومة أين يقع — وهي ضرورية لفهم الترتيب المكاني.

الكبسولات تسعى إلى تساوي التغيُّر: حين يتغيّر المدخل (دوران، تحجيم، إزاحة)، يتغيّر متجه خرج الكبسولة بشكل مُنتظم ومتوقّع. الكبسولة تتتبّع كيف تغيّرت هيئة الكيان بدل أن تتجاهل التغيير.

هذا يمنح الكبسولات قدرة على التعميم لزوايا نظر لم ترها من قبل. في تجربة لافتة: دُرِّبت CapsNet على أرقام MNIST مُزاحة فقط ثم اختُبرت على أرقام مُحوَّلة أفينياً (affNIST)، فحقّقت دقة 79% مقابل 66% لشبكة التفافية بعدد معاملات مشابه — دون أن ترى أيّ دوران أو قصّ أثناء التدريب.