إطار موحَّد لتفسير تنبؤات النماذج

التعلُّم العميق يواجه أزمة ثقة حقيقية. شبكة عصبية عميقة تستطيع أن تتنبأ بإصابة مريض بالسرطان بدقة 95%، لكن حين يسأل الطبيب لماذا هذا التنبؤ بالذات؟ — أيّ ملامح في الصورة أثّرت في القرار؟ — لا يملك النموذج إجابة. وبنك يستخدم التعزيز التدريجي يستطيع رفض قرض في لحظة، لكنّ الجهة الرقابية تطالب بمعرفة ما العوامل التي قادت إلى هذا الرفض.

بحلول 2017 كان هناك عدة أساليب لتحقيق قابلية التفسير — LIME وDeepLIFT والانتشار الطبقي للأهمية وأخذ عينات شابلي — لكن كل أسلوب طُوِّر في جزيرة منعزلة. الأسلوب الأول كان يروي قصة عن التنبؤ والثاني يروي قصة مختلفة تماماً، ولم تكن هناك طريقة للحكم أيّها أقرب إلى الصواب. والأخطر أنّ بعض هذه الأساليب كان يخالف شروط العدالة الأساسية: سمة لم تُسهم بشيء قد تحصل على نصيب من الفضل، أو سمتان متساويتا الأثر قد تحصلان على قيم إسناد مختلفة.

في عام 1953 طرح عالم الرياضيات لويد شابلي سؤالاً محورياً: لو تعاون عدة لاعبين وفازوا في لعبة تعاونية، كيف نوزّع الجائزة بينهم بعدل؟ جوابه — الذي نعرفه اليوم بـقيم شابلي — يقوم على فكرة بسيطة: ادرس كل ترتيب يمكن أن ينضمّ به اللاعبون، واحسب الإسهام الهامشي لكل لاعب في كل ترتيب، ثم خذ المتوسط على جميع الترتيبات.

SHAP ينقل هذه الفكرة إلى عالم التعلُّم الآلي. «اللعبة» هنا هي تنبؤ واحد. «اللاعبون» هم سمات الإدخال. «الجائزة» هي الفرق بين تنبؤ النموذج لهذا الإدخال تحديداً ومتوسط تنبؤاته على جميع البيانات. وقيمة شابلي لكل سمة تجيبك عن سؤال واضح: في المتوسط، عبر كل المجموعات الجزئية الممكنة من السمات الأخرى، كم غيَّر وجود هذه السمة التنبؤَ؟

قبل أن ندخل في الرياضيات، لنبنِ صورة ذهنية واضحة. تخيّل قاعة محكمة: التنبؤ هو الحُكم، وكل سمة شاهدٌ يُدلي بشهادته. لتقدير أثر شاهد واحد، تتخيّل كل مجموعة ممكنة من الشهود الذين ربما شهدوا قبله، وتسأل: كيف تغيّر الحُكم حين أضاف هذا الشاهد شهادته؟ ثم تأخذ المتوسط على جميع هذه الترتيبات. هذا المتوسط هو قيمة شابلي.

التحدي الحسابي واضح: مع $M$ سمة لدينا $2^M$ مجموعة جزئية ممكنة. لو كان عندنا 20 سمة فقط، يعني ذلك أكثر من مليون تحالف. ولو كان عندنا ألف سمة — وهو أمر عادي في الشبكات العصبية — يصبح الحساب الدقيق مستحيلاً عملياً. لهذا السبب يطرح SHAP تقريبات ذكية تتجاوز هذه العقبة.

النتيجة النظرية المركزية في هذا البحث هي مبرهنة وحدانية. يضع SHAP ثلاث خصائص يجب أن يستوفيها أي تفسير يحترم نفسه، ثم يُبرهن أنّ قيم شابلي وحدها تستوفيها معاً في آنٍ واحد:

• الدقة المحلية — مجموع إسنادات السمات يجب أن يساوي بالضبط تنبؤ النموذج لهذا الإدخال مطروحاً منه متوسط التنبؤات. لا يضيع أي فضل ولا يُخترع فضل من العدم.

• الغياب — إذا كانت سمة ما غائبة عن الإدخال (قيمتها المبسَّطة صفر)، فيجب أن يكون إسنادها صفراً. لا معنى لمكافأة لاعب لم يدخل الملعب أصلاً.

• الاتساق — إذا عدَّلنا النموذج بحيث زاد الإسهام الهامشي لسمة ما (أو بقي كما هو) في كل سياق ممكن، فلا يجوز أن ينخفض إسنادها. أن تُعاقَب سمة على زيادة إسهامها أمر غير منطقي بالمرّة.

الإسهام الأول لـ SHAP هو ملاحظة أنّ ستة أساليب تفسير تبدو مختلفة ظاهرياً — LIME وDeepLIFT والانتشار الطبقي للأهمية وقيم الانحدار الشابلية وقيم أخذ العينات الشابلية والتأثير الكمّي للإدخال — كلها تنتمي في الواقع إلى فئة واحدة هي الإسناد الجمعي للسمات. كل أسلوب منها يشرح التنبؤ باستخدام نموذج خطّي من متغيرات ثنائية:

$g(z') = \phi_0 + \sum_{i=1}^{M} \phi_i z'_i$

حيث $z' \in \{0,1\}^M$ تدلّ على السمات «الحاضرة»، و$\phi_i$ هو الإسناد المُعطى للسمة $i$. هذا هو ما نسمّيه نموذج التفسير — بمثابة نموذج بديل بسيط يُقرِّب سلوك النموذج الأصلي محلياً. الفارق الوحيد بين هذه الأساليب هو طريقة اختيار قيم $\phi_i$.

فكرة LIME الأساسية هي تفسير التنبؤ بملاءمة نموذج خطّي موزون على إدخالات مُشوَّشة. لكن المشكلة أنّ اختيار الأوزان ودالة الخسارة في LIME اختيار تجريبي — لا يستند إلى مبرّر نظري. الاكتشاف الجوهري في SHAP هو أنّ اختياراً بعينه لدالة الخسارة والنواة والتنظيم يُعطيك قيم شابلي بالضبط.

فكِّر في الأمر كمعايرة ميزان: LIME يستخدم أثقالاً تقريبية فيحصل على قراءات تقريبية. KernelSHAP يستخدم أثقالاً محسوبة رياضياً — نواة شابلي — فيحصل على الإجابة العادلة المُبرهَنة. نواة شابلي تعطي كل تحالف $S$ وزناً محدداً:

$\pi(|S|) = \frac{(M - 1)}{\binom{M}{|S|} \cdot |S| \cdot (M - |S|)}$

هذه النواة تمنح أوزاناً كبيرة جداً للتحالفات التي فيها تقريباً كل السمات أو لا سمة تقريباً. هذه هي المقارنات الأغنى بالمعلومات — لأنها تعزل أثر سمة واحدة بأوضح صورة.

KernelSHAP يعمل مع أي نموذج، لكنه يحتاج إلى تقييمات كثيرة للنموذج. في الشبكات العصبية العميقة ذات الآلاف من المُعاملات، هذا يعني بطئاً شديداً. DeepSHAP يحلّ المشكلة بحيلة مستعارة من DeepLIFT: بدلاً من أخذ عيّنات من التحالفات، يدفع الإسناد إلى الخلف عبر طبقات الشبكة واحدة تلو الأخرى، مستخدماً نسخة معدَّلة من قاعدة السلسلة في الانتشار العكسي.

تخيّل ماءً يسري بالاتجاه المعاكس في شبكة أنابيب: عند كل مفترق ينقسم التدفق بنسبة إسهام كل أنبوب وارد في التدفق الخارج. DeepSHAP يفعل الشيء نفسه مع فضل التنبؤ، لكنه يستخدم قواعد تقسيم مُعايَرة وفق أسلوب شابلي، بحيث تستوفي الإسنادات النهائية الخصائص الثلاث المطلوبة بشكل تقريبي.

تحت افتراض أنّ السمات مستقلة وأنّ الشبكة شبه خطّية، يستعيد DeepSHAP قيم شابلي الدقيقة. وعملياً، حتى حين لا تتحقق هذه الافتراضات بالكامل، يبقى التقريب جيداً بدرجة ملفتة.

يوفّر SHAP نوعين رئيسيين من الرسوم البيانية. رسم القوة يشرح تنبؤاً واحداً: السمات التي ترفع التنبؤ تظهر بالأحمر في جهة، والسمات التي تخفضه تظهر بالأزرق في الجهة المقابلة، وكلها مجتمعة تمدّ الشريط أو تضغطه من القيمة المرجعية وصولاً إلى التنبؤ النهائي.

رسم الملخص (ما يُعرف بالسرب النقطي) يعطيك صورة شاملة عن النموذج ككل: كل نقطة تمثّل تنبؤاً واحداً، والسمات مرتّبة حسب أهميتها، واللون يدلّ على ما إذا كانت قيمة السمة مرتفعة أم منخفضة. تظهر أنماط واضحة: مثلاً «الدخل المرتفع يدفع تنبؤ القرض للأعلى دائماً» أو «العمر المرتفع له تأثير مختلط يعتمد على سمات أخرى».

إرث SHAP لا يقتصر على أنه أسلوب تفسير أفضل من سابقيه — بل أرسى مبدأً جوهرياً: أنّ قابلية التفسير يجب أن تخضع لمعايير رياضية صارمة، تماماً مثل دقة التنبؤ نفسها. السؤال لم يعد «هل يبدو هذا التفسير مقبولاً؟» بل أصبح «هل يستوفي خصائص عدالة يمكن إثباتها رياضياً؟» هذا التحوّل — من الانطباعات إلى البديهيات — هو ما جعل تفسير النماذج جديراً بالثقة فعلاً.