أساسيات تعلم الآلة2016متوسط10 دقيقة قراءة
«لماذا أثق بك؟»: تفسير تنبؤات أي مُصنِّف
"Why Should I Trust You?": Explaining the Predictions of Any Classifier
Ribeiro, M. T. · Singh, S. · Guestrin, C. — KDD
المشكلة
نماذج التعلّم الآلي — كالشبكات العصبية العميقة والغابات العشوائية وتعزيز التدرّج — تحقّق دقة عالية لكنها تعمل كصناديق سوداء. لا يستطيع الممارس أن يعرف ما إذا كان النموذج قد تعلّم أنماطاً حقيقية أم مجرد حِيَل من بيانات التدريب. بدون تفسيرات، يصبح نشر نموذج في الطب أو القانون أو المالية مخاطرة عمياء. النماذج القابلة للتفسير كأشجار القرار تضحّي بكثير من الدقة، والنماذج المعقدة تضحّي بالشفافية بالكامل.
الإسهام
LIME (تفسيرات محلية قابلة للفهم ومستقلة عن النموذج): تقنية تشرح تنبؤ أي مُصنِّف من خلال ملاءمة نموذج بسيط قابل للتفسير — عادةً نموذج خطي — في الجوار المحلي للتنبؤ. تُحدِث اضطراباً في المُدخل، وتستعلم النموذج الأسود على هذه الاضطرابات، وتُرجّحها بحسب القرب، ثم تتعلّم أيّ السمات أكثر تأثيراً في ذلك التنبؤ بالتحديد. SP-LIME يوسّع هذه الفكرة لاختيار مجموعة تمثيلية من التفسيرات تُعطي فهماً شاملاً للنموذج ككل.
الأثر
أرسى LIME نموذج التفسير المحلي اللاحق للتدريب. أصبح الأداة المرجعية للممارسين الذين يحتاجون تفسير تنبؤات فردية، وألهم مباشرةً ظهور SHAP وAnchors وGrad-CAM. إطار الورقة لمفهوم الثقة — التمييز بين الثقة بتنبؤ واحد والثقة بالنموذج ككل — غيّر طريقة تفكير مجتمع التعلّم الآلي في نشر النماذج بمسؤولية.
تخيّل قاضياً أحكامه صائبة دائماً، لكنه لا يُبرّر أيّاً منها. كيف تعرف إن كان يحكم بناءً على الأدلة فعلاً، أم أن النتيجة مجرد مصادفة؟
هنا يأتي دور LIME. فكّر فيه كمُحقّق يُعيد فتح القضية بعد صدور الحكم: يأخذ الملف الأصلي ويبدأ بإزالة قطعة أدلة في كل مرة — شهادة هنا، مستند هناك — ثم يراقب: هل تغيّر الحكم؟ إذا أدّى حذف دليل معيّن إلى انقلاب النتيجة، فهذا هو الدليل الذي كان القاضي يستند إليه فعلاً.
النتيجة؟ تقرير واضح يكشف منطق الحكم، حتى لو لم يكتبه القاضي نفسه.
المشكلة: الصناديق السوداء تتطلب ثقة عمياء
لنأخذ مثالاً عملياً: عميقة تُصنّف صور الأشعة السينية وتحقّق تبلغ 95% على . رقم مُبهر، لكنه لا يجيب عن السؤال الأهم: لماذا أصابت؟ قد يتبيّن أنها تعلّمت التمييز بناءً على العلامة المائية للمستشفى المطبوعة على الصورة — ارتباط زائف لا علاقة له بالمرض أصلاً. انقل هذا النموذج إلى مستشفى آخر وسينهار أداؤه فوراً.
الورقة تطرح تمييزاً جوهرياً بين مستويين من الثقة:
-
الثقة بتنبؤ واحد: هل أتصرّف بناءً على هذا المخرج بالذات؟ الطبيب يريد أن يعرف أيّ مناطق الأشعة أثّرت في التشخيص قبل أن يقرّر العلاج.
-
الثقة بالنموذج ككل: هل أنشر هذا النموذج في بيئة إنتاجية؟ الفريق يحتاج رؤية شاملة لما تعلّمه النموذج فعلاً، لا تفسيراً واحداً معزولاً.
بدون أدوات تعالج المستويين معاً، يبقى الممارس أمام خيار صعب: إما دقة عالية مع صندوق أسود مُبهم، أو شفافية مع نماذج بسيطة أضعف أداءً.
ما الذي يجعل التفسير جيداً؟
تطرح الورقة ثلاثة شروط يجب أن تتوفّر معاً في أيّ تفسير مفيد:
-
قابل للفهم: التفسير يجب أن يتحدّث بلغة يفهمها الإنسان — مثل "هذه الكلمة موجودة أو غائبة" أو "هذه المنطقة من الصورة ظاهرة أو مطموسة" — لا بقيم بكسلات خام أو أبعاد لا معنى مباشر لها.
-
أمين محلياً: أن يعكس التفسير سلوك النموذج الفعلي في جوار التنبؤ المحدَّد. لا أحد يتوقّع نموذجاً بسيطاً يحاكي شبكة معقدة في كل مكان، لكن في منطقة ضيّقة حول نقطة واحدة، المحاكاة الدقيقة ممكنة وكافية.
-
مستقل عن النموذج: التقنية نفسها تعمل مع أيّ مُصنّف — شبكات عصبية، ، — دون الحاجة لفتح النموذج من الداخل. كل ما يلزم هو القدرة على تمرير مُدخل والحصول على مُخرج.
خوارزمية LIME: اضطرِب، راقِب، فسِّر
آلية LIME تمرّ بأربع مراحل متتالية لتفسير أيّ تنبؤ:
الخطوة 1 — بناء تمثيل مبسَّط. الفكرة أن نصف المُدخل بطريقة يفهمها الإنسان. في حالة النصوص مثلاً، نمثّل المستند بمتجه ثنائي: كل عنصر يقول "هذه الكلمة موجودة" أو "محذوفة". في الصور، نقسّم الصورة إلى رقع متجاورة ونمثّلها بالطريقة نفسها. النموذج الأصلي قد يستخدم تضمينات معقدة داخلياً، لكن التفسير يعمل في هذا الفضاء المبسَّط.
الخطوة 2 — توليد . يُنتج LIME نسخاً كثيرة من المُدخل بتفعيل وتعطيلها عشوائياً. في النصوص يحذف كلمات بشكل عشوائي، وفي الصور يطمس رقعاً مختلفة.
الخطوة 3 — استعلام النموذج. كل نسخة مُعدَّلة تُمرَّر إلى النموذج الأصلي ليعطينا تنبؤه عليها. لا نحتاج فتح النموذج من الداخل — نتعامل معه كصندوق أسود: مُدخل ومُخرج فقط.
الخطوة 4 — ملاءمة نموذج محلي بسيط. الآن ندرّب نموذجاً خطياً على هذه الاضطرابات، مع ترجيح النسخ القريبة من المُدخل الأصلي بوزن أعلى (عبر نواة أُسِّية). معاملات هذا النموذج الخطي هي التفسير ذاته: معامل موجب يعني أن السمة تدعم التنبؤ، ومعامل سالب يعني أنها تعارضه.
الصياغة الرسمية: الموازنة بين الأمانة والبساطة
قبل الصيغة الرياضية، دعنا نفهم الهدف بوضوح. ما يبحث عنه LIME هو أبسط نموذج ممكن يستطيع محاكاة الصندوق الأسود بدقة في الجوار المحلي حول النقطة . المشكلة أن هناك هدفين يتنافسان:
-
الأمانة: نريد من أن يتّفق مع في النقاط القريبة. نقيس ذلك بـ تقارن مخرجاتهما.
-
البساطة: نريد من أن يستخدم أقلّ عدد ممكن من السمات حتى يستطيع الإنسان قراءة التفسير. نقيس ذلك بحدّ عقوبة على التعقيد .
التفسير إذن هو النموذج الذي يحقّق أفضل توازن بين هذين الهدفين المتضادّين.
تخيّل عدسة مكبّرة: LIME يُوجّهها نحو منطقة ضيّقة حول النقطة — ونواة القرب تتحكّم في مدى التكبير. داخل هذه المنطقة الصغيرة، يرسم خطاً مستقيماً يحاكي سلوك النموذج (تقليل )، ويحرص على إبقاء هذا الخط بسيطاً قدر الإمكان (تقليل ). في النهاية، ميل هذا الخط هو ما يخبرك أيّ السمات كانت مؤثّرة في القرار.
نواة القرب: ما معنى «قريب»؟
ليست كل الاضطرابات بالقيمة نفسها. المُدخل الذي يختلف اختلافاً طفيفاً عن الأصل يعطيك معلومات عن سلوك النموذج هنا بالذات، أما المُدخل المختلف جذرياً فيحكي عن منطقة أخرى تماماً. لذلك يستخدم LIME نواة أُسِّية تمنح كل اضطراب وزناً يتناسب عكسياً مع بُعده عن المُدخل الأصلي. المعامل يعمل كعجلة تحكّم في التكبير: قيمة صغيرة تركّز التفسير على جوار ضيّق جداً، وقيمة أكبر توسّع المنطقة لتشمل اضطرابات أبعد.
LIME للنصوص والصور والبيانات الجدولية
ما يميّز LIME هو أن الخوارزمية الأساسية واحدة، وكل ما يتغيّر من نوع بيانات لآخر هو طريقة تمثيل المُدخل وأسلوب توليد الاضطرابات:
النصوص: نمثّل المستند بمتجه ثنائي يحدّد أيّ الكلمات موجودة وأيّها محذوفة. التشويش يتمّ بحذف كلمات عشوائياً، والتفسير الناتج يكشف أيّ الكلمات تدفع التنبؤ نحو فئة معيّنة أو تبعده عنها.
الصور: تُقسَّم الصورة أولاً إلى رقع متجاورة من ألوان متشابهة (superpixels). التشويش يتمّ بطمس رقع مختلفة في كل مرة، والتفسير يُظهر أيّ مناطق الصورة ساهمت فعلاً في القرار.
البيانات الجدولية: تُشوَّش السمات بسحب قيم بديلة من توزيع . في حالة السمات المستمرة، تُسحب القيم من توزيع طبيعي مُلائَم. التفسير يبيّن أيّ السمات أثّرت في التنبؤ وفي أيّ اتجاه.
SP-LIME: من التفسيرات المحلية إلى الفهم الشامل
تفسير LIME الواحد يُضيء تنبؤاً واحداً فقط. لكن إذا أردت الوثوق بنموذج كامل أو اكتشاف نقاط ضعفه، فأنت بحاجة إلى مجموعة تمثيلية من التفسيرات. المشكلة أن الاختيار العشوائي قد يعطيك تفسيرات متشابهة تبرز السمات نفسها مراراً.
هنا يأتي SP-LIME. الفكرة بسيطة: اختر عدداً محدوداً من الحالات — لنقل حالة — بحيث تغطّي تفسيراتها مجتمعةً أوسع طيف ممكن من السمات المهمة. الاختيار يتمّ بخوارزمية جشعة تستثمر خاصية العوائد المتناقصة (submodularity): إضافة تفسير يكشف سمات جديدة أمر قيّم جداً، لكن إضافة تفسير يكرّر ما غطّيناه سابقاً لا يُضيف كثيراً.
النتيجة أشبه باختيار أفضل الصور لمعرض أعمال بدلاً من عرض كل لقطة في الكاميرا: ملخّص مركّز يغطّي سلوك النموذج دون تكرار.
LIME في شيفرة برمجية
مبسَّط لإظهار الفكرة — ليس التنفيذ الحقيقي.
import numpy as np
from sklearn.linear_model import Ridge
def lime_explain_text(text, predict_fn, n_samples=500, n_features=6):
"""اشرح تنبؤاً نصياً باستخدام LIME.
text: المستند الأصلي (قائمة كلمات)
predict_fn: النموذج الأسود، يأخذ قائمة نصوص ← احتمالات
"""
original_pred = predict_fn([' '.join(text)])[0]
# الخطوة 1: ولّد اضطرابات ثنائية (1 = الكلمة موجودة، 0 = محذوفة)
n_words = len(text)
samples = np.random.binomial(1, 0.5, size=(n_samples, n_words))
samples[0] = np.ones(n_words) # أبقِ النص الأصلي دائماً
# الخطوة 2: ابنِ نصوصاً مُضطربة بحذف الكلمات حيث sample == 0
perturbed_texts = []
for s in samples:
words = [text[i] for i in range(n_words) if s[i] == 1]
perturbed_texts.append(' '.join(words) if words else ' ')
# الخطوة 3: احصل على تنبؤات الصندوق الأسود لكل الاضطرابات
predictions = predict_fn(perturbed_texts)
# الخطوة 4: احسب أوزان القرب (نواة أُسِّية على المسافة الإقليدية)
distances = np.sqrt(np.sum((samples - samples[0]) ** 2, axis=1))
sigma = 0.75 * np.sqrt(n_words)
weights = np.exp(-(distances ** 2) / (sigma ** 2))
# الخطوة 5: لائم نموذجاً خطياً مُرجَّحاً
model = Ridge(alpha=1.0)
model.fit(samples, predictions, sample_weight=weights)
# أعد أهم السمات مع أهميتها
importances = list(zip(text, model.coef_))
importances.sort(key=lambda x: abs(x[1]), reverse=True)
return importances[:n_features]نقاط القوة والقيود
بساطة LIME هي سرّ أناقته، لكنها في الوقت نفسه مصدر بعض القيود التي يجب فهمها:
-
نقطة قوة: استقلالية حقيقية عن النموذج. كل ما يحتاجه LIME هو القدرة على استدعاء النموذج — لا تدرّجات ولا معرفة بالبنية الداخلية. يعمل مع الشبكات العصبية والغابات العشوائية وآلات المتجهات الداعمة، بل حتى مع واجهات برمجية مغلقة لا تملك أيّ وصول لما بداخلها.
-
نقطة قوة: تفسيرات يقرؤها البشر. المخرج قائمة مرتّبة من السمات مع مساهمة كل واحدة (موجبة أو سالبة) — شيء يستطيع حتى غير المتخصّص تقييمه.
-
قيد: عدم الاستقرار. بما أن الاضطرابات تُولَّد عشوائياً، فتشغيل LIME مرتين على المُدخل ذاته قد يُنتج تفسيرات مختلفة. هذه العشوائية مُتأصّلة في طبيعة أسلوب العيّنات.
-
قيد: حساسية عرض النواة. قيمة تؤثّر بشكل كبير في النتيجة. إذا كانت صغيرة جداً لم تبقَ اضطرابات كافية للملاءمة، وإذا كانت كبيرة جداً فُقدت المحلّية وأصبح التفسير يعكس سلوكاً شاملاً لا محلّياً.
-
قيد: افتراض الخطية. النموذج المحلي خطيّ، لكن حتى في جوار ضيّق قد تحمل حدود القرار انحناءً لا يستطيع خطّ مستقيم التقاطه.
الأثر: LIME أعاد تشكيل الذكاء الاصطناعي القابل للتفسير
2016
نشر LIME
قدّم ريبيرو وسينغ وغستران LIME في مؤتمر KDD. أول إطار عملي لتفسير تنبؤات أي مُصنِّف عبر الاضطراب المحلي والنماذج البديلة.
2017
SHAP يوحّد التفسيرات
أثبت لندبرغ ولي أن LIME حالة خاصة من تفسيرات شابلي التجميعية. SHAP يوفّر إسنادات سمات حتمية ذات أساس نظري متين. سرعة LIME تظل ميزة للتطبيقات واسعة النطاق.
2017
Grad-CAM للتفسيرات البصرية
استخدم سلفاراجو وزملاؤه معلومات التدرج لإنتاج تفسيرات بصرية للشبكات الالتفافية. على خلاف LIME، يعتمد Grad-CAM على التدرجات (يحتاج الوصول للنموذج) لكنه أسرع لنماذج الصور.
2018
Anchors — قواعد عالية الدقة
وسّع ريبيرو وزملاؤه عمل LIME بخوارزمية Anchors: قواعد شرطية تضمن التنبؤ باحتمال عالٍ، تعالج قيد الخطية في LIME بقواعد أكثر تعبيرية.
2019
LIME في الإنتاج والتنظيم
أصبح LIME أداة معيارية في القطاعات المنظَّمة. «حق التفسير» في قانون حماية البيانات الأوروبي (GDPR) دفع التبنّي في المالية والرعاية الصحية، حيث يجب تبرير قرارات النماذج.
2020
القابلية للتفسير تدخل التيار الرئيسي
منصات الحوسبة السحابية الكبرى (AWS SageMaker وGoogle Cloud AI وAzure ML) أدمجت LIME وSHAP في سلاسل عملياتها، فأصبحت القابلية للتفسير خياراً افتراضياً لا فكرة لاحقة.
أثر LIME يتجاوز الخوارزمية ذاتها. هذه الورقة هي التي حوّلت من سؤال فلسفي مجرّد إلى مسألة هندسية عملية يمكن حلّها. التمييز بين الثقة بتنبؤ واحد والثقة بنموذج كامل أصبح جزءاً من المفردات الأساسية للمجال. والأهم أن LIME أثبت عملياً أن التفسيرات المبنية على الاضطراب المحلي تعمل بكفاءة عالية، ففتح الباب أمام حقل كامل من الأساليب: SHAP وGrad-CAM وAnchors وIntegrated Gradients وعشرات الطرق الأخرى التي بُنيت على الأساس نفسه.
المرجعRibeiro, Singh, Guestrin. "Why Should I Trust You?": Explaining the Predictions of Any Classifier. KDD, 2016.
مصطلحات هذه الورقة
- القابلية للتفسيرInterpretability
- الانحدار اللوجستي الاحتماليLogistic Regression
- أهمية السماتFeature Importance
- دالة الخسارةLoss function
- الضبط الهيكليRegularization
- التعلم الـمُوجّه (المصحوب ببيانات مرجعية)Supervised Learning
- التصنيفClassification
- الانحدار التدريجيGradient Descent
- فرط التخصيصOverfitting
- التعميمGeneralization
- استخلاص السماتFeature Extraction
- التضمينEmbedding
- تشابه جيب التمامCosine Similarity
- المسافة الإقليديةEuclidean Distance
- سوفت ماكسSoftmax