مُبرهنات لا وجبة مجانية في الأمثَلة

في التسعينيات ظهرت موجة من الخوارزميات الوصفية — خوارزميات جينية، ومحاكاة تلدين، وأسراب جسيمات — وكل واحدة منها تُختبر على مجموعة دوال مختارة ثم يُعلن عنها «الأحدث والأفضل». لكن السؤال الجوهري ظل قائماً: هل هذا التفوق يتعدّى دوال الاختبار؟ لو تغلّبت خوارزمية جينية على محاكاة التلدين في عشر دوال، هل يعني ذلك أنها ستتغلّب عليها في الدالة الحادية عشرة؟

جواب وولبرت وماكريدي جاء صادماً في بساطته: لا. حين نأخذ المتوسط على جميع المسائل الممكنة، لا تتفوّق أي خوارزمية على أي أخرى — ولا حتى على البحث العشوائي الأعمى. كل ميزة تكسبها هنا تخسرها هناك، بلا استثناء.

الإطار الرياضي مباشر. لديك فضاء بحث محدود $\mathcal{X}$ — تصوّره كقائمة تضم جميع الحلول الممكنة — ومجموعة محدودة من قيم الكُلفة $\mathcal{Y}$. دالة الكُلفة $f: \mathcal{X} \to \mathcal{Y}$ تمنح كل حل مرشّح درجة، والهدف إيجاد المرشّح الذي يحمل أدنى درجة.

خوارزمية الأمثَلة ببساطة هي قاعدة تقرّر — بناءً على النقاط التي جُرّبت سابقاً وكُلَفها — أي نقطة تُستكشف تالياً. الشرط الوحيد أن الخوارزمية لا تعيد زيارة نقطة قيّمتها من قبل. بعد $m$ خطوة تقييم يتكوّن لديك سجل من النقاط المُزارة وقيمها، و«أداء» الخوارزمية هو أي مقياس نستخرجه من هذا السجل (كأفضل كُلفة وصلنا إليها حتى الآن).

النتيجة المحورية مدهشة في وضوحها. اختر أي مقياس أداء $\Phi$ — قد يكون أدنى كُلفة عُثر عليها، أو عدد الخطوات للوصول إلى هدف معيّن، أو أي دالة أخرى تعتمد على سجل النقاط المُستكشفة. المُبرهنة تقول: حين تجمع $\Phi$ على كل دالة كُلفة ممكنة $f$، ستحصل على القيمة ذاتها مهما كانت الخوارزمية $a$ التي تستعملها.

ببساطة: لا توجد خوارزمية تملك أفضلية فطرية على غيرها. فكرة «الوجبة المجانية» — أي التفوق بلا افتراضات — وهمٌ لا وجود له.

لماذا تصح هذه النتيجة؟ الفكرة تعود إلى حساب توافقي بسيط. في فضاء بحث من $n$ نقطة، عدد دوال الكُلفة الممكنة هو $|\mathcal{Y}|^n$ — كل طريقة ممكنة لتوزيع قيم الكُلفة على النقاط. حين نجمع على كل هذه الدوال، نجد أن أي نمط تستغله خوارزمية ذكية في دالة ما تقابله دالة أخرى يُضلّلها فيها النمط ذاته. مجموعة كل الدوال متناظرة تناظراً تاماً: لا يتبقّى أي نمط يمكن استغلاله.

تخيّل الأمر هكذا: لكل سطح يقود فيه الانحدار التدريجي إلى النهاية الصغرى الشاملة، يوجد سطح معكوس يقوده فيه المنحدر نفسه إلى أسوأ نقطة ممكنة. حين نجمع المكاسب والخسائر، يُلغي بعضها بعضاً تماماً.

ما دامت لا توجد خوارزمية تفوز في المتوسط على كل المسائل، فالمخرج الوحيد عملياً هو ألّا تواجه كل المسائل أصلاً. في الواقع نحن نتعامل دائماً مع فئة محدّدة من المسائل — دوال فيها نعومة أو محلّية أو قابلية للتفكيك أو بنية من نوع ما. الخوارزمية التي تُدمج افتراضات تتوافق مع تلك البنية ستتفوّق حتماً على أخرى لا تفعل.

هذا هو جوهر ما نسمّيه الانحياز الاستقرائي: مجموعة الافتراضات التي تحملها الخوارزمية عن نوع المسائل التي ستقابلها. الانحدار التدريجي مثلاً يفترض أن دالة الكُلفة ناعمة وقابلة للاشتقاق. الخوارزميات الجينية تفترض أن الحل يمكن تجزئته إلى قطع تُعاد تركيبها بشكل مفيد. محاكاة التلدين تفترض أن الحلول الجيدة تتجاور في فضاء البحث. كل افتراض من هذه هو رهان: يُثمر حين يتطابق مع بنية المسألة، ويكلّفك حين لا يتطابق.

قدّم وولبرت وماكريدي تصوّراً هندسياً أنيقاً للمُبرهنة. تخيّل أن كل خوارزمية تُمثَّل بـمتّجه، وكل توزيع مسائل يُمثَّل بمتّجه آخر في فضاء عالي الأبعاد. أداء الخوارزمية على توزيع معيّن يساوي الجداء الداخلي بين المتّجهين — أي مدى توافقهما في الاتجاه. المُبرهنة تقول إن مجموع هذه الجداءات ثابت لا يتغيّر، وبالتالي كل تحسّن في اتجاه يأتي على حساب تراجع في اتجاه آخر.

فكّر في الأمر كإبرة بوصلة: إذا وجّهتها شمالاً (لتبرع في المسائل الناعمة) فلن تستطيع أن تشير جنوباً (لتبرع في المسائل العدائية) في الوقت نفسه. السعة الكلية للإبرة ثابتة، وكل ما تملكه هو حرية اختيار الاتجاه.

فكرة NFL لا تقتصر على خوارزميات الأمثَلة، بل تمتد إلى التعلّم الآلي بأكمله. كل نموذج يحمل افتراضات عن العالم، وهذه الافتراضات هي انحيازه الاستقرائي. الانحدار الخطي يفترض أن العلاقة خط مستقيم. الشبكة الالتفافية تفترض أن الأنماط محلّية ولا تتغيّر بتغيُّر الموضع. شجرة القرار تفترض أن حدود القرار محاذية للمحاور.

مفاضلة الانحياز والتباين هي نسخة مصغّرة من NFL: تقليل الانحياز (افتراضات أقل) يزيد التباين (حساسية أكبر لمجموعة التدريب بعينها)، والعكس صحيح. التنظيم — سواء L1 أو L2 أو الإسقاط العشوائي أو التوقف المبكر — هو طريقة صريحة لحقن انحياز استقرائي بأن تقول لـالنموذج: «فضّل الحلول الأبسط». بدونه، نموذج كبير السعة سيحفظ بيانات التدريب عن ظهر قلب ثم يفشل على بيانات جديدة: لا وجبة مجانية في التعميم أيضاً.

مُبرهنات NFL لا تتركنا بلا بوصلة — بل تعطينا مبدأ تصميمياً واضحاً. لنرَ كيف تتضمّن الخوارزميات الشائعة افتراضاتها عملياً:

الانحدار التدريجي يفترض أن سطح الكُلفة ناعم وقابل للاشتقاق. يتتبّع الميل نزولاً خطوة بخطوة، وهذا ينجح تماماً على الأسطح الملساء لكنه يعلق في المشاهد الوعرة المليئة بـالنهايات الصغرى المحلية.

محاكاة التلدين تُدخل مُعامل حرارة يسمح أحياناً بقبول حلول أسوأ من الحل الحالي، ما يتيح لها الإفلات من الفخاخ المحلية. افتراضها أن الحلول الجيدة تتجمّع في أحواض، وأن القفز صعوداً بين حين وآخر قد يوصل إلى حوض أفضل.

الخوارزميات الجينية تحتفظ بمجموعة من الحلول وتمزج أجزاءها (عبر التهجين) وتُعدّلها عشوائياً (عبر الطفرة). افتراضها أن المسألة قابلة للتجزئة — أي أن قطعاً من حلول مختلفة يمكن تركيبها معاً للحصول على حل أفضل.

كل افتراض هو سلاح ذو حدّين: نقطة قوة الخوارزمية وَنقطة ضعفها في آنٍ واحد. مُبرهنات NFL تُؤكّد أن هذه الثنائية ليست مصادفة — إنها حتمية رياضية.

هنا يظهر اعتراض منطقي: «في الواقع نحن لا نواجه جميع دوال الكُلفة الممكنة — بل شريحة صغيرة منها. فهل تظل المُبرهنة سارية؟» الجواب يتوقّف على طبيعة تلك الشريحة.

في عام 2001 أثبت شوماخر وفوز وويتلي مُبرهنة NFL المُحسَّنة: النتيجة تسري على فئة دوال $F$ إذا وفقط إذا كانت $F$ مغلقة تحت التبديل — بمعنى أنك لو أعدت خلط قيم الكُلفة بين النقاط لبقيت الدالة الناتجة ضمن $F$. معظم فئات المسائل الواقعية ليست كذلك: الدوال الناعمة والمحدّبة والمتناثرة كلها تملك بنية تنكسر بمجرّد التبديل العشوائي.

هذه نتيجة مُبشّرة: مُبرهنة NFL تضرب بأقصى قوّتها فقط حين لا تعرف شيئاً عن مسألتك. كلما استطعت تمييز بنية في مسألتك واستغلالها، ازدادت فرصتك في الإفلات من قبضة NFL.

الدرس الذي رسّخته مُبرهنات NFL لا يُنسى: سؤال «ما أفضل خوارزمية؟» هو السؤال الخطأ من الأساس. السؤال الصواب هو «ماذا أعرف عن مسألتي، وأي خوارزمية تتوافق افتراضاتها مع تلك المعرفة؟» كل حدّ تنظيم تُضيفه، وكل خيار معماري تتّخذه، وكل استراتيجية تعزيز بيانات تستعملها — كلها إجابات عن هذا السؤال: رهانات انحياز استقرائي تضعها في مواجهة كون المسائل الممكنة.