أمان الذكاء الاصطناعي عبر المناظرة

كلما زادت قدرات الذكاء الاصطناعي، واجهنا تدرّجاً في صعوبة التوافق:

• سهل: الإنسان يستطيع أداء المهمة بنفسه (التعلّم بالإشراف — مثل تصنيف الصور).
• متوسط: الإنسان لا يستطيع أداء المهمة، لكنه يستطيع تقييم النتيجة (التعلّم المعزّز من التغذية الراجعة البشرية — مثل الحكم على أداء روبوت يؤدي شقلبة خلفية).
• صعب: الإنسان لا يستطيع حتى تقييم صحة النتيجة — إما لأن الاستدلال بالغ الدقة، أو المجال شديد التعقيد، أو الإجابة تخفي عيوباً لا تظهر بسهولة.

في عام 2018 كان معظم أبحاث التوافق يركّز على الحالتين السهلة والمتوسطة. لكن مع توسّع قدرات الأنظمة، تصبح الحالة الصعبة هي العنق الضيّق الحقيقي. تخيّل نموذجاً يكتب عشرة آلاف سطر من الشيفرة أو يلخّص مليون وثيقة — لا يوجد إنسان واحد يستطيع مراجعة كل هذه المخرجات. المؤلفون يسمّون هذا التحدّي مشكلة الإشراف القابل للتوسّع.

الربط بنظرية التعقيد الحسابي يجعل الصورة أوضح. تخيّل الحَكَم البشري كحاسوب محدود القدرة لا يعمل إلا في زمن متعدد الحدود. بدون أي مساعدة، يستطيع هذا الحَكَم فحص إجابات تقع في فئة التعقيد NP فقط — أي المسائل التي يمكن التحقّق من صحة إجابتها بسرعة. لكن المناظرة تفتح له الباب إلى فئة PSPACE، وهي فئة أوسع بمراحل تشمل محاكاة عمليات بطول أُسّي، واللعب الأمثل في ألعاب محدودة الطول، والاستدلال التعاودي في أشجار ضخمة.

تسير لعبة المناظرة في خمس خطوات:

1. يُعرض سؤال على كلا الوكيلَين.
2. كلا الوكيلَين يعلنان إجابتيهما — وقد تتّفقان أو تختلفان.
3. يتناوبان في تقديم حجج قصيرة: براهين، أدلة، ردود.
4. حَكَم بشري يقرأ الحوار كاملاً ويختار الفائز.
5. اللعبة صفرية المجموع: كل وكيل يسعى لتعظيم فرصة فوزه.

الادّعاء المحوري للورقة بسيط لكنه عميق الأثر: الكذب في هذه اللعبة أصعب من كشفه. إن صحّ هذا، يتقارب الوكيلان عند توازن ناش نحو الصدق — لا لأنهما صُمِّما ليكونا صادقَين، بل لأن الصدق ببساطة هو الاستراتيجية الرابحة.

اعتراض متوقّع: المناظرات الحقيقية لا تنتهي. كيف يمكن لبضع جولات أن تحسم شيئاً؟

السرّ أن المناظرة لا تتفرّع. شجرة الحجج الكاملة قد تكون هائلة الحجم أُسّياً — تغطّي كل نقطة وكل ردّ ممكن. لكن مناظرة واحدة ترسم مساراً واحداً فقط عبر تلك الشجرة، يختاره أقوى الخصوم الممكنين بالتنافس.

تشبيه مفيد: فكّر في مباراة شطرنج. النقلة الأولى المثلى تعتمد على شجرة اللعب بأكملها — مليارات الأوضاع في العمق. لكن مباراة واحدة بين بطلَين عالميَّين تمنحك دليلاً قوياً على أفضل افتتاحية، رغم أنك لم تستكشف بقية الفروع.

مثال الإجازة في الورقة يوضّح هذا بأناقة:

1. أليس: ألاسكا.
2. بوب: بالي. (الحَكَم يميل إلى بالي…)
3. أليس: بالي غير ممكنة — جواز سفرك لن يصل في الوقت.
4. بوب: خدمة الجوازات المستعجلة لا تستغرق إلا أسبوعين.

كل جولة تُضيّق المناظرة حتى تتركّز في نقطة خلاف واحدة. أليس لا تستطيع أن تقفز فجأة وتقول «لا، انتظر… هاواي!» — لأن هذا اعتراف ضمني بأن ألاسكا كانت خياراً خاطئاً، فيفوز بوب. هذه الخطّية هي سرّ قوة المناظرات القصيرة.

يرسم المؤلفون ربطاً قوياً بين المناظرة ونظرية التعقيد الحسابي. تخيّل أن الحَكَم البشري خوارزمية تعمل في زمن متعدد الحدود $H$. كلما أضفنا جولات مناظرة، ارتقت فئة المسائل التي نستطيع حلّها صعوداً في الهرم متعدد الحدود:

• 0 جولات (حكم مباشر): فئة التعقيد P — التعلّم بالإشراف.
• جولة واحدة (تقديم شاهد): فئة التعقيد NP — التعلّم المعزّز.
• جولتان ($\exists x \forall y$): فئة التعقيد $\Sigma_2 P$ — ألعاب ذات خطوتين.
• n جولة: فئة التعقيد $\Sigma_n P$.
• عدد متعدد الحدود من الجولات: فئة التعقيد PSPACE.

بعبارة أخرى، المناظرة باللعب الأمثل تستطيع حلّ أي مسألة يحلّها حاسوب بذاكرة متعددة الحدود — مع أن الحَكَم لا يملك إلا زمناً متعدد الحدود. البنية التنافسية تضخّم قدرته تضخيماً أُسّياً.

لاختبار فكرة المناظرة بعيداً عن تعقيدات اللغة الطبيعية، ابتكر المؤلفون تجربة ذكية تعتمد على الصور. تخيّلها كلعبة مجهر: الحَكَم لا يرى إلا شريحة صغيرة من الصورة، والمتناظران هما مَن يقرّران أي الأجزاء تُكشف.

الإعداد كالتالي: تُعرض صورة رقم عشوائي من مجموعة MNIST على المتناظرَين لكنها مخفية عن الحَكَم. كل متناظر يدّعي تصنيفاً مختلفاً (مثلاً «هذا الرقم 6» مقابل «هذا 5»)، ثم يتناوبان في كشف بكسل واحد كل دور — حتى 4 أو 6 بكسلات إجمالاً. أما الحَكَم فهو شبكة عصبية التفافية مُدرَّبة على تصنيف أرقام MNIST من أقنعة بكسلات قليلة.

المتناظر الصادق يكشف بكسلات تدعم التصنيف الحقيقي. والكاذب يحاول اختيار بكسلات تجعل التصنيف الخاطئ يبدو مقنعاً. السؤال المحوري: هل ينتصر الصدق؟

كيف ندرّب وكلاء المناظرة؟ بالأسلوب نفسه الذي نجح مع AlphaGo: اللعب الذاتي. نسختان من الوكيل نفسه تتواجهان، وكل منهما تتعلّم من انتصاراتها وهزائمها. في هذا الأسلوب ميزة طبيعية: التدريب يتدرّج تلقائياً في الصعوبة. في البداية يكون الوكيلان ضعيفَين فالفوز سهل، لكن كلما تحسّن أحدهما اضطرّ الآخر للتطوّر ليواكبه، فتنشأ حلقة تصاعدية من المهارة.

تجربة MNIST استخدمت البحث الشجري بمونتي كارلو بعشرة آلاف محاكاة لكل نقلة — ولم تكن هناك حاجة لموجّه من شبكة عصبية لأن شجرة اللعب كانت صغيرة بما يكفي. أما في تطبيقات المناظرة الواقعية، فيتصوّر المؤلفون تدريب وكلاء عصبيين عبر اللعب الذاتي مع موجّهات مُتعلَّمة، على غرار ما فعله AlphaZero.

ترتبط المناظرة ارتباطاً وثيقاً بنهج آخر في التوافق: التضخيم (Christiano وآخرون، 2018). كلاهما يهدف إلى توسيع نطاق الحكم البشري ليشمل مسائل لا يستطيع البشر حلّها مباشرةً، وكلاهما يصل إلى PSPACE نظرياً. لكنهما يسلكان طريقَين مختلفَين:

• المناظرة: وكيلان قويان يتواجهان تنافسياً أمام حَكَم بشري. الوصول إلى PSPACE عبر ألعاب تنافسية متعددة الحدود في الطول.
• التضخيم: وكيل قوي واحد يُشرف عليه إنسان يفكّك الأسئلة تعاودياً إلى أسئلة فرعية أبسط. الوصول إلى PSPACE عبر استدعاءات تعاودية متعددة الحدود في العمق.

الفارق الجوهري: في المناظرة، التنافس نفسه هو ما يكشف الثغرات. أما في التضخيم، فيجب أن تتعلّم وحدة «المُستجوِب» المنفصلة كيف تطرح الأسئلة الفرعية الصحيحة — وهذا في حدّ ذاته قد يكون أصعب مما يستطيعه البشر. المناظرة تتجاوز هذه العقبة بترك الوكلاء يكتشفون نقاط ضعف بعضهم بشكل طبيعي من خلال المنافسة.

من الأشياء المميّزة في هذه الورقة صراحتها حول محدوديات المناظرة. المؤلفون يستعرضون بمنهجية أسباب التفاؤل وأسباب القلق معاً:

كُتبت هذه الورقة في وقت كان فيه معظم العمل على التوافق يدور حول نمذجة المكافأة البسيطة، لكنها طرحت سؤالاً أعمق: ماذا يحدث حين يتفوّق الذكاء الاصطناعي على قدرة الإنسان في التقييم؟ الإجابات التي قدّمتها — البنية التنافسية، والسعي الصفري نحو الحقيقة، والتأسيس على نظرية التعقيد — أصبحت ركائز أساسية في هذا المجال.

إطار المناظرة أثّر مباشرةً في الذكاء الاصطناعي الدستوري، حيث تنقد الأنظمة مخرجاتها وتحسّنها ذاتياً. كما حفّز أبحاث التعميم من الضعيف إلى القوي التي تختبر ما إذا كان بإمكان مشرفين ضعفاء توجيه نماذج أقوى منهم. وأرسى «الإشراف القابل للتوسّع» بوصفه أجندة بحثية محورية تتبنّاها اليوم Anthropic وOpenAI وDeepMind.

والأهم من ذلك ربما أن المناظرة أثبتت أن التوافق لا يعني التضحية بالقدرة. الوكيل المُدرَّب بالمناظرة ليس أضعف من وكيل بلا قيود — كل ما في الأمر أنه مطالب بتبرير استدلاله. والوكيل القادر على تفسير نفسه هو الذي يفوز.