المحاذاة الفائقة

التحدّي التقني المتمثّل في ضمان أن نماذج الذكاء الاصطناعي الفائقة — التي تتجاوز القدرات البشرية — تتصرّف وفق نوايا البشر وقيمهم، رغم عجز البشر عن تقييم مخرجاتها بشكل موثوق.

The technical challenge of ensuring superhuman AI models — those exceeding human capabilities — behave according to human intent and values, despite humans being unable to reliably evaluate their outputs.