المعجم

كسر الحماية

Jailbreak

موجّه عدائي مصمَّم لتجاوز إرشادات الأمان في نموذج لغوي واستدراجه لإخراج محتوى ضار أو مخالف للسياسات.

An adversarial prompt designed to bypass a language model's safety guidelines and elicit harmful or policy-violating outputs.

تُرجم أيضاًاختراق القيود، الهروب من القيود، تجاوز الحماية

أول ظهور في هذه المجموعة: تدريب النماذج اللغوية على اتّباع التعليمات باستخدام التغذية الراجعة البشرية (2022)

يظهر في هذه الأوراق