كسر الحماية
Jailbreak
موجّه عدائي مصمَّم لتجاوز إرشادات الأمان في نموذج لغوي واستدراجه لإخراج محتوى ضار أو مخالف للسياسات.
An adversarial prompt designed to bypass a language model's safety guidelines and elicit harmful or policy-violating outputs.
تُرجم أيضاًاختراق القيود، الهروب من القيود، تجاوز الحماية
أول ظهور في هذه المجموعة: تدريب النماذج اللغوية على اتّباع التعليمات باستخدام التغذية الراجعة البشرية (2022)
يظهر في هذه الأوراق