الاختبار العدائي
Adversarial Testing
فحص النموذج عمداً بحثاً عن نقاط الفشل والثغرات والقدرات الخطيرة، عادةً باستخدام خبراء متخصصين في مجالات حساسة كالأمن السيبراني والبيولوجي.
Deliberately probing a model for failures, vulnerabilities, and dangerous capabilities, typically using domain experts in sensitive areas like cybersecurity and biosecurity.
تُرجم أيضاًالاختبار التنافسي، الفحص بالهجمات
أول ظهور في هذه المجموعة: اختبار الفريق الأحمر للنماذج اللغوية للحدّ من أضرارها: المنهجيات وأنماط التوسّع والدروس المستفادة (2022)
يظهر في هذه الأوراق