Safety Pipeline

نظام متعدد المراحل لتحديد سلوكيات النموذج الضارة والتخفيف منها، يجمع بين الاختبار العدائي بالخبراء والتصنيف الآلي بنماذج المكافأة القائمة على القواعد.

A multi-stage system for identifying and mitigating harmful model behaviors, combining expert adversarial testing with automated classification via rule-based reward models.