Safety Reward

إشارة من نموذج مكافأة مُدرَّب على التمييز بين الاستجابات الآمنة والضارة، تُستخدم لتقليل المخاطر في مخرجات النموذج.

A signal from a reward model trained to distinguish safe from harmful responses, used to reduce risks in model outputs.