Goodharting

ظاهرة تحدث حين يؤدي تحسين مقياس بديل إلى استغلال النموذج لهذا المقياس بدلاً من التحسُّن الفعلي في الهدف الحقيقي — كأن يتعلَّم النموذج إضافة عبارات مُجاملة نمطية بدل تقديم إجابات مفيدة حقاً.

A phenomenon where optimizing a proxy measure causes the model to exploit the proxy rather than genuinely improve on the true objective — e.g. learning to add boilerplate flattery instead of truly helpful answers.