التعميم من الضعيف إلى القوي

منهج بحثي من فريق المحاذاة الفائقة في أوبن إيه آي، يدرس ما إذا كان نموذج ضعيف يستطيع الإشراف بفعالية على نموذج أقوى منه، وذلك بديلاً تجريبياً لمسألة إشراف البشر لنماذج تفوقهم قدرةً، وأظهر أن الأقوى قد يتخطى إشارة الضعيف الصاخبة لكن ليس تماماً.

A research program from OpenAI's Superalignment team studying whether a weak model can effectively supervise a stronger one, as an empirical stand-in for the problem of humans supervising models that surpass them, showing that the stronger student can partly transcend the noisy weak signal but not fully close the gap.