التعلم ذاتي الإشراف

نموذج تدريب يتعلم فيه النموذج من بيانات غير مُعنونة بحل مهمة تمهيدية مُولَّدة تلقائياً من البيانات ذاتها، كالتنبؤ بالرموز المُقنَّعة أو إعادة بناء المدخلات المُشوَّهة.

A training paradigm where the model learns from unlabeled data by solving a pretext task generated automatically from the data itself, such as predicting masked tokens or reconstructing corrupted inputs.