Generative Pre-Training
التدريب المسبق التوليدي
تدريب نموذج لغوي على كميات هائلة من النصوص غير المُعنوَنة بهدف التنبؤ بالكلمة التالية، لاكتساب معرفة لغوية عامة قابلة للنقل إلى مهام محددة.
Training a language model on large amounts of unlabeled text via next-token prediction to acquire general linguistic knowledge transferable to specific tasks.
Also translated asالتهيئة التوليدية الأولية، التأهيل القبلي التوليدي
First appears in this corpus in: Improving Language Understanding by Generative Pre-Training (2018)
Appears in these papers