حذف الرموز

استراتيجية تشويش تحذف رموزاً عشوائية من المدخل بالكامل (بدلاً من استبدالها بقناع)، مما يُجبر النموذج على اكتشاف المواضع المفقودة بالإضافة إلى الرموز نفسها.

A corruption strategy that entirely removes random tokens from the input (rather than replacing with masks), forcing the model to detect which positions are missing in addition to the tokens themselves.