Patch Masking

استراتيجية تدريب تُقنَّع فيها أجزاء من رقع الإدخال عشوائياً حتى يتعلّم النموذج التعامل مع أطوال سياق متنوعة، من نقطة واحدة إلى الحد الأقصى.

A training strategy where parts of input patches are randomly masked so the model learns to handle diverse context lengths, from a single point to the maximum.