الاستباق
Preemption
آلية يُوقف فيها المُجدوِل طلبًا أقل أولوية مؤقتًا حين تشحّ ذاكرة وحدة معالجة الرسوميات، إما بنقل كتله إلى ذاكرة المعالج المركزي (التبديل) أو بتحريرها لإعادة حسابها لاحقًا.
A mechanism where the scheduler temporarily pauses a lower-priority request when GPU memory runs low, either by swapping its blocks to CPU memory or by freeing them for later recomputation.
تُرجم أيضاًالإيقاف المؤقت، المقاطعة
أول ظهور في هذه المجموعة: إدارة الذاكرة بكفاءة لخدمة النماذج اللغوية الكبيرة باستخدام PagedAttention (2023)
يظهر في هذه الأوراق