Block Table

جدول الكتل

بنية بيانات تُربط كل كتلة منطقية في ذاكرة KV المؤقتة بموقعها الفعلي في ذاكرة وحدة معالجة الرسوميات، تمامًا كما يُربط جدول الصفحات في أنظمة التشغيل العناوين الافتراضية بالإطارات الفعلية.

A data structure that maps each logical KV cache block to its physical location in GPU memory, analogous to a page table in operating systems that maps virtual addresses to physical frames.

Also translated asجدول الصفحات، خريطة الكتل

First appears in this corpus in: Efficient Memory Management for Large Language Model Serving with PagedAttention (2023)

Appears in these papers

Efficient Memory Management for Large Language Model Serving with PagedAttention2023 in the sky ✦
Efficient Memory Management for Large Language Model Serving with PagedAttention2023 in the sky ✦