هرمية الذاكرة

ترتيب مستويات الذاكرة في الحاسوب من الأسرع والأصغر (المسجِّلات) إلى الأبطأ والأكبر (الذاكرة الرئيسية)، وهو المفهوم الجوهري الذي يبني عليه FlashAttention.

The arrangement of memory levels in a computer from fastest and smallest (registers) to slowest and largest (main memory) — the core concept FlashAttention builds upon.