الذاكرة عالية النطاق

الذاكرة عالية النطاق — ذاكرة المعالج الرسومي الرئيسية (مثلاً 80 غيغابايت في A100). كبيرة لكنها بطيئة نسبياً مقارنة بـSRAM على الشريحة. معظم العمليات غير الضربية محدودة بسعة نطاق HBM.

High Bandwidth Memory — the main GPU memory (e.g. 80GB on A100). Large but relatively slow compared to on-chip SRAM. Most non-matmul operations are bottlenecked by HBM bandwidth.