المعجم

المُحسِّنات المُصفَّحة

Paged Optimizers

آلية تنقل حالات المُحسِّن (مثل تقديرات الزخم والتباين في Adam) من ذاكرة وحدة المعالجة الرسومية إلى ذاكرة المعالج المركزي عند ذروات الاستهلاك، مستخدمةً الذاكرة الموحَّدة من NVIDIA.

A mechanism that offloads optimizer states (such as Adam's momentum and variance estimates) from GPU memory to CPU RAM during consumption spikes, using NVIDIA unified memory.

تُرجم أيضاًالمحسنات المُبادَلة، المحسنات ذات التصفيح الذاكري

أول ظهور في هذه المجموعة: QLoRA: الضبط الدقيق الكفوء للنماذج اللغوية الكبيرة المُكمَّمة (2023)

يظهر في هذه الأوراق