Sliding Window Attention
انتباه النافذة المتحركة
آلية انتباه تحصر تركيز الكلمة الحالية ضمن نطاق محدد وثابت (نافذة) من المفردات المحيطة بها فقط لتوفير الحوسبة.
Sliding Window Attention
Also translated asالتركيز السياقي محدود النطاق النقال، حساب الروابط عبر المدى الموضعي
First appears in this corpus in: Mistral 7B (2023)
Appears in these papers