Sparse Attention
الانتباه المتناثر
آلية انتباه مخصصة تحسب الارتباطات بين كلمات منتقاة وفارقة فقط بدلاً من حساب كامل المصفوفة الكثيفة المجهدة للذاكرة.
Sparse Attention
Also translated asالتركيز السياقي الانتقائي المختزل، حساب الروابط غير الكثيفة للرموز
First appears in this corpus in: Language Models Are Few-Shot Learners (2020)
Appears in these papers
- DALL·E: Zero-Shot Text-to-Image Generation2021in the sky ✦
- DALL·E: Zero-Shot Text-to-Image Generation2021in the sky ✦
- Language Models Are Few-Shot Learners2020in the sky ✦
- Informer: Beyond Efficient Transformer for Long Sequence Time Series Forecasting2021in the sky ✦
- Informer: Beyond Efficient Transformer for Long Sequence Time Series Forecasting2021in the sky ✦