الانتباه الصلب

صيغة من الانتباه تختار موقعاً واحداً بالعينة من توزيع الانتباه بدلاً من المزج الموزون. غير قابلة للتفاضل وتتطلب أساليب تدرج السياسة مثل REINFORCE للتدريب.

A form of attention that samples a single location from the attention distribution rather than blending all locations. Non-differentiable and requires policy gradient methods like REINFORCE for training.