الانتباه التبادلي

آلية انتباه تربط بين نمطين مختلفين من البيانات: الاستعلامات تأتي من نمط (مثل سمات الصورة) والمفاتيح والقيم من نمط آخر (مثل تضمينات النص)، مما يُتيح لكل موقع مكاني أن يتعلّم أي رموز نصية تهمّه.

An attention mechanism connecting two different data modalities: queries come from one modality (e.g. image features) and keys/values from another (e.g. text embeddings), allowing each spatial location to learn which text tokens are relevant to it.