Absolute Position
الموضع المطلق
رقم المؤشر الذي يُحدّد مكان الرمز في التسلسل (مثلاً الرمز الثالث). في RoPE يُستخدم الموضع المطلق لحساب زاوية الدوران، لكن الجداء النقطي النهائي يعتمد على الموضع النسبي فقط.
The index number identifying a token's location in the sequence (e.g. the 3rd token). In RoPE, absolute position determines the rotation angle, but the final dot product depends only on relative position.
Also translated asالموقع المطلق
First appears in this corpus in: XLNet: Generalized Autoregressive Pretraining for Language Understanding (2019)
Appears in these papers
- DeBERTa: Decoding-Enhanced BERT with Disentangled Attention2020in the sky ✦
- DeBERTa: Decoding-Enhanced BERT with Disentangled Attention2020in the sky ✦
- RoFormer: Enhanced Transformer with Rotary Position Embedding2021in the sky ✦
- XLNet: Generalized Autoregressive Pretraining for Language Understanding2019in the sky ✦