النموذج اللغوي ثنائي الاتجاه

نموذج لغوي يجمع بين نموذج أمامي يقرأ الجملة من اليسار إلى اليمين ونموذج خلفي يقرأها بالعكس. يشترك النموذجان في بعض المعاملات (مثل طبقة التضمين) لكنهما يحتفظان بمعاملات LSTM منفصلة لكل اتجاه.

A language model that combines a forward model reading left-to-right with a backward model reading right-to-left. The two models share some parameters (like the embedding layer) but maintain separate LSTM parameters for each direction.