الترميز الموضعي
الترميز الموضعي ثنائي الاتجاه
تقنية تستخدم ترميزات مميزة لاتجاهات اليسار إلى اليمين واليمين إلى اليسار، مما يسمح للنموذج بالتقاط المعلومات السياقية في كلا الاتجاهين في وقت واحد كما هو الحال في نماذج BERT.
← رجوع