قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
تصوير أوزان الانتباه
تقنية رسومية تمثل القيم الرقمية للانتباه بين التوكنات في تسلسل، تستخدم شدات اللون أو الحجم لكمية العلاقات الهامة.
خرائط الحرارة
تمثيل مصفوفة ثنائية الأبعاد حيث ترمز الألوان إلى شدة أوزان الانتباه، مما يسمح بالتعرف السريع على مناطق التركيز الانتباهي العالي.
تحليل رؤوس الانتباه
دراسة مقارنة لأنماط الانتباه الفردية في كل رأس من آلية متعددة الرؤوس، تكشف عن التخصصات الوظيفية والازدواجيات بين الرؤوس.
أنماط الانتباه متعدد الرؤوس
تصوير متزامن لآليات الانتباه المختلفة في طبقة Transformer، يوضح كيف يلتقط كل رأس أنواعًا مميزة من العلاقات النحوية أو الدلالية.
مصفوفة الانتباه الذاتي
مصفوفة مربعة تمثل أوزان الانتباه بين جميع أزواج التوكنات في نفس التسلسل، حيث كل عنصر (i,j) يشير إلى تأثير التوكن j على التوكن i.
تصوير الانتباه المتقاطع
تمثيل رسومي لأوزان الانتباه بين تسلسلين مختلفين، تستخدم عادةً في نماذج المشفر-فك التشفير لتصوير المحاذاة بين المصدر والهدف.
انتشار الانتباه
طريقة انتشار تكراري لأوزان الانتباه عبر الطبقات المتتالية لحساب التأثير التراكمي لتوكن على تنبؤات النموذج النهائية.
تدفق الانتباه
تقنية تصوير توضح كيف تدور المعلومات عبر طبقات Transformer عن طريق تتبع مسارات التأثير الانتباهي بين التوكنات.
الانتباه القائم على التدرج
نهج يستخدم تدرجات المخرجات بالنسبة لأوزان الانتباه لتحديد المساهمات الأكثر صلة بالتنبؤ بالنموذج.
الانتباه من توكن إلى توكن
تصوير مباشر لعلاقات الانتباه المزدوجة بين التوكنات، مما يسمح بتحديد التبعيات المحلية والعالمية في تسلسل الإدخال.
تحليل الانتباه حسب الطبقات
فحص مقارن لأنماط الانتباه عبر أعماق مختلفة من الشبكة، يكشف عن تطور التمثيلات المجردة من الطبقات السفلى إلى العلوية.
مسار الانتباه
تصوير زمني لتطور أوزان الانتباه خلال الاستدلال أو التدريب، يوضح كيف تستقر الأنماط أو تتغير ديناميكيًا.
خرائط أهمية الانتباه
خرائط حرارية تُضاف فوق نص الإدخال لتسليط الضوء على التوكنات التي تحظى بأكبر قدر من الانتباه، مما يسهل تفسير قرارات النموذج.
انتشار الانتباه
تقنية تتبع كيف تنتشر إشارات الانتباه وتتعزز عبر الشبكة، تكشف عن المسارات الحاسمة لاتخاذ القرار.
إسقاط الانتباه
تقليل أبعاد أوزان الانتباه عالية الأبعاد إلى مساحات ثنائية/ثلاثية الأبعاد قابلة للتصور، باستخدام تقنيات مثل t-SNE أو UMAP لتحديد مجموعات الأنماط المماثلة.
تجميع الانتباه
تجميع تلقائي لأنماط الانتباه المماثلة لتحديد السلوكيات المتكررة أو التخصصات الوظيفية في آليات الانتباه.
تصنيف أنماط الانتباه
تصنيف تلقائي لأنواع أنماط الانتباه (النحوية، الدلالية، الموضعية) قائم على خصائصهم الهيكلية والتوزيعية.