Глоссарий ИИ
Полный словарь искусственного интеллекта
Карта Внимания
Графическая визуализация, которая представляет веса внимания, присвоенные нейронной моделью различным частям входных данных в процессе принятия решений.
Карта Салиентности
Тепловая карта, которая указывает наиболее влиятельные пиксели или области изображения для предсказания модели, вычисленная через градиенты выхода по отношению к входу.
Визуализация Самовнимания
Визуальное представление отношений внимания внутри последовательности в моделях Transformers, показывающее, как каждый токен взаимодействует с другими токенами той же последовательности.
Картирование Активации Класса
Техника, которая генерирует дискриминативные карты локализации, используя информацию из последних сверточных слоев без необходимости архитектурных изменений.
Токен-уровневое Внимание
Гранулярный анализ весов внимания на индивидуальном уровне каждого токена в моделях обработки естественного языка.
Атрибуция Признаков
Количественный процесс, который присваивает оценки важности характеристикам входных данных для объяснения их индивидуального вклада в предсказание модели.
Важность Головы Внимания
Количественная оценка вклада каждой головы внимания в многоголовой модели в общую производительность системы.