Глоссарий ИИ
Полный словарь искусственного интеллекта
Суррогатная модель
Простая и интерпретируемая модель машинного обучения, обученная для аппроксимации поведения сложной модели, что позволяет понять предсказания исходной модели.
Глобальная суррогатная модель
Интерпретируемая модель, которая имитирует глобальное поведение черного ящика модели на всем наборе данных, предоставляя общий обзор решений сложной модели.
Локальная суррогатная модель
Простая модель, которая аппроксимирует поведение сложной модели только в определенной окрестности индивидуального предсказания, объясняя таким образом решения на локальном уровне.
Верность модели
Мера способности суррогатной модели точно воспроизводить предсказания исходной модели черного ящика, часто оцениваемая с помощью коэффициента детерминации R² или среднеквадратичной ошибки.
Суррогатное дерево решений
Простое дерево решений, используемое в качестве суррогатной модели для аппроксимации поведения сложной модели, предлагающее интуитивно понятную визуальную интерпретацию правил принятия решений.
Важность признаков
Количественная мера относительной важности каждого входного признака в предсказаниях модели, вычисляемая через коэффициенты суррогатной модели или другие методы взвешивания.
Локальная линейная регрессия
Линейная суррогатная модель, настроенная на взвешенное подмножество данных вокруг конкретного предсказания, позволяющая локально объяснять взаимосвязи между признаками и предсказанием.
Контрфактуальные объяснения
Подход, который генерирует минимально измененные примеры для изменения предсказания модели, часто реализуемый через суррогатные модели для идентификации критических признаков.
Сложность Модели
Мера структурной сложности модели, где суррогатные модели предпочитают низкую сложность (неглубокие деревья, линейные модели) для обеспечения интерпретируемости.
Кусочная Аппроксимация
Стратегия, при которой пространство признаков делится на регионы, каждый со своей простой суррогатной моделью, позволяющая гибкую аппроксимацию при сохранении локальной интерпретируемости.
Взвешивание Ядром
Техника, используемая в локальных суррогатных моделях для придания большего веса образцам, близким к точке интереса, обеспечивая лучшую локальную аппроксимацию поведения модели.
Пертурбированная Выборка
Метод генерации синтетических данных вокруг предсказания путем возмущения исходных признаков, используемый для обучения локальных суррогатных моделей на релевантных окрестностях.
Интерпретационная Валидность
Критерий оценки, который измеряет, согласуются ли объяснения, предоставляемые суррогатной моделью, с знаниями предметной области и полезны ли они для человеческого принятия решений.
Функция Замещения
Упрощенное математическое представление, которое аппроксимирует сложную решающую функцию исходной модели, необходимое для того, чтобы сделать предсказания понятными для нетехнических пользователей.