Глоссарий ИИ
Полный словарь искусственного интеллекта
Внутреннее Объяснение
Подход, при котором интерпретируемость непосредственно интегрирована в структуру модели с момента её проектирования, делая модель естественно прозрачной.
Модель Чёрного Ящика
Система ИИ, внутреннее функционирование которой непрозрачно или сложно, что затрудняет прямое понимание её механизмов принятия решений.
Модель Белого Ящика
Внутренне прозрачная модель, чьи внутренние механизмы и процессы принятия решений непосредственно наблюдаемы и понятны.
Анализ Чувствительности
Постфактумная техника, оценивающая, как изменения входных характеристик влияют на прогнозы модели для определения влиятельных факторов.
Естественно Интерпретируемая Модель
Внутренняя архитектура, разработанная для прозрачности, такая как деревья решений или линейная регрессия, не требующая внешних объяснений.
Локальная Аппроксимация
Постфактумный подход, объясняющий конкретный прогноз путём создания простой модели, которая аппроксимирует поведение сложной модели только в окрестности этого прогноза.
Глобальная Аппроксимация
Постфактумный метод, направленный на создание упрощённой модели, которая имитирует общее поведение сложной модели во всём её входном пространстве.
Метод Пертурбации
Постфактумная техника, анализирующая влияние на прогнозы путём систематического изменения входных характеристик для понимания их роли в принятии решений.
Карта значимости
Пост-хок визуализация, показывающая наиболее влиятельные регионы или характеристики во входных данных для конкретного прогноза модели.
Интерпретируемое дерево решений
Внутренняя модель, использующая иерархическую структуру правил если-то для принятия решений, обеспечивающая полную прослеживаемость рассуждений.
Контрфактуальный анализ
Пост-хок метод, определяющий минимальные необходимые изменения во входных характеристиках для изменения прогноза модели на другой результат.
Прокси-модель
Простая и интерпретируемая модель, обученная пост-хок для имитации поведения сложной модели, служащая аппроксимацией для облегчения интерпретации.
Интерпретируемая гибридная модель
Внутренняя архитектура, сочетающая сложные компоненты со встроенными механизмами интерпретации для баланса производительности и прозрачности.
Атрибуция характеристик
Пост-хок процесс присвоения баллов вклада каждой входной характеристике для объяснения их индивидуальной роли в конкретном прогнозе.