Глоссарий ИИ
Полный словарь искусственного интеллекта
Алгоритмическая прослеживаемость
Возможность отслеживать и документировать каждый шаг процесса принятия решений системы ИИ, от входных данных до конечного результата.
Журнал аудита
Систематическая и хронологическая регистрация всех взаимодействий, параметров и решений модели ИИ для обеспечения возможности пост-анализа.
Подотчётность
Формальный механизм распределения ответственности за алгоритмические решения, включая определение действующих лиц и процессов отчётности.
Картирование решений
Структурированная визуализация процесса принятия решений ИИ, определяющая точки разветвления и связанные с ними веса.
Алгоритмическое доказательство
Формальная документация, подтверждающая, что алгоритмическое решение соответствует определённым критериям и регуляторным ограничениям.
Сертификация ИИ
Процесс независимой оценки, подтверждающий соответствие системы ИИ этическим, техническим и регуляторным стандартам.
Документация модели
Полная регистрация характеристик, ограничений, обучающих данных и метрик производительности модели ИИ.
Реестр обработок
Централизованная база данных, регистрирующая все алгоритмические обработки и их цели, обязательная в соответствии с GDPR.
Этическая оценка воздействия
Систематическая оценка потенциальных последствий системы ИИ на фундаментальные права и общественные ценности.
Метрики ответственности
Количественные показатели, измеряющие уровень ответственности и прослеживаемости системы ИИ в её операционной среде.
Цепочка ответственности
Документированная последовательность участников и действий, вносящих вклад в алгоритмическое решение, позволяющая определить ответственности.
Аудит соответствия
Систематический анализ системы ИИ для проверки её соответствия юридическим, регуляторным и этическим требованиям.
Процедурная прозрачность
Полное раскрытие методов, алгоритмов и параметров, используемых системой ИИ для принятия решений.
Право на объяснение
Юридическое право, позволяющее лицам получать понятное объяснение автоматизированных решений, их затрагивающих.
Воссоздание решения
Способность точно воспроизвести условия, приведшие к конкретному алгоритмическому решению, для анализа.
Версионное архивирование
Систематическое сохранение различных версий модели ИИ и их параметров для временной прослеживаемости.