Glossário IA
O dicionário completo da Inteligência Artificial
Interpretabilidade Global vs. Local
Distinção entre as técnicas que explicam o comportamento global de um modelo e aquelas que analisam uma previsão específica
Métodos Agnosticós de Modelo
Técnicas de interpretação que funcionam com qualquer tipo de modelo sem depender da sua arquitetura
Análise de Importância de Features
Identificação e quantificação da influência relativa de cada variável de entrada nas previsões do modelo
Visualizações Interpretáveis
Representações gráficas e visuais que permitem compreender o funcionamento interno e as decisões dos modelos
Métodos Baseados em Regras
Extração e geração de regras lógicas simples a partir de modelos complexos para torná-las compreensíveis
Explicações Contrafactuais
Geração de exemplos minimamente modificados para mostrar como mudar uma previsão explorando as fronteiras de decisão
Análise de Sensibilidade
Estudo sistemático de como as variações nas entradas afetam as saídas do modelo para compreender sua robustez
Modelos Substitutos
Uso de modelos simples e interpretáveis para aproximar e explicar o comportamento de modelos complexos
Atribuição de Características
Distribuição da responsabilidade de uma previsão entre as diferentes características de entrada de acordo com sua contribuição
Interpretabilidade de Redes Neurais
Técnicas específicas para compreender e visualizar o funcionamento de modelos de aprendizado profundo
Equidade e Detecção de Vieses
Análise sistemática dos preconceitos e discriminações potenciais nas decisões dos modelos de IA
Interpretabilidade Causal
Identificação de relações de causa e efeito em modelos para ir além de simples correlações
Métricas de Interpretabilidade
Quantificação e avaliação objetiva do grau de interpretabilidade dos diferentes modelos e técnicas
Explicações por Protótipo
Uso de exemplos representativos para explicar as decisões do modelo por comparação com casos típicos
Análise dos Caminhos de Decisão
Rastreamento e visualização dos caminhos lógicos seguidos pelo modelo para chegar a uma previsão específica