Glosario IA
El diccionario completo de la Inteligencia Artificial
Anclas
Enfoque de explicación local que identifica reglas SI-ENTONCES de alta precisión (anclas) que anclan la predicción localmente, garantizando que las modificaciones de las características no cubiertas no afecten la predicción.
Explicaciones Contrafactuales
Método que genera escenarios hipotéticos mínimos que muestran cómo cambiar las características de entrada para obtener una predicción diferente, explicando así los límites de decisión del modelo.
Modelos Suplentes Locales
Modelos simplificados entrenados para aproximar el comportamiento de un modelo complejo únicamente en la vecindad de una predicción específica, proporcionando explicaciones interpretables localmente.
LRP (Propagación de Relevancia por Capas)
Técnica de propagación hacia atrás que redistribuye la predicción final de la red neuronal a través de sus capas hasta las características de entrada, cuantificando su contribución individual.
DeepLIFT
Método de atribución de relevancia para redes neuronales profundas que compara la activación de cada neurona con su estado de referencia, calculando las contribuciones por diferencia en lugar de por gradientes.
Gradientes Integrados
Técnica de atribución que integra los gradientes a lo largo de un camino desde una referencia base hasta la entrada actual, garantizando propiedades de axiomas como la sensibilidad y la invariancia de implementación.
Sensibilidad por Oclusión
Enfoque de explicación local que sistemáticamente enmascara regiones de la entrada y observa el impacto en la predicción, identificando las zonas críticas para la decisión del modelo.
Funciones de Influencia
Técnica analítica que estima cómo cambiarían los parámetros del modelo y sus predicciones si se modificara un punto de entrenamiento específico, identificando los datos influyentes para una predicción.
ICE (Expectativa Condicional Individual)
Método que visualiza cómo cambia la predicción de un modelo para una observación individual cuando varía el valor de una característica, revelando efectos heterogéneos e interacciones.
Kernel SHAP
Variante de SHAP que utiliza un enfoque de kernel para estimar los valores de Shapley sin enumerar todas las coaliciones, aplicable a cualquier modelo de aprendizaje automático.
Tree SHAP
Implementación optimizada de SHAP específicamente diseñada para modelos basados en árboles, calculando los valores exactos de Shapley en tiempo polinomial gracias a la estructura arbórea.
Fidelidad Local
Medida que evalúa la precisión con la que un modelo de explicación local reproduce las predicciones del modelo original en la vecindad de una instancia específica, crucial para la confianza en la explicación.
Perturbación de Características
Técnica de análisis local que modifica sistemáticamente las características de entrada para observar los cambios en la predicción, identificando las características más sensibles para una decisión dada.
Atribución Local de Características
Proceso que cuantifica la contribución de cada característica a una predicción específica, diferente de la importancia global que considera todo el conjunto de datos.
Visualización del Límite de Decisión
Método gráfico que muestra cómo el modelo separa las clases alrededor de una predicción específica, ayudando a comprender los mecanismos de decisión locales y la robustez de la predicción.
Aproximación Lineal Local
Técnica que aproxima localmente un modelo no lineal mediante un modelo lineal simple alrededor de un punto de predicción, facilitando la interpretación de decisiones complejas.
Importancia de Permutación Local
Variante de la importancia por permutación que evalúa el impacto de la aleatorización de cada característica en una predicción específica en lugar de en todo el conjunto de datos.