Glosario IA
El diccionario completo de la Inteligencia Artificial
Rendición de Cuentas Algorítmica
Mecanismo formal que permite atribuir claramente la responsabilidad de las decisiones tomadas por un sistema de IA a las diferentes partes interesadas involucradas en su diseño y despliegue.
Debiasaje Algorítmico
Conjunto de técnicas destinadas a identificar, medir y corregir los sesgos sistemáticos presentes en los modelos de IA para garantizar resultados más justos.
Equidad Distributiva
Principio ético que garantiza que las ventajas y desventajas de las decisiones algorítmicas se distribuyen de manera justa entre los diferentes grupos demográficos.
Gobernanza de la IA
Marco organizacional y regulatorio que define las responsabilidades, procesos y controles para garantizar un desarrollo y despliegue éticos de los sistemas de IA.
Evaluación de Impacto Algorítmica
Evaluación sistemática de los efectos potenciales de un sistema de IA sobre los derechos fundamentales, la igualdad y la no discriminación antes de su puesta en producción.
Justicia Procesal Algorítmica
Principio que garantiza que los procesos de toma de decisiones automatizados son transparentes, coherentes y permiten una participación significativa de las personas afectadas.
Mecanismo de Recurso
Procedimiento formal que permite a los individuos impugnar una decisión algorítmica y obtener una revisión humana o una corrección en caso de error.
Responsabilidad Difusa
Problema ético donde la responsabilidad de una decisión automatizada se comparte entre múltiples actores, dificultando la atribución clara de las faltas.
Transparencia Operacional
Obligación de documentar y comunicar los procesos de decisión, los datos utilizados y los límites de los sistemas de IA a las partes interesadas.
Verificación Formal
Enfoque matemático riguroso para demostrar que los algoritmos cumplen formalmente propiedades especificadas, garantizando su comportamiento esperado.
Zona de Incertidumbre Algorítmica
Dominio de funcionamiento donde el modelo presenta una baja confianza en sus predicciones, requiriendo una intervención humana o precauciones adicionales.