AI 詞彙表
人工智能完整詞典
200
類別
2,608
子類別
30,011
術語
術語
锚点解释
一种局部解释方法，识别高精度的IF-THEN规则（锚点），这些锚点在局部锚定预测，确保未覆盖特征的修改不会影响预测结果。
術語
反事实解释
生成最小假设场景的方法，展示如何改变输入特征以获得不同的预测结果，从而解释模型的决策边界。
術語
局部代理模型
简化的模型，专门在特定预测的邻域内训练以近似复杂模型的行为，提供局部可解释的解释。
術語
层相关传播
反向传播技术，将神经网络最终预测重新分配到各层直至输入特征，量化它们的个体贡献。
術語
DeepLIFT
深度神经网络的相关性归因方法，通过比较每个神经元与其参考状态的激活，通过差值而非梯度计算贡献。
術語
积分梯度
归因技术，沿着从基线参考到当前输入的路径积分梯度，确保满足敏感性和实现不变性等公理性质。
術語
遮挡敏感性
局部解释方法，系统性地遮挡输入区域并观察对预测的影响，识别对模型决策至关重要的区域。
術語
影响函数
分析技术，估计如果修改特定训练点，模型参数及其预测将如何变化，识别对预测有影响的数据。
術語
ICE（个体条件期望）
可视化方法，展示当某个特征值变化时，模型对单个观测的预测如何变化，揭示异质性效应和交互作用。
術語
核SHAP
SHAP的变体，使用核方法估计Shapley值而无需枚举所有联盟，适用于任何机器学习模型。
術語
树SHAP
专门为基于树的模型优化的SHAP实现，利用树结构在多项式时间内精确计算Shapley值。
術語
局部保真度
评估局部解释模型在特定实例邻域内复制原始模型预测的准确性的度量，对解释可信度至关重要。
術語
特征扰动
局部分析技术，系统修改输入特征以观察预测变化，识别对给定决策最敏感的特征。
術語
局部特征归因
量化每个特征对特定预测贡献的过程，不同于考虑整个数据集的全局重要性。
術語
决策边界可视化
图形化方法，显示模型在特定预测周围如何分离类别，帮助理解局部决策机制和预测鲁棒性。
術語
局部线性近似
在预测点附近用简单线性模型局部逼近非线性模型的技术，便于解释复杂决策。
術語
局部置换重要性
一种置换重要性的变体，评估对每个特征进行随机化处理对特定预测的影响，而不是对整个数据集的影响。
🔍