AI用語集
人工知能の完全辞典
サロゲートモデル
複雑なモデルの挙動を近似するために訓練された、シンプルで解釈可能な機械学習モデル。元のモデルの予測を理解することを可能にする。
グローバルサロゲートモデル
ブラックボックスモデルの全体的な挙動をデータセット全体で模倣する解釈可能なモデル。複雑なモデルの意思決定の全体像を提供する。
ローカルサロゲートモデル
複雑なモデルの挙動を個々の予測の特定の近傍でのみ近似するシンプルなモデル。局所レベルでの意思決定を説明する。
モデルの忠実度
サロゲートモデルが元のブラックボックスモデルの予測を忠実に再現する能力の尺度。決定係数R²や平均二乗誤差によって評価されることが多い。
サロゲート決定木
複雑なモデルの挙動を近似するためにサロゲートモデルとして使用されるシンプルな決定木。意思決定ルールの直感的な視覚的解釈を提供する。
特徴量の重要度
モデルの予測における各入力特徴量の相対的重要度の定量的な尺度。サロゲートモデルの係数や他の重み付け方法を通じて計算される。
局所線形回帰
特定の予測周辺の重み付けされたデータサブセットに適合させた線形サロゲートモデル。特徴量と予測の間の関係を局所的に説明することを可能にする。
反実仮想説明
モデルの予測を変更するための最小限の変更を加えた例を生成するアプローチ。重要な特徴量を特定するためにサロゲートモデルを介して実装されることが多い。
モデルの複雑さ
モデルの構造的な洗練度を測定する指標で、代理モデルでは解釈性を保証するために低い複雑さ（浅い木構造、線形モデル）が優先される。
区分近似
特徴空間を領域に分割し、各領域が独自の単純な代理モデルを持つ戦略。解釈性を維持しながら柔軟な近似を可能にする。
カーネル重み付け
局所代理モデルで使用される技術で、関心点に近いサンプルに高い重みを与え、モデルの局所的な振る舞いのより良い近似を保証する。
摂動サンプリング
元の特徴を摂動させることで予測周辺で合成データを生成する方法。関連する近傍で局所代理モデルを訓練するために使用される。
解釈的妥当性
代理モデルによって提供される説明がドメイン知識と一致し、人間の意思決定に有用であるかを測定する評価基準。
代理関数
元のモデルの複雑な決定関数を近似する簡略化された数学的表現。非技術的なユーザーにとって予測を理解可能にするために不可欠。