AI
説明可能性
Explainable AI（XAI）
AI がなぜその判断をしたのかを、人間が理解できる形で示せるかどうか。
与信審査や採用選考のように、AIの判断が人の処遇に影響する場面では、判断の根拠を求められることが多い。この根拠をどこまで人間の言葉で説明できるかを指す。
重要度に応じてどの判断に説明可能性を求めるかを、事前に決めておく必要がある業務領域である。
よくある誤解
AIの判断根拠を後から人間の言葉で説明できることだと単純に思われがちだが、多くの高性能モデルは仕組み上「なぜその答えか」を厳密には説明できない。説明のように見える文章をAI自身に生成させることはできるが、それが実際の計算過程を正しく表しているとは限らず、説明可能性が要る業務ではモデルの選び方そのものから見直す必要がある。
関連する用語
AIのバイアス
学習データの偏りが、AI の判断結果に統計的な偏りとして現れること。
AIガバナンス
誰が AI 導入を承認し、誰が結果に責任を負うかという組織の意思決定体制。