AI
AIのバイアス
学習データの偏りが、AI の判断結果に統計的な偏りとして現れること。
採用選考や与信審査のようにAIが判断を補助する場面で、学習に使ったデータに含まれる過去の傾向の偏りが、特定の属性の人に対する評価の偏りとして出力に現れることがある。
意図的な差別的発言とは別の話で、学習データの構成そのものに起因するため、モデルを作った側の悪意の有無とは関係なく発生する。
よくある誤解
差別的な発言をするかどうかの話だと思われがちだが、実務では学習データの偏りが特定の層を不利に評価する統計的な偏りの方が実害が大きい。人事や与信のような判断に使う場合は、出力そのものだけでなく、属性ごとの評価結果に差が出ていないかを定期的に確認する運用が要る。
関連する用語
説明可能性
AI がなぜその判断をしたのかを、人間が理解できる形で示せるかどうか。
AIガバナンス
誰が AI 導入を承認し、誰が結果に責任を負うかという組織の意思決定体制。