AI
モデルドリフト
運用開始後、時間の経過とともに AI の精度が静かに劣化していく現象。
導入時に高い精度を確認したモデルでも、実際のデータの傾向が時間とともに変化すると、学習時の前提とずれが生じて判断の精度が落ちていく。
一度きりの検証では検知できず、運用開始後も継続的に出力の精度をモニタリングする仕組みが必要になる。
よくある誤解
一度精度を検証すれば安心だと思われがちだが、時間とともに実データの傾向が変わり精度が静かに劣化していく。エラーが出るわけではなく、それらしい答えを返し続けるため気づきにくい。導入時の検証結果を最終評価とせず、運用後も定期的に精度を測り直す運用を組み込む必要がある。
関連する用語
AIガバナンス
誰が AI 導入を承認し、誰が結果に責任を負うかという組織の意思決定体制。
ヒューマン・イン・ザ・ループ
AI の判断や生成結果に、人間の確認・承認を組み込む運用設計。