説明可能AIとは
Explainable AI / XAI
AIの判断の根拠を人間が理解できる形で提示するための技術・研究分野
ひとことで言うと
AIが「なぜその判断をしたのか」を人間に分かる形で示すための技術。融資審査や医療などの説明責任がある場面で必要になる。
概要
説明可能AI（XAI）とは、AIの判断の根拠を人間が理解できる形で提示するための技術・研究分野を指す。 深層学習モデルは高い精度を出す一方で内部の判断過程がブラックボックスになりやすく、金融の与信や医療診断のような説明責任を伴う用途では判断根拠の提示が求められる。 特徴量の寄与を算出するSHAPやLIME、画像の注目領域を可視化する手法、判断が変わる条件を示す反実仮想説明などが代表的な手法になる。 AI規制の整備に伴い、透明性の要件を満たす手段としての重要性も高まっている。
歴史
用語としては、2010年代半ばに米国DARPAが開始した同名の研究プログラムを通じて広く知られるようになった。
利点
- 判断根拠を提示することで、意思決定者や規制当局への説明責任を果たしやすくなる
- モデルのバイアスや欠陥を発見しやすくなり、デバッグや改善につなげられる
欠点
- 精度の高い複雑なモデルほど、忠実性の高い説明を得にくくなる傾向がある
- 生成された説明が、モデルの実際の判断根拠を必ずしも正確に反映しているとは限らない
比較
- メカニスティック解釈可能性 — 説明可能AIが個々の判断の根拠を人間へ提示することを目的とするのに対し、メカニスティック解釈可能性はモデル内部の計算の仕組みそのものの解明を目指す
関連用語
よくある質問
説明可能AIとメカニスティック解釈可能性の違いは何か。
説明可能AIが個々の判断の根拠を人間に分かりやすく提示することを目的とするのに対し、メカニスティック解釈可能性はモデル内部の計算メカニズムそのものの解明を目指す、より基礎研究的なアプローチになる。
SHAPやLIMEとは何か。
いずれも入出力の関係から特徴量ごとの寄与度を推定する代表的な説明可能AIの手法で、個々の予測に対してどの入力がどの程度結果に影響したかを示す。