説明可能AIとは
Explainable AI / XAI
AIの判断の根拠を人間が理解できる形で提示するための技術・研究分野
ひとことで言うと
AIが「なぜその判断をしたのか」を人間に分かる形で示すための技術。融資審査や医療などの説明責任がある場面で必要になる。
概要
説明可能AI（XAI）とは、AIの判断の根拠を人間が理解できる形で提示するための技術・研究分野を指す。 深層学習モデルは高い精度を出す一方で内部の判断過程がブラックボックスになりやすく、金融の与信や医療診断のような説明責任を伴う用途では判断根拠の提示が求められる。 特徴量の寄与を算出するSHAPやLIME、画像の注目領域を可視化する手法、判断が変わる条件を示す反実仮想説明などが代表的な手法になる。 AI規制の整備に伴い、透明性の要件を満たす手段としての重要性も高まっている。
歴史
用語としては、2010年代半ばに米国DARPAが開始した同名の研究プログラムを通じて広く知られるようになった。
比較
- メカニスティック解釈可能性 — 説明可能AIが個々の判断の根拠を人間へ提示することを目的とするのに対し、メカニスティック解釈可能性はモデル内部の計算の仕組みそのものの解明を目指す