説明責任（AIアカウンタビリティ）とは
Accountability / AIアカウンタビリティ
AIシステムの判断やその影響について、開発者・運用者が責任を負い説明できる状態を確保する原則
ひとことで言うと
AIが下した判断について、作った側や使う側がきちんと説明し責任を持てるようにすること。
概要
説明責任(Accountability)とは、AIシステムの判断やその結果生じる影響について、開発者・提供者・運用者が責任の所在を明確にし、誤りや疑義が生じた際に説明できる状態を確保する原則を指す。 AIの判断過程がブラックボックス化しやすいことから、誰がどの範囲まで責任を負うのかが曖昧になりやすく、誤った判断や不利益が生じた際の是正・救済を難しくする懸念がある。 実践上は、判断根拠を追跡できる記録(監査ログ)の保持、人間による最終確認や介入の仕組み(human-in-the-loop)、問題発生時の責任分担を明文化した体制整備等を通じて確保される。 透明性(Transparency)がAIの仕組みや根拠を開示すること自体を指すのに対し、説明責任はその開示を前提として、誰が責任を負い是正するかという体制・原則を指す点で区別される。
歴史
2019年、EUのAIに関するハイレベル専門家会議(HLEG)が公表した「Ethics Guidelines for Trustworthy AI」で、説明責任は信頼できるAIを構成する要件の1つとして明記された。
利点
- 問題発生時に責任の所在が明確になり、是正や救済につながりやすくなる
- 開発・運用プロセスの記録が整備され、内部統制やガバナンスの向上に寄与する
欠点
- AIの判断に開発者・提供者・利用者等の複数の主体が関与する場合、責任分担の線引きが難しい
- 説明責任を果たすための監査ログ整備等は、追加の開発・運用コストを伴う
比較
関連用語
参考文献
- Official WebsiteEthics Guidelines for Trustworthy AI (European Commission)