アルゴリズム影響評価とは
Algorithmic Impact Assessment / AIA
AIシステムの導入前に、人権・公平性・社会への影響を体系的に評価する手続き
最終更新:
ひとことで言うと
AIを実際に使い始める前に、社会や個人への悪影響がないかをあらかじめチェックする手続き。
概要
アルゴリズム影響評価(Algorithmic Impact Assessment, AIA)とは、AIシステムを導入・運用する前に、そのシステムが個人や社会に与えうる影響(差別的な判断のリスク、プライバシーへの影響、権利侵害の可能性等)を体系的に評価する手続き。 環境影響評価(Environmental Impact Assessment)の考え方をAIシステムに応用したもので、公共機関がAIを調達・導入する際の説明責任を果たす手段として、一部の国・自治体で制度化されている。 EU AI Actにおける高リスクAIシステムへの適合性評価(conformity assessment)や基本的人権影響評価(Fundamental Rights Impact Assessment)も、アルゴリズム影響評価と近い性質を持つ制度として位置づけられる。
歴史
2019年、カナダ政府が「自動意思決定に関する指令(Directive on Automated Decision-Making)」を発効し、政府機関が自動意思決定システムを導入する際にAlgorithmic Impact Assessmentツールを用いた評価を義務付けた。 2024年、EU AI Actが高リスクAIシステムを対象に基本的人権影響評価の実施を義務付けた。
利点
- AIシステムの導入前にリスクを洗い出し、事後対応ではなく予防的な対策を取りやすくなる
- 評価結果の公開により、行政機関等の説明責任を果たしやすくなる
欠点
- 評価項目や深刻度の判定基準が制度・地域によって異なり、標準化が進んでいない
- 評価自体に専門知識と時間がかかり、導入のスピードを遅らせる要因になりうる
比較
関連する用語
参考文献
- Official WebsiteDirective on Automated Decision-Making (Government of Canada)