自動意思決定（自動化された意思決定）とは
Automated Decision-Making / ADM / 自動化された意思決定
人間の関与なしに、アルゴリズムやAIが個人に関する判断を下す仕組み
最終更新:
概要
自動意思決定(Automated Decision-Making, ADM)とは、人間が実質的に関与せず、アルゴリズムや機械学習モデルなどの自動処理だけで個人に関する判断を下すこと。 ローンの審査、採用時の書類選考、保険料の算定、行政による給付の判定などが代表的な例で、個人の特徴や行動を分析して評価・予測するプロファイリングと組み合わせて使われることが多い。 大量の判断を一貫した基準で高速に処理できる一方、判断の根拠が本人に見えにくく、学習データに含まれる偏りが差別的な結果につながるおそれがある。 そのため法規制の対象となっており、EUの一般データ保護規則(GDPR)第22条は、法的効果やそれに類する重大な影響を生じる判断を、自動処理のみに基づいて受けない権利を定めている。 例外として自動意思決定が認められる場合でも、人間による介入を求める権利、自分の見解を表明する権利、判断に異議を申し立てる権利といった保護措置が求められる。 実務上は、最終判断に人間が関与するHuman-in-the-Loopの設計や、判断理由を示す説明可能AIの技術、導入前のアルゴリズム影響評価などが対策として用いられる。
歴史
1995年、EUのデータ保護指令(Directive 95/46/EC)第15条が、自動処理のみに基づく個人に関する決定(automated individual decisions)を受けない権利を定めた。 2016年にGDPRが採択され、2018年5月の適用開始とともに、第22条がプロファイリングを含む自動意思決定の規律を引き継いだ。 2019年、カナダ政府が「自動意思決定に関する指令(Directive on Automated Decision-Making)」を発効し、政府機関が自動意思決定システムを導入する際の影響評価を義務付けた。 2023年12月、EU司法裁判所はSCHUFA事件(C-634/21)において、信用スコアが第三者の契約判断を実質的に左右する場合、スコアの算出自体がGDPR第22条の自動意思決定に当たると判断した。
利点
- 大量の判断を一貫した基準で高速に処理できる
- 担当者ごとの判断のばらつきを抑えられる
欠点
- 判断の根拠が本人に見えにくく、説明や異議申し立てが難しくなりやすい
- 学習データに含まれる偏りが、差別的な判断として再生産されるおそれがある
- GDPRなどの規制により、人間の関与や説明の仕組みを用意する必要がある
比較
- Human-in-the-Loop — Human-in-the-Loopは判断の過程に人間を組み込む設計で、自動処理のみに基づく判断を避けるための手段として用いられる
- アルゴリズム影響評価 — アルゴリズム影響評価は、自動意思決定システムを導入する前に個人や社会への影響を評価する手続き
関連する用語
参考文献
- SpecificationRegulation (EU) 2016/679 (GDPR)
- Official WebsiteDirective on Automated Decision-Making (Government of Canada)