公平性（AIフェアネス）とは
Fairness / AIフェアネス
AIモデルの予測や判断が、性別・人種等の属性によって不当に偏らないことを求める性質・研究領域
ひとことで言うと
AIの判断が、性別や人種などによって不公平に偏らないようにすること。
概要
公平性(Fairness)とは、AIモデルの予測や判断結果が、性別・人種・年齢等の属性によって不当に偏らないことを求める性質、およびそれを実現・評価するための研究領域を指す。 採用選考や与信審査、量刑予測等、人の処遇に影響する場面でAIが用いられる中、学習データやモデルに含まれるバイアスが特定の集団への不利益な判断につながる懸念から重要視されている。 公平性の定義には複数の立場がある。属性グループ間で予測結果の分布を揃えるグループフェアネス(demographic parityやequalized odds等の指標)や、似た個人には似た判断を下すことを求める個人フェアネス等が提案されている。ただし、複数の指標を同時に満たすことは数学的に困難な場合があり、どの定義を優先するかは応用領域ごとの判断が必要となる。
背景
学習データには社会に存在する既存の偏りが反映されやすく、AIモデルがその偏りを学習・増幅することで、特定の属性の集団に不利益な判断を下すリスクが指摘されてきた。 2016年、ProPublicaが再犯予測アルゴリズムCOMPASにおける人種間の予測精度の差を報じたことが、機械学習の公平性への社会的関心を大きく高めるきっかけとなった。
歴史
2011年、Dworkらが論文「Fairness Through Awareness」(2012年ITCS発表)で個人フェアネスの形式的な定義を提示し、機械学習における公平性研究の基礎の1つを築いた。 2016年のProPublicaによるCOMPAS報道以降、公平性指標の研究や、公平性を考慮した学習手法の開発が急速に進んだ。
利点
- 特定の属性への不当な差別を防ぎ、AIシステムへの信頼性を高められる
- 公平性指標を用いることで、モデルの偏りを定量的に評価・可視化できる
欠点
- 複数の公平性指標を同時に満たすことは数学的に不可能な場合があり、トレードオフの判断が必要になる
- 何をもって公平とするかは社会的・文化的な価値観に依存し、単一の技術的基準では解決しきれない
比較
- AI倫理 — 公平性はAI倫理が扱う論点の1つであり、技術的な指標・手法として具体化したもの
- アライメント — 公平性は主に判断結果の偏りに焦点を当てる一方、アライメントは人間の意図・価値観全般への適合をより広く扱う
- インクルーシブデザイン — 公平性はモデルの判断結果における属性間の偏りに焦点を当て、インクルーシブデザインはシステム全体の設計プロセスで多様な利用者を包摂する視点を持つ
関連用語
参考文献
- Research PaperFairness Through Awareness