人間中心AIデザインとは
Human-Centered AI Design / HCAI
AIシステムの設計において、性能だけでなく人間のニーズ・能力・信頼を中心に据える設計思想・手法
ひとことで言うと
AIを作るとき、性能だけでなく人が使いやすく信頼できることを中心に考える設計の考え方。
概要
人間中心AIデザイン(Human-Centered AI Design)とは、AIシステムの設計においてモデルの性能向上のみを追求するのではなく、利用者のニーズ・能力・信頼、そして人間による制御可能性を中心に据える設計思想・手法を指す。 自動化の度合いを高めることと、人間による理解・制御を保つことは必ずしも両立しないというジレンマ(自動化と人間制御のパラドックス)を踏まえ、AIを人間の能力を代替するものではなく拡張・補助するものとして位置づける立場を取ることが多い。 具体的には、AIの判断根拠を利用者が把握できるUIの設計、誤った出力を利用者が容易に修正・拒否できる仕組み、責任の所在を明確にした人間の関与ポイントの設計等が含まれる。
歴史
2020年、Ben Shneidermanが著書『Human-Centered AI』(Oxford University Press)で、高い自動化と高い人間制御を両立させる設計原則を体系的に提示し、人間中心AIデザインの議論の中心的な参照点となった。
利点
- 利用者の信頼や理解を得やすい設計となり、AIシステムの実運用における受容性が高まる
- 人間による監督・介入の余地を残すことで、誤った自動判断による被害を抑えやすい
欠点
- 人間の関与を前提とする分、完全自動化と比べて処理速度や効率は低下しやすい
- 何を『人間中心』とするかの具体的な設計基準は応用領域ごとの検討が必要で、標準化しにくい
比較
- 説明可能AI — 説明可能AIは判断根拠を提示する技術、人間中心AIデザインはそれを含むより広い設計思想全体を指す
- AI倫理 — 人間中心AIデザインは、AI倫理で議論される人間の自律性尊重等の原則を具体的な設計手法に落とし込んだもの
- 参加型設計 — 人間中心AIデザインは設計思想全体を指し、参加型設計は当事者を設計プロセスに直接関与させる具体的な実践手法
- インクルーシブデザイン — インクルーシブデザインは、人間中心AIデザインが重視する利用者中心の視点を多様性・包摂性の観点から具体化したもの