Re Reference AI

技術

AI透明性（Transparency）とは

Transparency / AI Transparency

AIシステムの仕組み・判断根拠・学習データ等を利害関係者へ開示し理解可能にする性質・取り組み

安全性信頼性

ひとことで言うと

AIがどう動いていて、何のデータで学習されたかを、利用者にも分かるように開示すること。

概要

AI透明性(Transparency)とは、AIシステムの動作の仕組みや学習に使われたデータ、判断の根拠などを、利用者や規制当局などの利害関係者が理解できる形で開示する性質・取り組みを指す。 モデルカードやデータシートによる学習データ・性能の開示、システムプロンプトの公開、AIが生成したコンテンツであることの明示など、様々な形で実践される。 EU AI Actは、AIシステムの種類やリスクレベルに応じて透明性に関する要件を定めており、利用者へAIとの対話であることを通知する義務や、学習データの概要を開示する義務などが含まれる。

歴史

2019年、EUのHLEG(AIに関するハイレベル専門家会議)が公表した「Ethics Guidelines for Trustworthy AI」で、透明性は信頼できるAIの要件の1つとして位置づけられた。 2024年成立のEU AI Actでは、特定のAIシステムに対する透明性義務が法制化された。

利点

  • 利用者がAIの限界やリスクを理解した上で利用しやすくなる
  • 規制当局や第三者による検証を受けやすくなり、信頼性の向上につながる

欠点

  • モデルの詳細な開示は、営業秘密や悪用リスクとのトレードオフになる場合がある
  • 開示された情報が専門知識のない利用者には理解しにくいことがある

比較

  • 説明可能AI — 透明性は開示・情報提供全般を指す広い概念、説明可能AIは判断根拠を説明する技術
  • 透明性レポート — 透明性レポートは、透明性を実践する具体的な文書の1つ
  • 説明責任 — 透明性は情報開示そのものを指し、説明責任は開示を前提とした責任の所在・体制を指す

関連用語

説明可能AI透明性レポート責任あるAIAI倫理説明責任

参考文献