AIバイアス（アルゴリズムバイアス）とは
Bias / AI Bias / アルゴリズムバイアス
学習データや設計の偏りにより、AIが性別・人種・年齢などの属性によって不公平な出力や判断をしてしまう問題
最終更新:
概要
AIバイアスは、AIモデルの出力や判断が特定の属性をもつ人々に対して系統的に偏る問題。原因の多くは学習データにあり、社会に存在する偏見や、特定の集団のデータが少ないといった偏りをモデルがそのまま学習してしまう。ラベル付けの基準や評価指標の選び方、利用場面の設計から生じることもある。 LLMでは、職業と性別を結び付けたステレオタイプな文章を生成する、特定の言語や文化圏の視点に偏った回答をする、といった形で現れる。採用・融資・医療など人に影響する判断でAIを使う場合、問題はより重大になる。 主な対策は、学習データの見直し、属性ごとの性能差の測定、アライメントによる出力の調整、導入前の影響評価など。ただし「公平」の定義は複数あり、すべてを同時に満たせない場合もあるため、用途に応じてどの基準を重視するかを決める必要がある。