信頼性
信頼性に関連する用語（12件）
信頼性は、AIシステムが一貫して正確かつ安定した出力を返す性質です。ハルシネーションの抑制、再現性の確保、エラー処理などにより、実運用に耐えるAIシステムを実現します。
用語一覧
ハルシネーション
Hallucination
LLMが事実に基づかない内容を、もっともらしく生成してしまう現象
ハーネスエンジニアリング
Harness Engineering
AIエージェントに何を見せ、何をどこまでさせ、出力をどう検証するかという「環境全体」を設計する取り組み
AIスロップ
AI Slop / Slop
品質や正確さへの配慮なく大量生産され、WebやSNSにあふれる低品質なAI生成コンテンツを指す俗語
説明可能AI
Explainable AI / XAI
AIの判断の根拠を人間が理解できる形で提示するための技術・研究分野
モデルカード
Model Card
機械学習モデルの用途・性能・制限・倫理的考慮事項を整理して公開する標準的なドキュメント形式
責任あるAI
Responsible AI
AIシステムの設計・開発・運用に公平性・透明性・説明責任などの倫理原則を組み込むための考え方・実践の総称
AI倫理
AI Ethics
AIの開発・利用が個人や社会に与える影響を、公平性・プライバシー・説明責任などの倫理的観点から検討する学際分野
解釈可能性
Interpretability
モデルの内部構造や判断過程を人間がどの程度理解できるかを表す性質、およびそれを高めるための研究分野
AI透明性
Transparency / AI Transparency
AIシステムの仕組み・判断根拠・学習データ等を利害関係者へ開示し理解可能にする性質・取り組み
公平性
Fairness / AIフェアネス
AIモデルの予測や判断が、性別・人種等の属性によって不当に偏らないことを求める性質・研究領域
説明責任
Accountability / AIアカウンタビリティ
AIシステムの判断やその影響について、開発者・運用者が責任を負い説明できる状態を確保する原則
Grounding
グラウンディング / 根拠付け
LLMの出力を検証可能な外部の事実情報やデータに結び付け、幻覚を抑え信頼性を高める性質・手法