セキュリティ
セキュリティに関連する用語（4件）
セキュリティは、AIシステムを攻撃や悪用から守るための技術・対策です。プロンプトインジェクション、データポイズニング、モデルの悪用防止など、AI特有の脅威への対応が求められます。
用語一覧
モデル抽出攻撃
Model Extraction Attack / Model Stealing
APIへの大量の問い合わせと応答の観察から、対象モデルの挙動を模倣する代替モデルを構築する攻撃
技術セキュリティLLM
電子透かし
Watermarking / AIウォーターマーク
生成テキストの単語選択に統計的な偏りを埋め込み、AI生成コンテンツかどうかを後から検出可能にする技術
技術セキュリティLLM
バックドア攻撃
Backdoor Attack / トロイの木馬攻撃
学習データに特定のトリガーを仕込み、そのトリガーが入力に含まれたときだけモデルに異常な挙動をさせる攻撃
技術セキュリティデータポイズニング
シャドーAI
Shadow AI
組織のIT部門の承認や管理を経ずに、従業員が業務で無断利用するAIツール
技術セキュリティプライバシー