Re Reference AI

技術

ステガノグラフィー(Steganography)とは

Steganography

データや画像の中に他の情報を人に気づかれない形で埋め込み隠す技術

セキュリティLLM

ひとことで言うと

画像や文章の中に、別の情報をこっそり隠して埋め込む技術。

概要

ステガノグラフィー(Steganography)とは、画像・音声・テキストなどのデータの中に、別の情報を人間に気づかれない形で埋め込み隠す技術。 暗号化がメッセージの内容を読めなくすることを目的とするのに対し、ステガノグラフィーはメッセージの存在自体を隠すことを目的とする点で異なる。 AI分野では、Digital Watermarking(電子透かし)がステガノグラフィーの技術的な応用の1つとして位置づけられ、生成AIが出力したテキストや画像に検出可能な情報を埋め込む手法として利用される。 一方で敵対的な用途として、ステガノグラフィーを用いてプロンプトインジェクション攻撃の指示を画像内に隠す手法も研究されている。

歴史

「ステガノグラフィー」という語は、1499年にヨハネス・トリテミウスが執筆した「Steganographia」に由来するとされる、暗号技術の中でも古い分野の1つ。

利点

  • 情報の存在自体を第三者に気づかれにくくできる
  • 生成AIの文脈では、コンテンツへAI生成の痕跡を目立たないよう埋め込む用途に応用できる

欠点

  • 埋め込んだ情報は、画像の圧縮や加工によって破損・消失しやすい
  • プロンプトインジェクション等、悪意ある指示を隠す目的で悪用されるリスクがある

比較

  • 電子透かし電子透かしは、ステガノグラフィーの技術をAI生成コンテンツの検出に応用したものの1つ
  • プロンプトインジェクションステガノグラフィーは、プロンプトインジェクションの指示を画像等に隠す攻撃手法にも応用されうる

関連用語

電子透かしプロンプトインジェクションガードレール