技術

サイドチャネル攻撃とは

Side-Channel Attack

処理時間や消費電力、キャッシュの挙動など、システムの意図しない副次的な物理・実行情報からモデルや秘密情報を推定する攻撃

ひとことで言うと

AIそのものの答えではなく、計算にかかる時間や消費電力といった「漏れ出た情報」から、内部の秘密を推測する攻撃。

概要

サイドチャネル攻撃は、システムが処理を実行する際に副次的に生じる情報(処理時間、消費電力、電磁波、キャッシュへのアクセスパターンなど)を観察することで、本来隠されているべき内部の秘密情報を推定する攻撃。暗号分野で広く研究されてきた手法だが、機械学習モデルに対しても、推論にかかる処理時間や消費電力の違いから入力データの特徴やモデルの内部構造、学習データの所属情報などを推定する攻撃として応用されている。例えば、モデルの層構成や分岐処理の有無によって推論時間が変化する場合、その時間差を観測するだけでモデルアーキテクチャの一部を推定できることがある。対策としては、入力によらず処理時間や消費電力を一定に保つ定数時間実装(constant-time implementation)や、ノイズの付加によって観測される信号を攪乱する手法などが用いられる。

背景

暗号アルゴリズムそのものは数学的に安全でも、実際にハードウェア上で実装・実行される際には、処理時間や消費電力といった副次的な情報が漏れ出てしまうことがある。この物理的な実装レベルの情報漏洩は、アルゴリズムの理論的な安全性とは別の攻撃対象として、暗号分野でサイドチャネル攻撃として研究されてきた。機械学習モデルのハードウェア実装やAPIサービスにおいても、同様の副次的情報からモデルや入力データに関する情報が漏洩しうると指摘されている。

歴史

1996年: Paul KocherがCRYPTO '96で論文Timing Attacks on Implementations of Diffie-Hellman, RSA, DSS, and Other Systemsを発表。処理時間の差を観測するタイミング攻撃によって秘密鍵を復元できることを示し、サイドチャネル攻撃という研究領域を確立した。

アーキテクチャ

攻撃者は対象システムに対し入力を与えながら、処理時間・消費電力・電磁波・キャッシュアクセスパターンといった、システムの出力そのものではない副次的な物理・実行情報を測定する。測定したサイドチャネル情報と入力・出力の関係を統計的に分析することで、本来観測できないはずの内部状態(暗号鍵、モデルの構造やパラメータ、学習データの所属情報など)を推定する。機械学習モデルに対しては、条件分岐やレイヤーごとの計算量の違いによって生じる推論時間の差を手がかりに、モデルアーキテクチャや使用されているレイヤーの種類を推定する手法などが研究されている。

ワークフロー

攻撃者が対象システムへ入力を与えながら、処理時間や消費電力などの副次的な情報を測定する。測定したサイドチャネル情報と既知の入力・出力の対応関係を統計的に分析する。分析結果から、本来秘匿されているべき内部情報(鍵、モデル構造、学習データの所属情報など)を推定する。

欠点

モデルやアルゴリズム自体に理論上の欠陥がなくても、実装レベルの副次的情報から秘密情報が漏洩しうる
定数時間実装やノイズ付加などの対策は、処理性能や実装の単純さとのトレードオフになりやすい
クラウドAPIのように処理時間や応答パターンを外部から観測できる環境では、対策が難しくなりやすい

比較

モデル抽出攻撃 — サイドチャネル攻撃は処理時間や消費電力などの副次的情報を手がかりにする点で、入出力の観察のみに基づくモデル抽出攻撃より観測できる情報の種類が広い
メンバーシップ推論攻撃 — サイドチャネル攻撃で得られる処理時間などの情報は、メンバーシップ推論攻撃における会員/非会員の判別材料として利用されることがある

よくある質問

機械学習モデルに対するサイドチャネル攻撃の例は？

推論にかかる処理時間や消費電力の違いから、モデルのレイヤー構成や使用されているアーキテクチャの一部を推定する攻撃や、処理時間の差を学習データの所属推定に利用する攻撃などが研究されている。

サイドチャネル攻撃への対策は？

入力によらず処理時間や消費電力を一定に保つ定数時間実装や、観測される信号にノイズを加えて攻撃者の分析を妨げる手法などが用いられる。

参考文献

Research PaperTiming Attacks on Implementations of Diffie-Hellman, RSA, DSS, and Other Systems