プライバシー保護学習とは
Privacy-preserving Learning
個人情報や機密データを保護しながらモデルを学習するための技術群
概要
プライバシー保護学習は、学習データに含まれる個人情報や機密情報が漏洩・特定されるリスクを抑えながら機械学習モデルを訓練するための技術の総称。 代表的な手法として、学習データにノイズを加えて個々のサンプルの影響を統計的に隠す差分プライバシー(Differential Privacy)や、データを各拠点に置いたままモデルの更新のみを共有する連合学習(Federated Learning)がある。 医療データや個人の対話履歴など、機密性の高いデータを扱う場面で、性能とプライバシー保護のトレードオフを管理する目的で用いられる。 LLMにおいても、学習データの記憶(memorization)や、モデルの出力から学習データが復元されるリスクへの対策として関心が高まっている。