PIIとは
Personally Identifiable Information / 個人識別情報
氏名・住所・連絡先等、個人を特定できる情報の総称
ひとことで言うと
氏名や住所など、個人を特定できてしまう情報のこと。
概要
PII(Personally Identifiable Information, 個人識別情報)とは、氏名・住所・電話番号・メールアドレス・マイナンバーやクレジットカード番号等、単独または他の情報と組み合わせることで特定の個人を識別できる情報の総称。 LLMアプリケーションの文脈では、学習データに含まれる個人情報は、モデルの出力を通じて意図せず漏洩することがある。 また、ユーザーが入力したPIIは、ログや第三者のAPIへの送信を通じて不適切に扱われることもある。 GDPRや個人情報保護法等の法規制の対象になりやすく、LLMアプリケーションを設計する際は、入力からPIIを検出・マスキングする、ログに平文で保存しない等の対策が求められる。
背景
LLMは大量のWebテキストを学習に用いるため、その中に含まれる個人情報を意図せず記憶し、特定の入力に対して再現してしまう可能性が指摘されている。 また、チャット等でユーザーが入力する内容にPIIが含まれることも多く、これらをどう扱うかがLLMアプリケーションの設計における重要な課題になっている。
欠点
- 学習データに含まれるPIIが、モデルの出力を通じて意図せず漏洩するリスクがある
- 入力されたPIIは、ログの保存やAPI経由での外部送信を通じて不適切に扱われることがある
- 個人情報保護法やGDPR等の法規制への対応が必要になる場合がある
比較
関連用語
よくある質問
LLMにPIIを入力しても大丈夫？
サービスの利用規約やデータの取り扱い方針によって異なる。 学習への再利用の有無、ログの保存期間等を確認し、機密性の高い情報の入力は避けるか、マスキングした上で利用することが推奨される。
参考文献
- DocumentationNIST: Guide to Protecting the Confidentiality of PII