サイバーセキュリティ研究者たちは、大規模言語モデル(LLM)を使用する際のユーザーのプライバシーを脅かす新しいサイドチャネル攻撃を明らかにしました。
攻撃者は、キャッシュを共有する際のタイミングの違いを利用して、ユーザーが意図せずに入力した情報をリークさせてしまいます。
その結果、攻撃者はユーザーの秘密のクエリを高い精度で再構築することが可能となります。
研究者たちは、性能の向上に伴うセキュリティの穴を指摘し、LLM推論の改善と同時に、プライバシーとセキュリティの重要性を強調しています。
LLMが医療、金融、法務などの敏感な領域でますます重要な役割を果たすにつれ、パフォーマンス最適化とユーザーのプライバシーの間の微妙なバランスに対処することが求められます。
この研究はAIコミュニティに、タイミングベースのサイドチャネル攻撃に対処するために、プライバシーを保護するための堅牢な技術の実装を提案しています。
出典 : InputSnatch – A Side-Channel Attack Allow Attackers Steal The Input Data From LLM Models https://cybersecuritynews.com/inputsnatch-novel-side-channel-attack/
