サイバーセキュリティの専門家ヨハン・レーベルガー氏が、GoogleのAI「Gemini」に偽情報を記憶させる手法を発見し、動画で実証した。
レーベルガー氏は、アインシュタインについての文書に隠された命令をGeminiが処理することで、ユーザーの経歴を改ざんさせることに成功した。
Geminiのメモリを利用する機能を悪用し、特定の単語の入力をトリガーに不正な情報を永続的に記憶させるのだ。
Googleは以前からレーベルガー氏の指摘を受けて対策を講じていたが、より巧妙な方法で防護を突破する手口が発覚した。
リスクは低いとされるが、悪用された場合の影響は深刻で、偽情報に基づいた意思決定が行われてしまう可能性も指摘されている。
出典 : Geminiの記憶を「汚染」 生成AIの弱点を突くハッキングの手口、海外の研究者が報告 https://www.itmedia.co.jp/aiplus/articles/2502/21/news080.html
