研究者たちは、AIを利用したアプリに潜む新たな危険に警鐘を鳴らしています。彼らが発表した論文によれば、生成AIを組み込んだアプリケーションを狙うマルウェア「Morris II」は、ユーザーが一切気づかないうちに、自らを拡散させながら様々な攻撃を実行します。
このワームは、「Adversarial self-replicating prompt」という特殊な指示をAIに与えることで、悪意のある動作を引き起こし、それを自己複製しながら他のアプリへと波及させていきます。
スパム送信やプロパガンダの拡散、個人データの漏洩など、その攻撃の手口は多岐にわたります。
さらに、ユーザーの介入を一切必要とせず、生成AIのシステムの脆弱性をついて行動するため、発見や対策が難しいのです。
この技術の進歩には目覚ましいものがありますが、それに伴うリスクにも注意が必要です。
出典 : https://www.itmedia.co.jp/news/articles/2404/05/news049.html