生成AIがサイバー攻撃に悪用される事例が増加しています。詐欺メールや偽動画の作成にAIが使われる一方で、攻撃側の効率化によって被害が拡大する可能性が指摘されています。「人格」を持ったAIが攻撃を仕掛ける時代も近いという専門家の声もあります。
不適切な利用を防ぐ規制機能を持つAIも、特殊な質問を投じることで規制を回避する「ジェイルブレイク」が問題になっています。攻撃側はインターネット上で議論しながら、新たな悪用手法を考案し続けており、開発側は対応に苦慮しています。
悪用防止策を強化すれば、利便性が損なわれるジレンマも存在し、安全と利用者の利便性のバランスを取ることが課題となっています。生成AI技術の安全な利用と犯罪からの防御は、今後も進化し続けるでしょう。
出典 : 生成AIをサイバー攻撃に悪用 ラップで規制避け危険情報入手 自律化も「時間の問題」 https://www.sankei.com/article/20241006-IB7OP5TXZBN57G4FWY4X7E46RI/
