2025年1月、新たな話題を呼んだ中国製AI「DeepSeek」ですが、その安全性が問題視されています。セキュリティベンダーのPalo Alto Networksは、AIのセーフガードを回避する「ジェイルブレーク」手法で有害コンテンツの生成に成功しました。
これはAIセキュリティにとって大きな警告であり、エンドユーザー企業にはリスク対策が求められています。監視と管理を強化し、ガバナンスを確立することが推奨されているのです。
技術の進化は速く、予測が困難なこともAIの特徴です。安全な利用のためには、業界全体で対応策を考える必要があります。
出典 : 「DeepSeek」の台頭で浮き彫りになったAIセキュリティの課題とは？ https://techtarget.itmedia.co.jp/tt/news/2503/11/news13.html
