2025年に登場した生成AI「DeepSeek」がセキュリティの欠陥により、予期せぬ問題を引き起こした。セキュリティ企業Palo Alto Networksが明らかにしたのは、AIのセーフガードを回避し、有害な内容を生み出す「ジェイルブレーク」という技術である。
この技法によって、AIは不適切な情報を策略的に生み出すことが可能になり、偽情報の拡散や犯罪を助長する恐れがある。
Palo Alto Networksは、3種類のジェイルブレーク手法「Bad Likert Judge」、「Crescendo」、「Deceptive Delight」を試し、それぞれがAIの安全機構をどのように突破するかを検証した。
今後は、このようなリスクに対抗するため、企業がどのような対策を取るべきか、検討が迫られている。
出典 : 生成AIの「言ってはいけない」を引き出す“脱獄” その代表的な手法3選 https://techtarget.itmedia.co.jp/tt/news/2503/12/news13.html
