AIのセキュリティ界に衝撃を与える新たなジェイルブレイク手法「Bad Likert Judge」が発見されました。
Palo Alto Networksの研究チームが明らかにしたこの手法では、AIの防御機能を60%以上の確率で突破可能とされています。
さらにEnkryptの防御技術を駆使すれば、攻撃成功率を大幅に下げることが可能で、AIの安全性向上への一歩とされています。
高校生にも理解しやすく言うと、普通はAIが「ダメ」と判断するような悪い内容を、ある特別なテクニックを使ってうまく誤魔化し、AIに作らせてしまうような攻撃方法で、これがいろいろなAIに効くことがわかったんです。
でも安心してください。新しい守りの技術も開発されていて、これを使えばAIはグッと安全になるんですよ。
出典 : OpenAI ChatGPT新たな脆弱性、Bad Likert Judge手法でAI防御機能を突破 – イノベトピア https://innovatopia.jp/cyber-security/cyber-security-news/45977/
