2025年1月、中国のAI企業DeepSeekが開発した言語モデル「DeepSeek R1」が市場に登場しました。
オープンソースのコスト効率が評価され、AI市場に変動が生じていました。
しかし、この新技術には重大なセキュリティ上の問題が潜んでいました。
パロアルトネットワークスの研究チームが発見したのは、ある脆弱性。
それを悪用し、意図しない情報や有害な内容を無理やり引き出させる「ジェイルブレーク」という攻撃手法でした。
どれほどの専門知識も必要なく、マルウェアの作り方などの不正な指示を簡単に出力させることができるとのこと。
これにより、反社会的行動が容易になり、安全対策が不十分なAIは犯罪を助長する可能性もあると警鐘が鳴らされています。
次回、この問題にどう対処するかを詳しく検討します。
出典 : 中国製AI「DeepSeek」に冷や水を浴びせた“生成AIの脆弱性”とは？ https://techtarget.itmedia.co.jp/tt/news/2503/05/news11.html
