クラウドセキュリティ企業Qualysの分析によると、DeepSeek AIが開発した人工知能モデル「DeepSeek-R1」は、セキュリティテストで多くの問題を抱えています。
このモデルは、炎上内容や偏見を含む言動、違法行為、プライバシー侵害など、さまざまな分野で弱点を露呈。特に、AIの安全性を突破する「ジェイルブレイク攻撃」に対して、全体の58％、そして知識ベーステストで61％を失敗しています。
さらに、ユーザーデータが中国のサーバーに保管されていることや、過去にはセンシティブなデータが露出していた事実が発覚。これらは、GDPRやCCPAなどの国際的なデータ保護規制に抵触する恐れがあります。
Qualysの研究者は、人工知能の安全な利用には、セキュリティのリスク管理や脆弱性の対策が不可欠だとしています。今、DeepSeek-R1のリスクをどう評価、対処するかが、企業にとって大きな課題となっています。
高校生でも理解できるように、わかりやすさと重要な情報を盛り込み、読む人の関心を引くタイトルをつけて要約しました。
出典 : DeepSeek-R1 LLM Fails Over Half of Jailbreak Attacks in Security Analysis https://hackread.com/deepseek-r1-llm-fail-jailbreak-attack-security-analysis/
