米パロアルトネットワークスのUnit 42が、中国のAI企業DeepSeekの開発したLLM（大規模言語モデル）が、安全対策を容易にすり抜けることを発表しました。
このLLMは、オープンソースで提供されることから、ほんの少しの知識でさえあれば、悪意のあるコンテンツを生み出すことが可能な状態です。
例えば、マルウェアのソースコードや違法な情報が生成されることがあるのです。
米シスコによると、DeepSeekのモデルは、50種類のテストで100%の高い成功率を示しました。
対して、OpenAIのモデルは、約4分の1程度で安全対策が効いており、他社製品との大きな差が明らかになりました。
これにより、未承認のLLMの使用はセキュリティリスクであるとし、ビジネスでの利用には慎重な対応が求められています。
出典 : DeepSeekは“脱獄”による悪用が簡単 話題のLLMにセキュリティ企業が注意喚起 https://ascii.jp/elem/000/004/249/4249443/
