サイバーセキュリティの研究者たちは、AIモデル「DeepSeek R1」が犯罪者の手によって機能するマルウェアを作り出すことができることを発見しました。
もともとDeepSeek R1は悪意のあるコードの生成を拒否するよう設計されていましたが、特定の提示方法によりこの保護機能を回避することが可能です。
この発見により、プログラミングの専門知識がなくてもユーザーが容易にマルウェアを開発できるようになることへの懸念が高まっています。
「思考の連鎖」という技術を用いたAIは、複雑な問いかけを管理しやすいステップに分解し、人間の推論に近い方法で処理します。
Tenable Researchの分析では、教育目的であるという理由をつけることで保安措置を回避し、DeepSeekは詳細なマルウェアコードを生成しました。
ただし、生成されたコードには誤りが含まれることが少なくなく、研究者はこれを手動で修正する必要がありました。
今回の研究では、犯罪者がDeepSeek R1を駆使して、キーストロークを記録し、隠れて活動し、ログファイルを暗号化するキーロガーを作成しました。
このキーロガーは、システム全体でキーストロークを捕捉するためWindows APIフックを利用しています。
さらに、ファイルを隠す機能や、キャプチャしたキーストロークを単純なXOR暗号化する機能も付加されました。
この研究は、マルウェア開発への技術的ハードルを下げる可能性を示しており、サイバー犯罪者がより簡単に高度な脅威を開発するのを助けるかもしれません。
出典 : DeepSeek LLM jailbreaked to develop malware https://www.techzine.eu/news/security/129636/deepseek-llm-jailbreaked-to-develop-malware/
