サイバー犯罪者たちは、ChatGPTやClaudeなどの先進的なAIツールを使って、セキュリティを迂回し、マルウェア攻撃を洗練させる方法を模索しています。
S2W脅威インテリジェンスセンターによると、2025年以降、AIを活用した攻撃ツールに関する議論が暗号界隈で急増しています。
これらのツールは、脅威アクターが迅速にスキャンユーティリティや攻撃コードを生成し、攻撃のハードルを下げています。
ある例として、深刻な脆弱性CVE-2024-10914があり、AIが生成したスキャナーやペイロードが犯罪者のコミュニティで共有されています。
AIの安全装置を迂回する「Jailbroken」モデルの登場や、AIサービスそのものを攻撃する試みも増えています。
これに対抗するためには、LLM APIのトラフィックをリアルタイムで監視し、敵対的プロンプトを検出し、脅威情報を共有する必要があります。
AIはサイバーセキュリティにおいて、防衛と攻撃の両面を持つ刃となりつつあるため、研究者や開発者、政策立案者の積極的な協力が、リスクを緩和しながらも革新を促進する鍵となります。
出典 : Threat Actors Exploit AI & LLM Tools to Begun Using Them as Offensive Tools https://cybersecuritynews.com/threat-actors-exploit-ai-llm-tools/
