犯罪者たちが、自身で言語モデル(LLM)を訓練する必要がなく、既存のモデルのクレデンシャルを盗み出す方法に目をつけた今、AIを用いた大規模なサプライチェーン攻撃の脅威が高まっています。
米空軍の元情報分析官であり、サイバーセキュリティ戦略家のクリスタル・モリンは、LLMを利用したスピアフィッシングによる成果的な攻撃が2025年に発生すると予測しています。
攻撃者はLLMを駆使して、狙いを定めた個人に対し、その人の職場や生活環境、好みなどを反映した説得力のあるメッセージを作成し、フィッシング詐欺を成功させる可能性があります。
同様に、AIを使ったボイスクローニングによる電話詐欺も警戒されており、これらの脅威に対する効果的な対策が求められています。
出典 : LLMs could soon supercharge supply-chain attacks https://www.theregister.com/2024/12/29/llm_supply_chain_attacks/