インターネット上での詐欺が高度化しており、大規模な言語モデル（LLM）がその道具として使われ始めています。LLMの技術を悪用し、詐欺師たちは信用できる組織を装った偽のウェブサイトを簡単に作り出せるようになりました。
これらのサイトは銀行や有名ブランドの店といった正規の組織を模倣しており、フィッシング攻撃によって犠牲者から個人情報を盗もうとします。
LLM技術により詐欺師は、高品質なコンテンツを自動で生成することが可能になり、これまでよりもはるかに効率的な詐欺が行えるようになっています。しかし、この技術には完璧でない部分もあり、誤用による特徴的な痕跡を残すことがあります。例えば、モデルが「申し訳ありませんが…」といった文章を残したり、訓練データの終了時点を示すフレーズが見られたりします。
これらの兆候は、LLMが生成したコンテンツかどうかを識別する手がかりとなり得ます。
現在はまだこれらの特徴を捉えて防御する手段がありますが、LLMの進化に伴い将来的にはより判別が難しくなることが予想されます。アイロニカルなことに、LLM技術が強化されるほど、私たちのセキュリティ対策もより練り直されなくてはならなくなるでしょう。
詐欺に対しては、最新のセキュリティソリューションを用いるなど、常に警戒心を持って対策することが重要です。
出典 : How phishing pages admit to being LLM-made https://securelist.com/llm-phish-blunders/114367/