OpenAIは、同社の人工知能チャットボットであるChatGPTを悪用していたイラン、北朝鮮、中国、ロシアの国家後援の脅威グループを削除しました。
Microsoftの脅威インテリジェンスチームから情報を得て、これらのハッキンググループと関係する特定のアカウントに対策を講じたのです。
ハッカーたちは大言語モデルを用いて、偵察、社交的工作、回避手法、情報収集などの能力を高めていましたが、
マルウェア開発や特殊なツールの作成への直接使用は確認されていません。
主に技術的な操作の最適化やスクリプト作成の支援を求めて利用していました。
OpenAIは、専門の監視技術と業界パートナーからの情報、不審な利用パターンを特定する専門チームを使って、
国家支援のハッカーの監視と混乱の創出を続けると述べています。
「これらのアクターの悪用から学んだ教訓を、安全への反復的なアプローチに役立てます」とOpenAIはコメントしています。
出典 : https://www.bleepingcomputer.com/news/security/openai-blocks-state-sponsored-hackers-from-using-chatgpt/