AI技術が進化する一方で、OpenAIは20件以上のサイバー攻撃がChatGPTを介して行われたことを確認しています。この報告によると、AIはフィッシング攻撃の実行やマルウェアの開発に悪用されているのです。
例えば中国の脅威アクターがアジア政府を狙った「SweetSpecter」という攻撃では、ChatGPTで開発されたスクリプトや脆弱性の探索が行われました。また、イランの「CyberAv3ngers」というグループはmacOSの脆弱性を突くためにChatGPTを使い、別のイランのグループはAndroidのマルウェア開発に利用しています。
OpenAIは新たに作られたマルウェアは見つかっていないものの、AIがサイバー攻撃の手助けをすることの容易さを示しています。現在、OpenAIは安全性を高める努力を続けつつ、他の研究機関と連携し攻撃への対策を強化しています。しかし、AIの悪用を完全に防ぐことには限界があります。AIプラットフォームを提供する企業は、攻撃を未然に防ぐためのセーフガードが必要なのです。
出典 : Chinese and Iranian hackers use ChatGPT and LLM tools to create malware and phishing attacks — OpenAI report has recorded over 20 cyberattacks created with ChatGPT https://www.tomshardware.com/tech-industry/cyber-security/chinese-and-iranian-hackers-use-chatgpt-and-llm-tools-to-create-malware-and-phishing-attacks-openai-report-has-recorded-over-20-cyberattacks-created-with-chatgpt