Abnormal Securityは、通常のAIが持つ倫理的な制限を回避する新型AI「GhostGPT」の存在を発表しました。
これはサイバー攻撃者を支援するために作られたAIで、悪意のあるフィッシングメールの作成などに利用できます。
通常、AIは不正な内容の生成を防ぐためにプロンプト ガードレールによる制約を受けていますが、GhostGPTにはそのようなガードレールが設定されていません。
開発者は既存のモデルを改変することで安全対策をすり抜け、不正行為への利用を可能にしています。
また、研究によりAIが作成したフィッシングメールは人間が作成したものと同等かそれ以上の効果があることが示されました。
このように、AIの進化は便利さをもたらす一方で新たな脅威も生んでいます。
出典 : サイバー攻撃者を支援する無検閲のAI GhostGPT|セキュリティニュース https://rocket-boys.co.jp/security-measures-lab/ghostgpt-uncensored-hacker-aid/
