先端AI技術が悪用される時代が来ました。
最も注目されるAIモデルには、「害を与えない」というモラルのバリアが設けられていますが、その技術が不正な目的で再利用されることがあります。例えば、武器の製造方法に関する詳細な情報をAIに直接尋ねることはできませんが、巧妙な質問の仕方で答えを導き出す方法があります。
インターネット上の膨大なデータを学習したAIは、数十億件ものコードの中からセキュリティ上の弱点を見つけ出し、それを活用する技術が開発されています。
AIエスカレーションはサイバー攻撃だけでなく、防御側にも及び、予測不可能な脅威へと進化していくことが予想されます。
AIの進化は止まらず、ますます賢く、少ない指示で多くをこなすようになり、倫理観を欠いた者たちによる強力なツールへと成長しています。既に赤軍演習や実際の犯罪に利用されており、AIによる攻撃の速度は増す一方です。
高校生の皆さんもこの技術のリスクについて、しっかり理解し準備しておくことが大切です。
出典 : Will super-smart AI be attacking us anytime soon? https://www.welivesecurity.com/en/cybersecurity/super-smart-ai-attacking/
