京都府警が電子計算機使用詐欺容疑で追送検した高校生は、チャットGPTなどの対話型AIを駆使して不正にカード番号を取得するプログラムを開発していました。
政府と警察はこのような悪用を回避するため、命令の言い方を変える工夫など、専門知識がなくても抜け道を利用しウイルスを作成する「ジェイルブレイク」と呼ばれる手法に警戒を強めています。
AI技術の急速な進歩に対策が追い付かず、政府はAIの規制やリスクについて専門家と議論を重ねています。専門家は犯罪者を上回る技術力と対応がAI開発者には必要だと警鐘を鳴らしています。
出典 : チャットGPT悪用して他人のクレジットカードを不正使用 「脱獄」に追いつかない規制 https://www.sankei.com/article/20250213-7C5YSVC5JBJHVAKVMRTTCSK3SU/
