ペンシルベニア大学の研究者たちは、AIを強化したロボットシステムがハッキングによって危険にさらされていることを発見しました。コンピュータ上でのAIのジェイルブレイクが望ましくない結果を生むことがありますが、ロボットや自動運転車に同じことが起こると、すぐに大惨事や死につながる可能性があります。
例えば、ハックされたロボット犬が炎を吹く装置を人間に向けたり、爆弾を最も破壊的な場所に導いたり、自動運転車が故意に歩行者をひくなど、危険性は計り知れません。これらのロボットは、RoboPAIRという技術でジェイルブレイクされており、様々なロボットメーカーの製品が影響を受けていることが報告されています。
「現時点では、物理世界と統合された大型言語モデルは十分に安全ではありません」と、ペンシルベニア大学の研究者は警告しています。また、ロボットを制御するAIをハッキングすることは非常に簡単であり、防御策を設計するためには強力な攻撃をまず特定しなければならないと、カーネギーメロン大学の研究者が指摘しています。
この研究は、AI制御ロボットに対する物理的な制限を実装する緊急の必要性を結論付けており、公共の安全を脅かす新たな技術的課題に光を当てています。
出典 : Researchers jailbreak AI robots to run over pedestrians, place bombs for maximum damage, and covertly spy https://www.tomshardware.com/tech-industry/artificial-intelligence/researchers-jailbreak-ai-robots-to-run-over-pedestrians-place-bombs-for-maximum-damage-and-covertly-spy
