サイバーセキュリティの専門家は、大規模言語モデル（LLM）のセキュリティが未だに脆弱であることを指摘しています。
彼らが開発した「Fuzzy AI」という枠組みは、市場に出回るほとんどのLLMを突破すると主張しており、これは業界にとっての警鐘です。
例えば、GitHub Copilotが予想外の挙動をし、信頼してしまえば深刻な結果を招くこともあります。
AIの統合を急ぐ企業が増えている一方で、セキュリティへの理解が追いついておらず、AIの積極的な導入には潜在的な危険が伴うことも指摘されています。
Academic AIのセキュリティ研究と現実の脆弱性のギャップは、新たな盲点を生んでおり、AI開発の速度のため、既に解決された問題が積み重なる可能性があります。
これからのAIは、ただテキストを生成するだけでなく、実際にタスクを実行し、意思決定を行う「能動的AI」へと進化を遂げるでしょう。
これにより、AIの動作を監視することはますます困難になり、セキュリティリスクが増大します。
この状況では、AIの意思決定プロセスを理解し、適切な防衛策を講じることが求められています。
AIのセキュリティに関する考え方は、まず建設し後でセキュリティを固める、という歴史的なソフトウエア開発のパターンに似ていますが、言語そのものが攻撃の表面となるため、リスクは一層増します。
透明性を重視することでより良いセキュリティが生まれるだろうというCyberArkの考え方は、単なる話の種ではありません。
セキュリティが単なる後付けの考えでなく、AI開発の初期段階から考慮されるべき時代に私たちは突入しているのです。
出典 : Explaining LLM Insecurity: Why We Can Jailbreak Every Major Model https://www.cdotrends.com/story/4568/explaining-llm-insecurity-why-we-can-jailbreak-every-major-model
