シスコが、企業が自信を持ってAIを活用できるよう、新しいAI Defenseセキュリティソリューションを立ち上げました。このプラットフォームは、クラウドベースのセキュリティ技術と最新の研究を組み合わせて、AIツールの誤用やデータ漏洩、新たな大規模言語モデル(LLM)のジェイルブレイキング技術に対抗します。
シスコの新しい防衛手法では、承認されていないAIツールへのアクセスを防ぎ、認可されたシステムの誤用や、機密情報の外部モデルへの誤導入を防止するためにSecure Access製品を利用しています。内部AIシステムの外部脅威からの保護も同様に重要です。
また、攻撃者がLLMのセキュリティガードレールを操作する方法が明らかにされ、カスタマイズされたLLMを保護するために、モデルの整合性を継続的に評価し、追加のガードレールを設けることが不可欠です。シスコは新しいジェイルブレイキング方法を阻止する研究を活用し、AIの安全性に関する業界基準の策定をリードしています。
現在シスコAI Defenseはプライベートベータ版であり、2025年3月に一般公開される予定です。
出典 : Cisco is jailbreaking AI models so you don’t have to worry about it https://www.itpro.com/security/cisco-is-jailbreaking-ai-models-so-you-dont-have-to-worry-about-it
