今日のAIは便利ですが、同時に安全性や信頼性に問題があるとされ、CiscoとNvidiaはこれらの弱点を補うための新しいツールを開発しました。
Nvidiaは、AIエージェントが不適切な行動をしないようにジェイルブレイク検出モデルなどの特化したマイクロサービスを導入しています。これらのモデルは容易にオーバーライドされる可能性のある一般的な言語処理モデルを基にしたAIの監視を強化するために設計されており、必要に応じて複数のガードレールモデルを連鎖させることで、セキュリティの隙間を埋めることができます。
一方、CiscoもAIインフォセックツールを開発しており、ITチームが承認なしにデプロイした「シャドウ」アプリケーションを発見するAIディスカバリーツールなどを提供します。両社ともAIの安全性を高めるためのツールを提供することで、利用者が安心してテクノロジーを活用できる環境作りを目指しています。
出典 : Cisco, Nvidia offer tools to boost LLM safety, security https://www.theregister.com/2025/01/17/nvidia_cisco_ai_guardrails_security/
