米国のAIベンチャー、Robust Intelligenceは、AIアプリケーションのセキュリティを強化する「AI Firewall」を提供開始すると発表しました。この製品は、有害な入出力からAIを守り、特に英語と日本語の大規模言語モデル（LLM）に対応しています。
悪意のあるプロンプトからLLMを保護し、データポイズニングの危険も防ぎます。AIが矛盾した答えを出さないよう監視することもできるとのこと。
Robust Intelligenceは、ハーバード大出身の研究者たちにより設立された企業で、リクルートやセブン銀行など、日米での利用実績があります。
この新技術により、AIの安全で信頼性の高い利用が期待されます。
出典 : https://xtech.nikkei.com/atcl/nxt/news/24/00806/