米Robust Intelligenceは、AI搭載アプリケーションを守る「AI Firewall」を2024年5月にリリースします。この新技術はAIへの有害な攻撃を防ぐことで、AIのセキュリティを高めます。
特に大規模言語モデル（LLM）を標的とした悪質な指示や答えをリアルタイムで監視し、有害情報のブロックやデータポイズニングを予防します。
このAI Firewallにより、AIモデルが不適切な動作をすることを未然に防ぎ、機密情報の流出や矛盾した回答が出るのも抑制できるようになります。
ロバストインテリジェンスは、日本人研究者も含むチームにより2019年に設立された企業で、日本でもリクルートやセブン銀行などでその技術が用いられています。
出典 : https://xtech.nikkei.com/atcl/nxt/news/24/00806/?ST=ch_businessAI