次世代AI保護:「AI Firewall」が登場

2024.05.22

WorkWonders

米国のAIベンチャー、Robust Intelligenceは、AIアプリケーションのセキュリティを強化する「AI Firewall」を提供開始すると発表しました。この製品は、有害な入出力からAIを守り、特に英語と日本語の大規模言語モデル(LLM)に対応しています。
悪意のあるプロンプトからLLMを保護し、データポイズニングの危険も防ぎます。AIが矛盾した答えを出さないよう監視することもできるとのこと。
Robust Intelligenceは、ハーバード大出身の研究者たちにより設立された企業で、リクルートやセブン銀行など、日米での利用実績があります。
この新技術により、AIの安全で信頼性の高い利用が期待されます。

出典 : https://xtech.nikkei.com/atcl/nxt/news/24/00806/

【このニュース記事は生成AIを利用し、世界のAI関連ニュースをキュレーションしています】

ワークワンダース社は、生成AIの活用・導入について客観的な立場からご相談に応じています。

生成AIに関するご相談はこちらからご連絡ください。 当社のご支援実績はこちらからご確認ください。