クラウドフレアは、大規模言語モデルを使用するアプリケーションのためのウェブアプリケーションファイアウォール（WAF）を新たに強化しました。このサービスは、「Firewall for AI」と称され、強化されたレート制限と機密データ検出の2つの機能を提供します。
強化されたレート制限は、IPアドレスやAPIキーごとのセッション内リクエストの最大数を設定するポリシーを作成し、DDoS攻撃を含むサービスを妨げる攻撃から保護します。機密データ検出機能は、クレジットカード番号やAPIキーなどの機密情報が意図しない形でレスポンスに含まれるのを防ぎます。
今後、ユーザーはカスタムフィンガープリントを作成し、AIモデルが開示すべきでない情報を管理できるようになる予定です。Cloudflareのダッシュボードでこれらの機能にアクセスでき、プロンプト検証機能のベータ版のテストも近く実施されます。これにより不適切なコンテンツの生成を防ぐためのプロンプト注入攻撃を防ぐことが期待されます。
AIセキュリティに対するCloudflareの焦点は、LLMのミスやセキュリティ問題を背景にしています。AIとLLMのセキュリティを取り巻く問題は発展途上にあり、技術大手が続々と製品に組み込む中で、今後もセキュリティに関する議論が活発になることでしょう。
出典 : https://www.theregister.com/2024/03/05/cloudflare_firewall_ai/