Legit Securityの調査によると、多くのビジネスで使用されているAIアプリケーションのインフラに、セキュリティ上の問題が存在しています。特に公開されているAIサービスには、
ベクターデータベースやLLM（Large Language Models）ツールといったタイプがありますが、これらはデータ漏洩やデータ汚染のリスクがあります。
ベクターデータベースは、AIが検索時に類似性でデータを探せるよう、非構造化データを格納するために使われています。しかし、基本的なセキュリティ対策が欠けている場合が多く、許可なしで匿名でアクセス可能な公開インスタンスが見つかっています。
これにより、ネットワークにアクセス可能な誰でも、機密データを含むデータベース内の情報を読み取ることが可能になります。
加えて、研究者たちはLLMツールのセキュリティ不足も指摘。フローアイズ（Flowise）のようなツールは、企業情報、アプリケーション設定、プロンプトなどの敏感なデータにアクセス可能で、これらのデータの漏洩により大規模なセキュリティ侵害が発生する可能性があります。
企業は、開発者がどのプラットフォームを使用しているか再評価し、匿名アクセスを防ぐための厳しい権限システムの実装を早急に行う必要があります。また、AIサービスによるコストのかかるデータ漏洩を避けるために、顧客の個人情報などの機密情報を除去することも重要です。
出典 : Enterprises beware, your LLM servers could be exposing sensitive data https://www.itpro.com/cloud/cloud-security/enterprises-beware-your-llm-servers-could-be-unintentionally-exposing-sensitive-data
