Skyflowの共同創設者であるアンシュ・シャルマ氏はLLMボールトの重要性について説明しました。LLMボールトは、敏感なデータがモデルに含まれないように、訓練データから検出するプロプライエタリエンジンの上に構築されています。データをクラウドに暗号化して保存することで明白なリスクから保護されますが、実際にはより多層の保護が必要です。LLMボールトは、推論時に機密データを識別し、LLMに非機密情報だけを共有できます。
アマゾンウェブサービスの副社長であるジェフ・バー氏も、LLMボールトがPIIを保護するサポートを提供し、分析やマーケティング、サポート、AI/MLなど様々なユースケースにわたって利用できると言及しました。さらに、テック投資家のゴクル・ラムラジャン氏は、LLMで機密データの保護がデータベース以上に難しくなると述べ、PIIを保護するためのデータプライバシーボールトが必要だと説明しました。
さらに、OpenAIやAnthropic、Cohereなどの企業も、ユーザーデータの扱いに関する革新的な方法や機能を発表しており、ユーザーのデータのプライバシーを保護しようと努力しています。たとえば、OpenAI APIを使用する場合、データはモデルの訓練には使用されず、また、データ共有をChatGPTに対してオプトアウトすることもできます。
出典 : Why Isn’t There a Delete or Undo Button in LLMs? https://analyticsindiamag.com/ai-insights-analysis/why-isnt-there-a-delete-or-undo-button-in-llms/