Microsoftは、大量のデータを取り扱うAIアプリケーションの安全で信頼性の高い運用に向け、新しいAzure AIツールの導入を発表しました。これらのツールは、AIに意図しない情報を生成させる問題や、個人情報や有害な内容を生成するプロンプトインジェクションなどのセキュリティリスクに対処するために設計されています。
開発者は、攻撃者がAIを操作してセキュリティを侵害するプロンプトインジェクション攻撃から保護するために、入力データを自動分析し悪意のある内容をブロックする「Prompt Shields」機能を利用できるようになります。
さらに、AIアプリの信頼性向上にも取り組んでおり、「Groundedness Detection」という新機能を開発しました。これは、モデルの出力が現実に基づいたものであるかを評価するためのものです。
AI開発における安全性と信頼性を重視する姿勢は、企業による信頼構築の重要性を浮き彫りにしており、Microsoftのこの取り組みは、より多くの顧客の信頼を得ることにつながるかもしれません。
出典 : https://venturebeat.com/ai/microsoft-launches-new-azure-ai-tools-to-cut-out-llm-safety-and-reliability-risks/