Microsoftが、科学技術オーストラリア研究所、ETHチューリッヒと共に、人工知能（AI）を活用したイベントを開催します。このイベントでは、参加者がチームを組み、シミュレーション環境下の大型言語モデル（LLM）を採用したメールクライアントにおいて、防御策を回避することに挑みます。
ハッカーたちはGitHubアカウントを使って登録し、LLMailサービスのメールアシスタントのプロンプト注入防御機能を出し抜くことが目的です。成功すると、$10,000の賞金がチームに授与されます。
Microsoftは、このイベントを通じて、セキュリティの弱点を発見し、より堅固なセキュリティ対策を促進することを目指しています。セキュリティ研究者とソフトウェア開発者との協力関係は、Googleがクラウドプラットフォームの脆弱性発見に報奨金を出すなど、他の企業でも行われています。
ソフトウェア企業が潜在的な脆弱性に先んじてアプローチすることで、実際の脅威にさらされる前にリスクを緩和することができます。例えば、SlackのAIアシスタントは悪意あるプロンプト注入攻撃の対象になったことがありますが、発見され大きな問題には至りませんでした。
出典 : Microsoft challenges you to hack its LLM email service https://www.techradar.com/pro/security/microsoft-challenges-you-to-hack-its-llm-email-service
