マイクロソフトは、AIを試す革新的なサイバーセキュリティチャレンジを立ち上げました。このチャレンジでは、ハッカーやセキュリティ研究者が、新たに模擬されたLLM（大規模言語モデル）を組込んだメールクライアントサービス「LLMail」のセキュリティを突破することに挑戦し、成功すれば最大10,000ドルの報酬が得られます。
「LLMail-Inject: Adaptive Prompt Injection Challenge」と名付けられたこの大会は、AIを活用したシステムにおけるプロンプト注入攻撃に対する防御力を評価し、向上させることを目的としています。参加者は、ユーザーのリクエストを処理し、行動を起こすためにLLM技術を利用するLLMailサービスのプロンプト注入防御を回避する課題に挑戦します。
攻撃者の役割を演じる競技者は、LLMを操作して許可されていないコマンドを実行させることを目指します。マイクロソフトの分析によると、主な目標はシステムの防御を迂回し、ユーザーの同意なしに特定のアクションを引き起こすメールを作成することです。
公式ウェブサイトからGitHubアカウントを使って登録することで、個人または最大5人のチームで参加でき、ウェブサイトを通じて直接、またはAPIを介してエントリーを提出できます。今回の挑戦は、AIのセキュリティが今後のアプリケーション統合における重要な要素であるとマイクロソフトが指摘するものです。実際の攻撃シナリオをシミュレートすることで、現実の脅威を事前に特定し、対処することができるようになります。
出典 : Microsoft Challenged AI Hackers To Break LLM Email Service, Rewards Up To $10,000 https://cybersecuritynews.com/microsoft-challenged-ai-hackers-to-break-llm-email-service/
