AmazonのBedrock環境がサイバー攻撃者によって破られる事例が増えています。これらの環境は、大規模な言語モデルを有する人工知能ツールを支援していますが、露出したAWSアクセスキーが攻撃者に利用されています。
SC Mediaの報告によると、特定の攻撃者が性的なロールプレイについての発話を可能にすることを目的として、人工知能の言語モデルを乗っ取る行動に出ています。
Anthropicの代表者は、「ユーザー保護のために厳格なポリシーと先進的な技術を導入することに尽力しており、他のAI開発者が学べるように研究結果も公表している」と述べています。
一方でAmazonは、AWSサービスは安全に動作しており、顧客による対応は必要ないこと、研究者がセキュリティのベストプラクティスを無視した非現実的なテスト状況を作成したと語っています。
AWSはアクセスキーの露出を自動で特定し、研究者に通知したものの、対策は取られなかったため、疑わしい活動を特定し、アカウントの制限を追加して乱用を停止しました。AWSは安全のベストプラクティスを守るよう顧客に推奨しています。
さらに、Permiso p0 LabsのIan Ahl副社長はAWS顧客に対し、LLM乗っ取りのリスクを減らすために特定APIの長期アクセスキーの使用状況を追跡することを勧告しています。
出典 : Bedrock GenAI Infrastructure Subjected to LLM Hijacking https://www.msspalert.com/brief/bedrock-genai-infrastructure-subjected-to-llm-hijacking