多くのAIチャットボットをクラッシュさせるプロンプトに関する「Kryptonite」記事を公開した筆者は、読者から多数のメールを受け取ったそうです。多くは単にプロンプトを公開してほしいという要望でしたが、筆者はセキュリティ研究者や大手テック企業の開発者からの合理的な要請には応答をしました。
マイクロソフトがこのバグを”セキュリティの脆弱性ではない”と評価した後、記事が公開されると、同社は再評価を始めたと筆者に伝えました。結局、いくつかの大手テック企業のAIモデルは、発見された問題を「裏側」で修正したようで、プロンプトによって以前のようにクラッシュすることはなくなりました。しかし、修正の詳細は公表されず、筆者はこの一件がAIのバグ報告のインフラの不十分さを浮き彫りにしたと考えています。
出典 : https://www.theregister.com/2024/07/10/vendors_response_to_my_llmcrasher/