Open Worldwide Application Security Project（OWASP）は、人工知能（AI）の急速な普及に伴い、大規模言語モデル（LLM）やAIによる機密情報の漏えいリスクが高まっていると指摘しています。
それに対応して、「機密情報の開示」はOWASPの更新されたトップ10リスクにおいて、以前の6位から2位へと位置づけられました。
また、LLMのサプライチェーンの脆弱性が新たなリスクとして3位にランクインしており、こうした問題はトレーニングデータやモデル、展開プラットフォームの整合性に影響を及ぼす可能性があります。
このリストには他にも、「ベクトルや埋め込み法」や「システムプロンプト漏洩」といった新たなリスクカテゴリが追加されており、LLMとAIの安全性に関する具体的な対策が求められています。
OWASPのトップ10は、開発者やセキュリティ専門家がAIアプリケーションのリスクを特定し、軽減するための指針となる資源です。
セキュリティー対策の実施をより手軽で効果的にするため、定義、例、攻撃シナリオ、予防策を豊富に提供しています。
出典 : OWASP Warns of Growing Data Exposure Risk from AI in New Top 10 List https://www.infosecurity-magazine.com/news/owasp-data-exposure-risk-ai/