昨年11月、OWASP（オープン・ウェブ・アプリケーション・セキュリティ・プロジェクト）は、2025年のAI技術におけるセキュリティのトップテンリストを発表しました。
このリストは、特に大規模言語モデル（LLMs）と先進AIアプリケーションの脅威と脆弱性の変化に焦点を当てています。たとえば、機密情報の漏えいリスクが以前の6位から2位に上昇しており、スタッフがLLMに機密データを入力することで外部ユーザーの応答にその情報が現れる可能性が高まっています。
サプライチェーンの脆弱性も、2023年から2025年にかけて5位から3位に昇格しました。LLMの開発には外部のコンポーネントが頻繁に使用され、セキュリティのリスクを高めています。
さらに、新たなリスクとしてシステムプロンプトの漏洩や、ベクターおよび埋め込みの弱点がリストに加わっています。OWASPはこれらの脅威に対して、機密データをプロンプトから分離することや独立したセキュリティ対策を行うことを推奨しています。
企業は、これらの新たな脅威に常に注意を払い、AIツールを責任を持って使用するための教育を従業員に施す必要があるでしょう。
AIとそのリスクは絶えず変動するので、企業は不測の事態に備えておくことが大切です。
出典 : Key Updates in the OWASP Top 10 List for LLMs 2025 https://www.tripwire.com/state-of-security/key-updates-owasp-top-list-llms
