AI技術の進化は止まらず、それに伴い、大規模言語モデル（LLM）に関連する脅威や脆弱性も変化しています。
OWASPは2025年版トップ10 LLMアプリケーションのリスクリストを発表し、リアルワールドでのモデル使用の迅速な変化を反映させた重要な更新を行いました。一部の項目は2023年版からそのままですが、新しいリスクへの対応やコミュニティーのフィードバックを受けて大幅に見直されたり追加されたりしています。
プロンプトインジェクションは依然として最も重要なリスクとされていますが、個人情報の漏洩やサプライチェーンの問題がそれに続く形で順位を上げています。また、訓練データの毒物投与はデータおよびモデルの毒物投与に拡張されています。
新たに追加された主なリスクとしては、システムプロンプトの漏洩、ベクトルと埋め込みの弱点があります。これらは、実際のインシデントを通じて明らかにされた致命的な欠陥や、AIアプリケーションにおいて中心的なテクニックとなるRAGや埋め込みベースのメソッドの脆弱性に対応しています。
また、誤った情報や使用の範囲を超えた消費、AIの自律性に関するリスクなど、見直されたり拡張されたリスクもあります。特にAIにおける自立的なアーキテクチャの出現は、チェックされない権限がもたらすリスクを浮き彫りにしています。
セキュリティ業界をリードする企業Qualysは、AI脅威に関する脆弱性の検出を行っており、効果的なAIインフラの安全性の確保を支援しています。そして、QualysのTotalAIを通じてAI関連の脆弱性の検出を今日から始めることができます。
最後に、2025年のOWASPトップ10は、AIモデルに関連するリスクに対する洗練された理解を体系化しており、AIシステムをより安全で回復力のあるものにするための支援を開発者や組織に提供します。AIが無数のアプリケーションに欠かせないものになる中で、これらのリスクに先んじることが、単に賢明なだけでなく不可欠です。
出典 : AI Under the Microscope—What’s Changed in the OWASP Top 10 for LLMs 2025 https://blog.qualys.com/vulnerabilities-threat-research/2024/11/25/ai-under-the-microscope-whats-changed-in-the-owasp-top-10-for-llms-2025
