AIのコーディングツールはソフトウェア開発に新たな章をもたらしています。しかし、これには新たなセキュリティ上の脅威も伴い、業界ではこれらのツールを安全かつ効率的に統合するための慎重な動きが求められています。
OWASP財団は、開発者がコードベースを保護するための実践的な方法を提供していますが、大規模言語モデル（LLM）アプリケーション向けの最新の脅威を明らかにするなど、AIに起因する脅威への理解と防御策の提供に努めています。
開発者は、セキュアなソフトウェアづくりを目指す上でリスク管理と脅威モデリングに重点を置かなければならず、AIツールの盲目的な利用や既存のコードベースへのAI層の追加は開発者リスクを高めます。
また、新たな脅威として、ベクターや埋め込みに関する弱点が挙げられ、RAG技術を用いたLLMアプリケーションの脆弱性が懸念されています。
これらの進化するセキュリティリスクを学び、高校生でも理解できるような世代にも意識を高めてもらうことが重要です。
出典 : OWASP’s New LLM Top 10 Shows Emerging AI Threats https://www.darkreading.com/vulnerabilities-threats/owasps-llm-top-10-shows-emerging-ai-threats
