AI技術の進化は目覚ましく、それに伴うコード生成ツールも人気を集めていますが、問題が発覚しました。Backslash Securityによると、指示が不明瞭な場合、AIは安全でないコードを生成する傾向にあります。
具体的には、GoogleやOpenAIなどのAIモデルが、セキュリティに特化した指示がない場合、脆弱性を含むコードを生み出す可能性があることが新たな調査で明らかになり、これに対応するためBackslashはいくつかの新しいセキュリティ機能を打ち出しました。
これには、コード生成時にセキュリティ要件を組み込むルールや、IDEでのコードのリアルタイムセキュリティ評価などが含まれます。
この取り組みにより、AIが生成するコードの安全性を強化し、「セキュリティ・バイ・デザイン」を実現するとしています。
Backslash Securityは先進的な企業におけるアプリケーションセキュリティの近代化に一役買っており、その最新機能はRSAカンファレンス2025でデモされる予定です。
出典 : AIセキュリティのBackslash Security、GPT-4.1など人気LLMが生成するコードの脆弱性を指摘 https://www.atpartners.co.jp/ja/news/2025-04-25-ai-security-s-backslash-security-points-out-vulnerabilities-in-gpt-4-1-and-other-popular-llm-generated-code
