現代のビジネスにとってAPIを通じたAIの活用は必須ですが、それによるリスクもまた高まっています。特に、ジェネレーティブAI（GenAI）は、
プロンプトインジェクションという技術で悪意のあるコードを注入されて誤動作させられたり、機密情報が漏洩するリスクを抱えています。OWASPプロジェクトは、
AIに特有のセキュリティの脅威をapiトップ10リストでまとめています。
不正なアクセスや情報漏洩を防ぐためには、入力チェック、出力制御、内容フィルタリングなどが必要ですが、それだけでなく、
データが訓練モデルに入ること自体を防ぐ対策もシンプルな解決策です。それに加えて、リソースの監視とAPIの利用制限を行うことで、
サービスの質を保ちつつこの脅威から身を守ることが可能です。APIは継続的なテストと監視が不可欠であり、それによって早期対応とデータ漏洩の防止が実現されます。
AIの新たな脅威に備えたセキュリティの構築が今、より一層求められています。
出典 : Could APIs be the undoing of AI? https://www.helpnetsecurity.com/2024/09/30/llm-issues/
