最先端のAIモデル、特に大規模な言語モデル（LLM）が企業システムにもたらすセキュリティ上の懸念が増しています。
Open Web Application Security Project（OWASP）が発表した7つの脆弱性と、API管理を強化することでこれらのリスクを緩和する方法を探ります。
例えば、悪意のあるプロンプトを使ってAIをだまして意図しない出力をさせる「プロンプトインジェクション」や、セキュアでない出力処理が問題となります。
これらの攻撃から守るため、開発者は認証やアクセスコントロールを適用し、モデルへのリクエストを検査する必要があります。
LLMにレスポンスを求める際には、正規表現パターンの適用や、悪意のあるレスポンスが含まれていないかをLLM自体に確認させる方法も有効です。
さらに、組織に課すリソースコストの増大を引き起こすモデルリクエストの過負荷や、機微な情報を漏洩させるリスクに対する対策も必要です。
適切な認証とアクセス制限、そしてAPIトラフィックの監視により、これらのセキュリティリスクの管理が可能になります。
AIゲートウェイを使用すれば、これらの対策をAI特有のニュアンスに合わせて行うことができます。
出典 : 7 LLM Risks and API Management Strategies to Keep Data Safe https://thenewstack.io/7-llm-risks-and-api-management-strategies/