企業に急速に普及する大規模言語モデル（LLM）だが、セキュリティリスクへの懸念も高まっている。
Gartnerは「2026年までに80%の企業が生成AIを本稼働する」と予測しているが、その一方で、LLMを組込むアプリやシステムに内在する多様なリスクが判明し、警鐘を鳴らしている。
OWASPが提唱する「LLMの10大リスク」には、アプリを悪用する「Prompt Injection」や「Insecure Output Handling」、倫理的問題を引き起こす「Training Data Poisoning」などがあり、
それぞれ企業の運用やシステムに潜在する危険を指摘。
技術者はこれらのリスクへの対策が不可欠で、OWASPの文書を確認し対応するべきだ。
出典 : 広がるLLM活用、NISTのフレームワークがセキュリティーリスク管理の一助に https://xtech.nikkei.com/atcl/nxt/column/18/02910/080600001/