生成AIの明と暗:企業展開の波と潜むセキュリティリスク

2024.08.23

WorkWonders

企業に急速に普及する大規模言語モデル(LLM)だが、セキュリティリスクへの懸念も高まっている。
Gartnerは「2026年までに80%の企業が生成AIを本稼働する」と予測しているが、その一方で、LLMを組込むアプリやシステムに内在する多様なリスクが判明し、警鐘を鳴らしている。
OWASPが提唱する「LLMの10大リスク」には、アプリを悪用する「Prompt Injection」や「Insecure Output Handling」、倫理的問題を引き起こす「Training Data Poisoning」などがあり、
それぞれ企業の運用やシステムに潜在する危険を指摘。
技術者はこれらのリスクへの対策が不可欠で、OWASPの文書を確認し対応するべきだ。

出典 : 広がるLLM活用、NISTのフレームワークがセキュリティーリスク管理の一助に https://xtech.nikkei.com/atcl/nxt/column/18/02910/080600001/

【このニュース記事は生成AIを利用し、世界のAI関連ニュースをキュレーションしています】

ワークワンダース社は、生成AIの活用・導入について客観的な立場からご相談に応じています。

生成AIに関するご相談はこちらからご連絡ください。 当社のご支援実績はこちらからご確認ください。