企業でAIサービスを使う際には、オンプレミスまたはクラウド経由の２種類の方法があります。特に、大規模言語モデル（LLM）の利用方法としては、これらの違いに応じたリスク評価が必要です。
リスクを評価するには、アプリケーション、LLMの学習データ、LLM自体、組織の４つの観点からセキュリティを確認し、対処することが大切です。
例えば、クラウド経由で外部ベンダーのLLMを用いる場合、社内情報が漏れないように注意が必要です。また、LLMには誤情報を生成するリスクもあるため、その挙動は慎重に検証することが求められます。
情報漏洩の防止や不正アクセスへの対策、組織内のルール設定も忘れてはいけません。こうしたリスクに備えるために、AIの安全な使用と管理方法を学ぶことが重要です。
出典 : LLMのセキュリティー、リスクの管理・低減の鍵は「4つの観点」 https://xtech.nikkei.com/atcl/nxt/column/18/02910/080600002/