生成AIが盛んに用いられるこの時代、大規模言語モデル（LLM）の安全性に対する取り組みが喫緊の課題となっています。
Splunkのセキュリティチーム「SURGe」の首席ストラテジスト、Shannon Davis氏によると、AIとセキュリティの現状は未完の道の途上にあると言われています。
SURGeは迅速なセキュリティ対応と、その解決策を提供する専門家集団です。特に広く社会的影響を与えるインシデントでは、技術的初動対応や最新トレンドの分析を行っています。
Davis氏は、LLMアプリケーションの脆弱性に対するフレームワークとして、「OWASP Top 10 for Large Language Model Applications」を活用しています。
また、攻撃の特徴と対策についても言及しており、生成AIの理解を深め、適切な保護策をとる事の重要性を説いています。
これにより、AIの活用はより安全なものへと進化し続けるでしょう。
出典 : LLMのセキュリティ対策は「まだ道半ば」–Splunkの首席調査官が指摘 https://japan.zdnet.com/article/35223831/