「大規模言語モデル」(LLM)に対するコスト効率の高い代替手段として、「小規模言語モデル」(SLM)が注目されています。
SLMは、企業特有の業務に特化し、専門的な応答精度を高めることができます。例として、Eコマース分野の問い合わせ対応が挙げられ、オーダーの状況確認や返品依頼を自動識別することが可能です。
さらに、SLMは軽量であるため、高性能な専用マシンを必要とせず、一般的なハードウェアで動かすことができる利点もあります。しかし、SLMが日々発生する業務データを最新の状態に保つことは技術的に課題が残ります。
この問題に対処するために、「ナレッジグラフ」や「RAG」(検索拡張生成)などの技術が用いられており、これにより情報が最新化された正確な推論が可能になります。
今後は、SLMとLLMが共同で使われることで、確かな専門知識を提供するAIエージェント時代が到来する可能性があります。
出典 : なぜ「LLM」ではなく「SLM」こそ企業にとって“実用的なAI”になるのか? https://techtarget.itmedia.co.jp/tt/news/2506/11/news10.html