野村総合研究所（NRI）は、独自技術とノウハウを駆使し、特化型の大規模言語モデルを新たに開発しました。
これは計算リソースやコストを考慮した80億パラメータの「Llama 3.1 Swallow 8B」を基にしており、特定の業界やタスクに高度に特化しています。
具体的な手法としては、高性能な日本語性能を持つモデル選定、業界固有の知識を習得する継続事前学習、そして合成データによるファインチューニングによるタスク特化型LLMの構築です。
これによりNRIは保険業界で商用モデルを上回る成果を収め、今後他業界への展開も視野に入れています。
加えて、教育機関との研究やビッグテック、スタートアップとの連携を進め、AI技術の社会への実装を推し進めていくとしています。
出典 : NRI、業界・タスク特化型LLMの構築手法を開発 汎用モデルでは難しい専門領域へも展開 https://enterprisezine.jp/news/detail/21854
