ビジネス分野に特化した言語モデル（LLM）の開発は、今後の各企業に不可欠な技術となっています。
自然言語処理の進歩により、文章生成や情報の抽出が可能になり、今、私たちはより専門的なビジネス知識に特化したLLMの開発を目指しています。
しかし、その過程では多くの挑戦があります。例えば、モデルのパラメーター数が増えると、計算資源や予算の問題が生じ、期待通りの性能を得るためには、質の高いデータセットの作成や継続学習が必要です。
さらに、2023年にChatGPTが登場し、既存の計画を見直す契機となりました。
事前学習では莫大な費用が掛かるため、事後学習やファインチューニングの段階で効率的な成果を目指す動きが加速しています。
これらの技術革新は、企業が独自のLLMを開発し、特定の応用で社会実装を進める可能性を広げています。
研究者や企業間の協力により、これからも新たなチャレンジが続いていくでしょう。
出典 : LLM開発は”1000万円ガチャ”？ ３人の専門家が語る日本語モデルの開発秘話と苦労 https://logmi.jp/tech/articles/330880