楽天グループが、新たに開発した日本語対応の大規模言語モデル「Rakuten AI 2.0」をリリースしました。
このモデルは、以前に公開された「Rakuten AI 7B」をベースに、8つのサブモデルを組み合わせたもので、560億パラメータを有しています。
さらに、小規模ですが高品質なモデル「Rakuten AI 2.0 mini」も同時に提供されており、15億パラメータで構成されています。
両モデルともにオープンソースライセンス下で提供され、誰でも利用可能です。
特にRakuten AI 2.0のファインチューニングには、「SimPO」という最新のアライメント最適化手法が採用されており、人間の嗜好に合わせやすいとの特徴があります。
これにより、会話能力や指示追従能力を測るベンチマークテストで高スコアを得ることに成功しています。
出典 : 楽天、日本語に最適化したLLMと初のSLM https://pc.watch.impress.co.jp/docs/news/1662432.html
