「Romi」のAIは、2023年のTECH CONFERENCE以降、格段の進化を遂げています。
パブリックなLLMベースの「ChatRomi」として、独自の会話データでのファインチューニングを施し、新たな話題作りをしています。
特に注目されている「Swallow」モデルをはじめとする新技術の導入や、既存の「StableLM」の改良が行われ、利用者からは好評を得ています。
さらに、前例のないアップデートとして、GPUインスタンスの強化やライブラリの変更など、高速化にも力を入れています。
さらに、新たな技術「Medusa Head」と「Speculative Sampling」導入により、高速化しながらも精度を維持することに成功。
AIはターゲットモデルとドラフトモデルをうまく組み合わせ、全体の処理速度を20%も向上させています。
これらの改良により、RomiのAIは新しい次元に進化を遂げたと言えるでしょう。
出典 : https://logmi.jp/tech/articles/330699