ELYZAは最新の日本語大規模言語モデル「Llama-3-ELYZA-JP-120B」を開発しました。
このプロジェクトは、日本のAI技術を強化するための「GENIAC」によって支持され、先進的な研究開発を実施しています。
開発では、既存のオープンモデルに新技術「Depth Up-Scaling」を採用し、性能を大幅に向上。
また、日本固有の知識や表現能力の向上を図り、法令や行政手続きに関するデータを用いて特化学習を行いました。
その結果、既存のGPT-4を上回る応答性能を実現。
詳細は後日公開予定とのことで、期待が高まります。
出典 : ELYZA、日本語LLMとしての性能向上を図った「Llama-3-ELYZA-JP-120B」発表（2024年9月19日）｜ https://news.biglobe.ne.jp/it/0919/mnn_240919_2810437406.html