東京工業大学などの研究チームが、日本産CPUのスーパーコンピュータ「富岳」で開発した言語モデル「Fugaku-LLM」が公開されました。GPUではなく国産CPUを使うことで、ハードウェアの入手が困難な状況を克服。
開発期間は約1年で、富岳の計算性能を生かし、深層学習フレームワークの最適化に成功。通信速度も大幅に向上しました。また、研究チームは独自に4000億トークンのデータセットを作成。透明性と安全性が高く、学習済みのAIとしては国産初の成果となっています。
この技術は将来、幅広いAIモデルに応用可能で、国産LLMの新たな選択肢として期待されています。
出典 : https://www.itmedia.co.jp/aiplus/articles/2405/10/news186.html