リコーが、企業が自由にカスタマイズできる700億パラメータを持つ大規模言語モデル（LLM）を開発しました。
このLLMは日本語、英語、中国語に対応しており、オンプレミス環境とクラウド環境の両方で利用可能です。
データの選定やクレンジング、カリキュラム学習など、独自の手法で学習を進めています。
特に注目されるのは、改良されたトークナイザーにより日本語の処理効率が43%向上し、リソース削減とレスポンスの速度向上を達成した点です。
また、環境への影響を考え、エネルギー消費量を大幅に削減することに成功しました。
さらに、安全なオンプレミス環境でも導入可能で、ユーザーのプライバシーに配慮した追加学習が可能としています。
AWSとの協働により、コストの削減と省エネを実現するなど、企業にとってメリットの大きいLLMの実現を目指しています。
出典 : リコーが700憶パラメータのLLMを発表、日・英・中の3言語に対応 https://news.mynavi.jp/techplus/article/20240821-3009347/