株式会社オルツが開発した「LHTM-OPT2」は、日本語の検索拡張生成（RAG）において、世界最高の精度と速度を誇る軽量型の大規模言語モデル（LLM）です。
このモデルは、パラメータの数を最適化しており、小規模のGPUマシンでも実用的です。オルツは「LHTM-OPT2」を使って、日本語Wikipediaから生成された高品質なRAGベンチマークや、東京大学入学試験の国語科目の質問に答えるなど、複数の評価を行いました。
その結果、GPT-4oと同等、あるいはそれ以上の精度を達成し、推論速度においても平均500TPS、ピークで796TPSを記録しています。この新技術によって、アジアにおける「OpenAI」としての地位を確立することを目指していると発表しています。
「LHTM-OPT2」は、日本企業の労働生産性の向上に貢献する高品質のソリューションを提供することでしょう。
出典 : オルツ、日本語RAG（検索拡張生成）で軽量型LLMとして世界最高の精度と推論速度を実現。新たに「LHTM-OPT2」をリリース https://aismiley.co.jp/ai_news/alt-japanese-rag-light-llm-lhtm-opt2/