AIベンチャーのPKSHA Technologyが新たな技術「RetNet」を用いた日英大規模言語モデルを開発したと発表しました。
Microsoft Researchが開発したRetNetは、従来主流の「Transformer」に代わる次世代技術と期待されており、データの処理効率が大幅に向上しています。
GPUの使用メモリを約3分の1に、応答速度のレイテンシを約15分の1に抑え、スループットは最大8倍という卓越した性能を持っています。
これにより、長文の入力に対しても応答時間がほぼ一定に保たれるため、コンタクトセンターなどの実用化を視野に入れて、現在さらなる改善を進めています。
今後、PKSHAと日本マイクロソフトは協力して、RetNetの実用化と技術の向上に務めていく方針です。
出典 : https://www.itmedia.co.jp/aiplus/articles/2403/28/news185.html