次世代AI言語モデル「RetNet」の展望

2024.04.28

WorkWonders

AIの新たな進化を遂げたPKSHA Technologyは、将来のビジネス現場に革命をもたらす可能性を秘めた新しい言語モデル「Retentive Network(RetNet)」を開発しました。この技術は、今広く使われている「Transformer」に代わるもので、学習速度やメモリー効率において優れ、長文にも迅速に対応できます。

LLM(大規模言語モデル)として開発されたこのRetNetは、約70億のパラメーター数を誇り、MicrosoftのクラウドサービスとGPUサーバー群のサポートを受けています。特に、長文入力でもその速さが落ちない点が特徴で、Transformerの約3.3倍の速度で応答可能です。

将来的には、コンタクトセンターなど既にAIを導入済みの分野に最初に適用し、順次活用範囲を広げていく計画です。PKSHAはRetNetを強力なアセットとして他技術と融合させ、新サービスへと発展させていくとしています。

出典 : https://xtech.nikkei.com/atcl/nxt/news/24/00506/

【このニュース記事は生成AIを利用し、世界のAI関連ニュースをキュレーションしています】

ワークワンダースからのお知らせ

生成AIの最新動向をメルマガ【AI Insights】から配信しております。ぜひご登録ください