メタが開発した高性能AIモデル「Llama 3.1」は、オープンソースでありながら高い精度を誇る注目の存在です。
しかし、実際の利用には高スペックなハードウェアが必要でした。そこで注目されているのが、AI企業SambaNovaが提供する「SambaNova Cloud」です。
このサービスは、独自のAIチップを使い、他社のサービスを上回る速さでLlama 3.1の利用を可能にします。
秒間最大132トークンという速度は、他のフラッグシップモデルと比較しても驚異的です。
さらに、無料でAPIアクセスできるフリーティアなど、多様なニーズに応じたプランを用意しています。
これからは、誰でも簡単に最先端のAIアプリケーション開発を始められる時代になりそうです。
出典 : 爆速生成AI「Llama 3.1 405B」をクラウド利用する、初心者向けステップガイド https://www.sbbit.jp/article/cont1/152330
