Groqは、自社のウェブサイト上で、大規模言語モデル（LLMs）を使用した高速クエリやその他のタスクを実行できる新機能を導入しました。この機能は音声コマンドにも対応しており、非常に迅速に反応します。
同社のCEOであるジョナサン・ロス氏によると、GroqのエンジンはMetaが開発したオープンソースのLlama3-8b-8192 LLMを標準で使用し、他のモデルへの対応も計画しています。
Groqの特徴は、言語処理ユニット（LPU）により、GPUを上回る効率性と速度でAIタスクをこなす点にあります。AIアプリケーションの展開時に求められる効率性と低レイテンシーへの対応が可能です。
また、Groqの技術はGPUの三分の一程度のエネルギーを使用し、一部の作業では十分の一まで削減することが可能です。
開発者には無料でサービスが提供され、16週間で282,000人以上の開発者に使用されています。
Groqは、エンタープライズへの注力を明かしており、効率的な処理能力が企業のAIアプリケーション展開に必要とされています。
次世代のコンピューティングに新たな挑戦をもたらすGroqの技術は、ますますの注目を浴びることでしょう。
出典 : https://venturebeat.com/ai/groq-releases-blazing-fast-llm-engine-passes-270000-user-mark/