AI分野で注目を集めるGroqは、人工知能言語モデルを高速で動作させるための専用ハードウェアを開発しています。
Groqの目標は、AIのレスポンス速度を人間のタイピング速度の75倍にまで高めることです。
会話形式のAIチャットボットを使う時や、メール作成の支援を求める時など、AIを使った作業の高速化は非常に重要です。
現実的な時間で情報を得たい、迅速に結果を出して次の作業に移りたいというニーズに応えるため、Groqは従来の計算手法とは異なるハードウェアを採用しています。
特に、大規模言語モデル（LLM）を扱うのに最適化された「言語処理ユニット（LPU）」を開発。
これにより、同社は既存のGPUを用いた方法よりも最大10倍の速さでLLMを動かすことができるとしています。
Groqは、現在Llama 2やMixtral-8x7b、Mistral 7Bなどを稼働しており、誰もが無料で、ソフトウェアのインストールなしでこの高速なAIエンジンとAPIを試すことができます。
今後、オープンソースモデルの提供に力を入れていくとしているGroqの動向から目が離せません。
出典 : https://www.tomsguide.com/ai/forget-chatgpt-groq-is-the-new-ai-model-to-beat-with-blistering-computation-speed