Tenstorrentが開発した「LoudBox」ワークステーションは、32ユーザーが同時に利用しても
15トークン/秒/ユーザーの高速処理が可能で、AI関連アプリケーションの需要に応えます。NVIDIAのAPIサービスと比べても、
この新型ワークステーションはコストパフォーマンスに優れ、1万2000米ドルで提供されます。CEOのJim Keller氏は今後の性能向上に自信を見せており、
顧客エクスペリエンス向上に向けて開発を続けています。AI技術の進歩がビジネスの新たな可能性を切り開く様子がうかがえます。
出典 : 32の同時ユーザーで15トークン/秒 TenstorrentがLLMのデモを披露 https://eetimes.itmedia.co.jp/ee/articles/2410/09/news121.html