NVIDIAがAI業界でまた新たな高みに到達しました。同社のTensorRT-LLMスイートを用いて、H200 GPUシリーズの性能を大幅に強化し、最新のMLPerf v4.0の結果で目を見張るような記録を樹立しました。特に、GenAI（生成AI）市場では激しい競争が存在する中、NVIDIAは市場の大半を獲得し、そのリードを拡大しています。
Hopper GPUのパフォーマンスを向上させるNVIDIAの努力は、データセンターの収益の40％を占める推論作業において特に明確であり、MLPerf v3.1からv4.0に至るまでの大幅なパフォーマンス向上が確認されました。H200 GPUは、より大きなメモリ構成と高速な帯域幅を活かして、競合他社と比較しても圧倒的な性能を示しています。
加えて、H200は兼容性も保ちつつカスタムの熱設計バリアントとしてMGXプラットフォームにも展開されており、TDPを1000Wまで高め、さらなる性能向上が期待されます。発売されたばかりのH200 GPUと、後半年内に出荷予定のBlackwell GPUのシステムが今後の市場でどのような結果を見せるのか、期待が高まります。
出典 : https://wccftech.com/nvidia-hopper-h200-gpu-dominates-mlperf-4-0-3x-gain-in-genai-tensorrt-llm-ai-results/