近年、グラフィックボードは3Dゲーム以外にも、AIのローカル推論処理に利用されるようになっています。
NVIDIA製のグラフィックボードやAppleチップを使用したAI推論処理能力に関するウェブページが登場し、どの製品が最適かを知る参考になります。
このウェブページでは、AI推論処理の速度を秒間処理トークン数で比較しており、特にNVIDIA製のRTX 4090 24GBが最高の性能を示しています。
一方で、Apple製チップを搭載したMacでは、M2 UltraとM3 Maxにおけるメモリ容量の差がAI処理性能に大きく影響することがわかります。
この比較結果を踏まえると、コストパフォーマンスを重視するならNVIDIA製ゲーム用グラフィックボード、プロ向けには専用のグラフィックボード、省電力や静音性を求めるならMacの購入が推奨されています。
これらの情報は、AI推論処理能力の高いグラフィック機器選びにおいて、有益な指針を提供します。
出典 : NVIDIA製グラボやAppleチップのAI推論処理能力をまとめた一覧表、どのグラボやMacを買えばいいのかの参考になる https://gigazine.net/news/20241209-nvidia-gpu-apple-silicon-inference/
