Dwing wrote:
這說法有問題新一代GPU...(恕刪)
從目前的資料來看所謂的30倍效能與耗能減少
不是單一顆GPU的比較結果, 而是新舊解決方案的比較結果
因此對於特定領域的架構優化效果可能還比GPU本身要來得大
像下面資料描述, 不同的架構效能就差了不少
https://www.tomshardware.com/pc-components/gpus/nvidias-next-gen-ai-gpu-revealed-blackwell-b200-gpu-delivers-up-to-20-petaflops-of-compute-and-massive-improvements-over-hopper-h100
SuperPOD 旨在擴展到兆參數人工智慧資料集，Nvidia 表示，與 H100 解決方案相比，每個 SuperPOD 的訓練效能提高了 4 倍，推理速度提高了 30 倍。它還聲稱與先前基於 H100 的解決方案相比，能源效率提高了 25 倍，但這種比較顯然不能普遍適用。在本例中，它使用相同數量的 GPU，運行「大規模模型」並使用新的 FP4 數位格式。
Nvidia 還將提供 DGX B200 系統，該系統可能會使用 Xeon 或 EPYC 處理器而不是 Grace。這些系統適用於特別需要 x86 支援的工作負載。 Nvidia 表示，DGX B200 可以將訓練速度提高 3 倍，推理速度提高 15 倍，並節省 12 倍的能源。
