skiiks wrote:
Mac Studio...(恕刪)
最近測試了Mac Studio M3 Ultra 256GB版本跑訓練與部署Deep ML 的LSTM+Unet模型用於科學計算，同時也在工作站上用A100或是L40跑同樣的工作，M3 ultra 在訓練上如果code經過MPS最佳化，每個訓練的速度大約是Cuda速度的 1/3，總記憶體只吃了50% (約120GB)。但Mac Studio總功耗只有150W，我推測用CUDA卡加上硬碟CPU應該超過800W。在部署時則差不多，差距Mac Studio速度上稍慢於Cuda，但還是很快。此外Mac studio在跑訓練的時候，其他日常操作不太影響，GPU溫度約70度
