想要玩玩 local AI
微星網站給的配置如下. 大家有什麼建議嗎 ?
組裝清單
Motherboard : MPG B850 EDGE TI WIFI
CPU : AMD Ryzen 5 9500F ; Socket AM5
Graphics Card : GeForce RTX™ 4090 SUPRIM X CLASSIC 24G
Storage : Kingston KC3000 2TB
Liquid Cooling : MAG CORELIQUID A13 240 / WHITE
Power Supply : MAG A1000GL PCIE5 / WHITE
PC Case : MAG PANO 110R PZ / WHITE
Memory : Kingston FURY Beast DDR5 6400MT/s 32GB (2x16GB) Black
Gucool
隔壁有U搭Z890 AORUS ELITE WIFI7組合更划算 硬碟拿KC3000就好
jackpengM1 wrote:
想要玩玩 local AI





等24日上市有32GB VRAM的 Intel ARC PRO B70約36K五年保固,可串連128GB運作!
現在要看是哪方面的需求
要求速度、產圖產影片訓練模型等選顯示卡效能強的
要跑大模型不失智,相對比較不求速度的,選大量記憶體跟頻寬
這類反而是選GB10、MAC 搭128GB記憶體
CPU可以上到R7或U7
記憶體預算夠的話建議大點64甚至128
不知道你說的loca lAI是哪個
stable diffusion?
衍生出界面的東西很多 webui /forge ui/comfy UI
ollama?可以衍生的東西也很多 龍蝦當然最有名
我是只有在跑這兩個
感覺上就是吃GPU跟GPU的ram
cpu跟主記憶體都夠支撐os本身即可
把主記憶弄很大UMA給GPU
去塞超過GPU 本身Ram的模型
那個產出的token都很可憐
我是不想這樣玩啦
如果你是要算影片,
24GB的 GeForce RTX™ 4090 SUPRIM X CLASSIC 玩不出啥花樣的,
影片很假、穿幫的機率很高,
不然為啥一堆中共國人要拿去魔改成96GB。

若你把主記憶體也拿來放資料,傳輸太慢,嚴重拖後腿。

你是可以先練一練,等3年後去買算力中心退役的洋垃圾,
最好是搭載 HBM3 100GB 以上的晶片。
記憶體建議上128G
9900x3d+5080

eanck
你知道樓主要跑多大的模型嗎? 你知道你這樣配只能跑多大的模型嗎?
關閉廣告
文章分享
評分
評分
複製連結

今日熱門文章 網友點擊推薦!