討論群組

小惡魔市集悅遊日本活動報導

我要回覆

maya95

15441分

樓主

maya95

個人積分：15441分

文章編號：88077721

使用 Ryzen 4600G/5600G 跑 AI 應用?

只要 100 鎂 / 3000 - 150鎂 /4500 台幣左右

https://www.reddit.com/r/Amd/comments/15t0lsm/i_turned_a_95_amd_apu_into_a_16gb_vram_gpu_and_it/

Ryzen 4600G/5600G BIOS 把內顯使用記憶體調成 16GB 就可以了

有人號稱ASROCK 主板內顯記憶體上限可達 64GB

可以運行大量 AI 應用程序，包括 Stable Diffusion、FastChat、MiniGPT-4、Alpaca-LoRA、Whisper、LLM 和 LLaMA

2023-08-20 13:13 #1

文章關鍵字

Ryzen 4600G AI 應用 4600

jrc1234567

5673分

2樓

jrc1234567

個人積分：5673分

文章編號：88077967

知識無際................

maya95

15441分

樓主

maya95

個人積分：15441分

文章編號：88077980

使用 4600G/5600G 生成一個物件甚至比一些 CPU + NVIDIA 12GB 4070 (Ti) 還快, 只需二分鐘

skiiks

17286分

4樓

skiiks

個人積分：17286分

文章編號：88078107

maya95 wrote:
使用 4600G/5600G...(恕刪)

跟這篇回文中影片連結所說的類似使用方式
-> [01站內文] 給台積電代工

把顯示記憶體拓展到最大在把AI所需程序全都丟進去
就不用再回最慢的儲存裝置讀取資料
所以速度會比插只有12GB顯示記憶體的卡快

　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　彈幕濃！

maya95

15441分

樓主

maya95

個人積分：15441分

文章編號：88078133

類似效果

skiiks wrote:
把顯示記憶體拓展到最大在把AI所需程序全都丟進去
就不用再回最慢的儲存裝置讀取資料
所以速度會比插卡只有12GB顯示記憶體快

最近還有AI開源社群紛紛為蘋果M2改寫AI引擎為ARM架構
為的就是M2集成CPU中 192GB記憶體可以當顯示記憶體用
可以放進整個AI需要的檔案可以隨時調整AI

這種使用方式
雖然總體運算能力低於6張4090(24GB顯示記憶體x6或x8)
但可以放進整個AI需要的檔案
不需要從儲存裝置反覆載入做到即時調整

雖然運算較慢但在價格功耗以及使用難度上蘋果M系列更為優異
尤其價格 M2 192GB價格18萬起跳頂規28萬
4090光價格 6張x5~6萬 = 30~36萬還不包含CPU 記憶體主機板

skiiks

全部在顯卡記憶體中跑 > 全部在M2記憶體中跑 > 全部在DDR5轉內顯記憶體中跑 > 只有12GB顯示記憶體的顯示卡

2023-08-20 15:21

想用 VMware 17 試試, 結果虛擬内顯最高 8GB [點點點]

2023-08-20 16:01

forumstartw

3337分

6樓

forumstartw

個人積分：3337分

文章編號：88078826

我用5700G 跑 SD 是頗沒效率的

3070 10秒多的時間
5700G 需要將近一分鐘

ゴミ丼わがんにんにゃれ我沒有義務回覆你的問題

Ghostwriter

M2 gpu+記憶體有特地設計過，就看甚麼時候能搶老黃低價半專業卡(4090)的市場了。把模型挪到ram上一直有人做，但效率和相容性感人[大哭]

2023-08-20 21:13

skiiks

蘋果M2就集成晶片一種把資料要高速處理所需的晶片通通擺在CPU旁一起放在載板上才有超低的延遲光靠減少的延遲就可多算好幾次

2023-08-20 22:45

至尊魔法師

553分

7樓

至尊魔法師

個人積分：553分

文章編號：88078942

這個就有趣了

ロリ大大

2419分

8樓

ロリ大大

個人積分：2419分

文章編號：88079116

稍微看了一下，比不少CPU快這沒問題
但跟4070(TI)比是在爆12G顯示記憶體下
4070(TI)可能無法出圖而獲得5600G較快
但還是有方法可以解決爆記憶體的問題
點我看大圖

不過可能只限AMD+N卡(我是7950X3D+64G RAM+4070)，A卡的話我就不清楚了
之前試過INTEL+N卡(13950HX+64G RAM+4080Laptop)記憶體爆太多還是會出不了圖

點我看大圖

以上是圖生圖
如果是文生圖那更沒有爆記憶體問題
因為超過特定解析度後，生成的圖會有極高機率畸形
以像素量來說上限大概就一百萬，而這只要約8G的顯示記憶體就夠了
想更大就要採用圖生圖

文生圖的話......
點我看大圖

RTX 4070 720*1280 25步 30張
耗時約3分44秒
老實說論速度是完全比不上4070
更別說拉滿2048*2048 APU要跑多久

但也算解除之前心中疑問，APU分夠記憶體還是能跑

Ghostwriter

2052分

9樓

Ghostwriter

個人積分：2052分

文章編號：88079717

ロリ大大 wrote:
稍微看了一下，比不少CPU...(恕刪)

APU算的速度要比4070快真的想多了
不看架構參數直接橫向對比it/s只是在耍流氓而已
這個價值就是讓你用1050(甚至更差)的速度
用4080或甚至A6000的vram大小來算高畫質大圖
倒是ROCm到現在終於到達堪用的層級還蠻讓人感動的，TPU和IPU還是那個死人樣子
總而言之，可以玩玩，反正算圖大不了上班掛著，5600G全時跑也耗不了多少電