主要需求是 想要搭建一台 可以跑 local 端的 ai (當然多數人會說 就付費就好了啊~ 但是 你們不懂 手工男的心啊!)
又想要這台 電腦可以 執行 ComfyUI, 接入 agents (這是期望值 不是已實現的功能)
最簡單的作法 當然就是拿錢砸, 搞個工業機箱, 搞個工業主板 插滿卡~ 就可以開工了
但是! 現實很殘忍的 不想要忍受吵雜的環境 極高的耗電量 最重要的是 要在有限的預算中執行
所以我的目標是
1. 越迷你越好 (目標 ITX)
2. 能夠執行 local 端 ai
3. 能夠跑 ComfyUi
以這樣的基礎開始做功課 若是使用 ITX, 那就只能使用 5090, 不說盤子價以外 還不一定買的到, 並不是優選
但是不管怎樣 我還是想要限制機器的體積啊!!
所以我決定 買賓士 也是開, 買 toyota 也是開啊!
另闢蹊徑, 以 AMD 平台開始發展
最後使用的是 AM4 的 CPU (主要是因為 ai server CPU 不是重點, 機器的 RAM 反而是
(現在的 RAM 的價格與 顯卡都是不合理的)
接著 搭建雙顯卡的布局
CPU: 5950x
顯卡: R7900XTX / R9700 ai Pro
記憶體 : 32G
電源 : 1300W
最後達成的效果是 跑千問 3.6 27B 未審查版本 平均約 42~45 tokens, 多併發數四組 (沒實際操練過, 但是應該可以), comfyui 文生圖/文生影片 也可以 但是模型容易爆顯存 還在學習研究中 但是終歸是能用了
至於機殼的部分 裸奔 是不可能的! 不說灰塵一堆, 光是 顯卡 與主板 的放置就成了問題 總不能 動都動不了的擺著吧!~
這樣的設置 市面上 沒有啥機殼 適合的 全都又大又重 重點是 不特別阿~
所以 基於本身職業的工具 (3D 列印, 雷雕, 雷切) 經過反反覆覆的設計 終於完成了這台獨一無二的電腦
請欣賞吧~ 圖是真圖 只是經過 ai 去背 沒去掉水印而以 那個 amd 的 logo 也是雷雕上去的 不是 ai p上的
