如題,若想要自建「大模型」在「單機」上,代價驚人,現在與AI相關硬體啥都漲,漲幅沒在客氣的...

跑AI代價約需要一台國產車
一般人沒必要蹚這渾水

AI等大廠拼出輸贏. 現在還太早.

一般人或小團隊此時盲目投入底層技術的研發
(如開發大語言模型),不僅資金燒不起,也難以形成壁壘。

用現有的電腦玩玩還可以.
冤大頭與接盤俠就相信自己搞ai能賺錢~
有錢搞ai服務的企業,即使付費用戶有千萬了,照樣賠錢然後宣布破產...
所以我到現在依然懷疑那些鼓勵個人搞ai的youtuber與網紅,真的靠訓練ai賺錢?
還是靠賣課程與設備來收佣金賺錢?

就和挖礦一樣,挖礦剛熱門的時候也是一堆人說賺翻了!
每個人都應該用電腦挖礦!實現財富自由!
現在呢?
誰還在宣傳挖礦能賺翻,財富自由?

所以沒有耐心研究ai,就不要浪費錢買那些設備自己搞。
花點錢用那些企業的雲端運算,還比自己搞ai便宜與有效。
台灣企業不知道需求是怎樣,但自己的大模型優點就只有這樣,要回本幾乎不可能:
--數據不上網(怕外洩)
--高頻率使用
--上網網路斷線要能繼續跑

自己家裡搞的都純屬興趣吧...


看了一下標價,比對國外整理出可跑模型測試,這精度真的是.....................唉!



對比他家是不錯,但是Q4精度真的沒法接受.用壓縮的Q8精度,才是堪用起點. CP值太低了,乖乖訂閱吧.
嗯 GPU記憶體很重要 這也是為何等mac studio開賣512GB
但是價格竟然從三十多萬變成八十幾萬 呵呵
文章分享
評分
評分
複製連結

今日熱門文章 網友點擊推薦!