xchunix wrote:
各位投資界先進大家好:
各位投資之餘記得做功課~
先幫釐清幾個訊息，不知道的+-聽聽:
1.AI這個東西大概從1956年左右才正式被學術界規範出來，說百年有點太久。不然定義寬鬆點的話算盤也算是AI。
2.AI發展一直起起伏伏，近代AI發展從IBM深藍開始受到一般民眾注目，因為它打敗西洋棋棋王。再來是華生，因為它能在綜藝節目接受自然語言(也就是口語)提問。再來是阿發狗，因為它打敗棋靈王(X)、韓國棋王(O)。到Alpha Go這裡比較特別，因為它是用學習的方式打敗人類，而不是用記憶或是速度。要知道圍棋棋局總數(也就是所有可能結果)是超過全宇宙原子數(這是科學家的推論)，因此不可能僅靠電腦比對每種棋局來打敗人類，因為沒有那個算力。但是電腦的優點就是快，因此學習也快，到最後AlphaGO是跟自己下棋來練棋力，那就不是人類一天幾盤棋可以比擬。再來就是ChatGPT的出現。
3.這些發展其實都是慢慢累積起來的，軟體方面最關鍵突破點是在類神經網路被發明出來。而恰巧這類運算很適合用GPU來執行。軟硬整合下才有現今的AI發展。有的人可能會說CPU不是很厲害?打個比喻，CPU是個大學教授，GPU是一群大概幾千個國小5、6年級學生，今天發派一份50以內的加減法題目，共10000題，請問誰做得快?這就是為什麼CPU在這波AI浪潮中這麼弱勢。
4.生成式AI有分訓練跟推理階段，訓練是指用一大堆資料通過運算來找出資料的特徵而做成一個模型，推理則是把這個模型拿來使用，輸入資料後讓它生出對應的結果。訓練過程是需要龐大算力，這都需要具備很多GPU的伺服器處理，個人電腦沒辦法處理出像樣的成果。個人電腦最多就是微調，也就是在基礎模型上(也就是伺服器算出來的)，再用自己的資料訓練，讓模型特化成自己需求。新聞上看到的變聲或是變臉就是這類應用。推理則是一般個人電腦配合不錯的GPU顯示卡就可以跑得動。
5.AI PC或是手機的目標就是能跑得動推理，試想ChatGPT可以即時回覆，AI圖生成也是即時生成，這樣的話有多少應用商機?
6.另外，這些AI開發公司也在努力讓模型縮小，以便省成本及在終端推行。你看到類似XXXX的新模型參數只有幾億，效能卻媲美百億模型的新聞，就是在做這件事。
7.現在大部分網路上口白式影音，特別是中國的，幾乎都用AI生成。僅需要輸入你想講哪類題材，電腦就可以自動生成口白劇本、相關語音、配樂、圖片、影片，一鍵完成。這類應用就很適合AI PC來處理。
8.AI PC基本上就是要搶CPU+GPU(Nvidia, AMD)這個市場。但是NV應該也樂見AI PC話題被炒起，炒越大就越多應用被開發出來，但是這些應用的背後都需要他們家的晶片來訓練，伺服端的才是肥肉。而推理端的PC其實隨著伺服端的GPU架構的進步，PC裡的顯卡也會進步，NV沒在怕，況且它是摸蛤兼洗褲，遊戲+AI都吃。
9.本機推理的好處?低延遲跟隱私。
感謝大神提供如此詳盡的解說
AI發展至今，不是百年，而是66年
請原諒小弟，我依然認為66年，在今天的討論串裡，與近百年的說法，並無太大違和，等同，AI開始發展時，現在所有網友幾乎都還沒出生
不知道，您能否接受這說法?
至於其他各點
您的說法與小弟所有文章主題內容與回文100%相符
只是您用了論文式的敘述，更加清楚地說明了這一點
感恩分享
