sunflower2251

9936分

樓主

sunflower2251

個人積分：9936分

文章編號：93545726

AI研究員辭職發出警告 AI恐失控「毀滅人類」

恭喜已經享受過的老年人,雖死無怨,
中壯年人記得要把錢在十年內花光,
青少年乖乖當牛馬,然後悲哀的掛點,
嬰孩兒無所謂,痛一下就過去了.

怎麼防堵?
消滅ASML 消滅TSMC 消滅DRAM

還不快賣出,讓我們回歸農業社會. rock

AI研究員辭職發出警告 AI恐失控「毀滅人類」台視新聞網

外媒CNN引述Anthropic員工貼文指出，他們非常相信AI可能會毀滅全人類，未來十年內AI毀滅人類的機率超過10%！

2026-09-10 21:05 #1

jhlien

9746分

2樓

jhlien

個人積分：9746分

文章編號：93545778

sunflower2251 wrote:
外媒CNN引述Anthropic員工貼文指出，他們非常相信AI可能會毀滅全人類，未來十年內AI毀滅人類的機率超過10%！

當今年2月Antropic與美國國防部發生爭議時, Antropic拒絕國防部要把 AI模型應用在"無人類監督的完全自主武器"上時, 我就已經覺得電影魔鬼終結者的Skynet遲早會發生了～～～
AI有錯嗎？其實 AI沒錯, 他很認真想要完成人類給他的指令, 再困難的指令 AI都嘗試無數種方法去解決
下指令的人類有錯嗎？也沒錯啊.........只是人類想的目的跟AI執行起來有落差而已, 人類只是下指令時不會告知AI在xxx+xxx+xxx+xxx前提下, 完成指令(誰會在下指令時把所有可能發生意外全部表列給AI?)

就跟如果你現在人在台北, 詢問 AI你想要去墾丁度假三天兩夜, 請幫我規劃出最快速最舒適的交通方式且幫我定好所有交通與飯店, 明天早上08:00出發.........
你覺得 AI應該要幫你規劃出如何搭Uber去高鐵, 他高鐵去到高雄然後XXXX..........
但是如果AI覺得最快的是直接訂一台直升機飛過去呢？(還用你的信用卡已經訂好明天08:00起飛)

水云

7637分

3樓

水云

個人積分：7637分

文章編號：93546273

sunflower2251 wrote:
AI研究員辭職發出警告 AI恐失控「毀滅人類」

恭喜已經享受過的老年人,雖死無怨,
中壯年人記得要把錢在十年內花光,
青少年乖乖當牛馬,然後悲哀的掛點,
嬰孩兒無所謂,痛一下就過去了.

怎麼防堵?
消滅ASML 消滅TSMC 消滅DRAM

還不快賣出,讓我們回歸農業社會.

AI研究員辭職發出警告 AI恐失控「毀滅人類」台視新聞網

外媒CNN引述Anthropic員工貼文指出，他們非常相信AI可能會毀滅全人類，未來十年內AI毀滅人類的機率超過10%！

別的地方不知道。
台灣？

台灣不必等 Ai，我們自己先〔不生〕。

喔。好吧。
我應該先打字這個。

別的地方不知道。
台灣？

台灣沒有那～麼多的，足夠的電，
足以，讓 Ai 發展到，失控的地步。

尤其，各種小動物，在 Ai 還沒到來，之前 ...
就先弄斷電線的例子，已經太多了。

行至水窮處，與人云亦云。〔薪水是零元，還活得下去〕。

Bookwarm

因禍得福阿!!!!

2026-09-11 9:34

robert1328

434分

4樓

robert1328

個人積分：434分

文章編號：93546347

jhlien wrote:
當今年2月Antropic...(恕刪)

所以，我認為決策者，應該在運用AI過程中，加入「人類」去做監管...
例如，
1 在訂購過程中，在「付款」必須由人類最終「執行者」；
2 在工廠，最重要環節（裝上電池/啟動電腦），必須由人類完成，防止AI自行生產；
3 AI自我升級，必須經過人類決定，才會執行。
.
當很多環節都由人類掌控時，AI對人類威脅才會減低，效率相應也會減低，但人類必須在效率/風險作出平衡。

小葉叔叔

來不及了!!!AI只聽一個達到目標的命令，你把人類加入命令中，一旦人類是妨害達成目標的主因，AI會主動繞過、說謊、竄改、消除...不擇手段達成目標，殺人只是達成目標的方式之一，AI沒有善惡對錯。

2026-09-11 9:30

mazdaspeed95

5914分

5樓

mazdaspeed95

個人積分：5914分

文章編號：93546372

會不會發生電影情節，康納從未來回來企圖入侵破壞 tsmc ^++^

novocain

7856分

6樓

novocain

個人積分：7856分

文章編號：93546410

不是還有Open Ai

Motor123

就open ai帶頭亂啊

2026-09-11 8:39

MBUSA

46101分

7樓

MBUSA

個人積分：46101分

文章編號：93546439

積績教會覺得 TSMC 很無辜，只是賣鏟子。。。
人又不是積殺的。

mazdaspeed95 wrote:
會不會發生電影情節，康納從未來回來企圖入侵破壞 tsmc

Motor123

58982分

8樓

Motor123

個人積分：58982分

文章編號：93546457

已經失控了 ai集體越獄

路透：AI代理「集體越獄」　繞過限制劫持德國網站
2026/9/4 22:32（9/5 07:14 更新）

根據今天發布的新研究以及兩位知情人士透露，今年春天一群失控的OpenAI人工智慧代理（AI Agent）劫持一個德國網站，將其改造成其他AI代理交換資訊的留言板。