AI失控前兆?OpenAI、谷歌等巨頭罕見聯署 要求政府限制研發速度

限制?

恭請天網時代的來臨.

AI失控前兆?OpenAI、谷歌等巨頭罕見聯署 要求政府限制研發速度 鉅亨網

OpenAI、Anthropic、谷歌 (GOOGL-US)、Meta(META-US) 及微軟 (MSFT-US) 等 AI 巨頭罕見站上同一陣線,呼籲美國政府建立國際協調機制,必要時限制頂尖 AI 的研發速度,尤其針對可能加速技術迭代的「自動化 AI 研發」,為產業發展踩下煞車。

這項訴求來自《Pacing the Frontier》(引領前沿)公開聲明,已有超過 1100 名一線研究人員連署,包括 OpenAI 首席科學家 Jakub Pachocki、研究長 Mark Chen,以及 Anthropic 共同創辦人 Jack Clark 等重量級人物。這些平時在算力、客戶與技術領先地位上激烈競爭的業界人士罕見形成共識,警告 AI 發展速度可能超越人類理解及管控能力。

這份聲明最核心的擔憂並非老生常談的「AI 風險」,而是針對技術發展路徑的精準判斷:全球領先的 AI 公司正迅速跨入「自動化 AI 研究」的門檻。

AI失控前兆?OpenAI、谷歌等巨頭罕見聯署 要求政府限制研發速度
川寶馬上回應了.

OpenAI失控網攻!川普防中國超車拒絕限制:稱霸AI才是贏家 中時新聞網

先進AI模型引發安全疑慮之際,川普今天在白宮橢圓形辦公室被媒體問及是否考慮對AI採取更嚴格的管控,他回應表示,「我們正在關注AI,正在評估管制措施」,但同時也要確保美國保持領先。

他指出,美國目前在AI領域大幅領先中國,而中國基本上沒有任何管制,「我們必須在兩者之間保持謹慎」。
sunflower2251 wrote:
尤其針對可能加速技術迭代的「自動化 AI 研發」


這件事才是最恐怖的~~~
用現有的AI去自動研究下一代AI模型......然後下一代 AI再自主研發更下一代 AI模型
然後人類呢???整個研發人類工程師都不知道 AI在怎麼研發下一代模型
不知道怎麼研發出來的 AI模型, 你就無法事先考量安全防護機制............這就是失控的開始
等AI自主研發迭代十代後.......人類工程師可能完全無法了解 AI模型到底怎麼訓練出來的, 人類的世界就是AI掌控了
文章分享
評分
評分
複製連結

今日熱門文章 網友點擊推薦!