
Intel 在過去這幾年被市場認為在 AI 部分的開發落後於其他競爭者,這也是先前領導階層被投資人所批評的主要問題之一,而在新任 CEO 陳立武上任之後,這個狀況看起來已經扭轉過來了,因為這在 Intel 的 ITT 2025 開場活動中,Intel 資深副總裁、技術暨 AI 長,暨網路與邊緣事業群總經理 Sachin Katti(上圖) 就表示,AI 將會是未來 Intel 的策略發展重心,而且是重中之重!
同樣很可惜的是, Intel 管制了這次活動的拍攝,無法拍攝發表現場的照片跟簡報,所以在這邊就僅能用 Intel 官方所提供的素材為大家進行介紹。
更多 Intel ITT 2025 文章:
總覽:
Intel 反攻號角吹響?Tech Tour 2025 活動展示 18A 製程、Fab 52 晶圓廠、以及最新筆電 Panther Lake 處理器!
18A 製程
Intel ITT 2025:以 RibbonFET 與 PowerVia 組合 18A 製程重回頂尖晶圓製造能力
PantherLake 處理器
Intel ITT 2025:Panther Lake 處理器整體架構解析 以自家 18A 製程達成高效能低功耗的平衡表現
Fab 52 晶圓廠參訪
Intel ITT 2025:最新 Fab 52 晶圓廠參訪 一探 18A 製程的先進製造基地

Sachin Katti 表示,目前 Intel 仍然是唯一擁有從端到端(原子到機架)、邊緣到雲端,完整供應生態的廠商,從製程技術、晶片製造、系統、軟體,Intel 都能提供可行的解決方案。

而 Intel 目前正在進行建立一個以工程技術為主導的『新 Intel』,在這個新 Intel 概念下,Intel 在工程技術、創新研發部分持續推動,並且透過具備紀律的執行力以及以客戶/工作負載為中心的發展方向,來建構新 Intel 的未來基礎,而這次展示的 18A 製程、Fab52 晶圓廠以及 Panther Lake 處理器正是新 Intel 踏出建構未來基礎的第一步。

當然在未來新 Intel 的發展中,目前工作負載中最重要的 AI 技術更是重中之重,Intel 在這部分將會加速追趕,從 AI PC、邊緣運算到資料中心類別所推出的新產品,都對 AI 投入相當大的心力,並且利用開放策略跟整個生態系合作(當然跟 NVIDIA 的合作也是一環),加速 AI 的發展。

既然提到 AI,Sachin Katti 也提到了未來 AI 的發展預期,未來的 AI 發展重心,除了先前以模型訓練為主的 Frontier AI 外,也開始逐漸擴展到推論(inference)以及 AI 代理(Agentic AI),未來更會擴展到可與真實世界交互、進行即時推論的實體 AI(機器人),而現階段 Intel 的目標,就是趕上這波 Agentic AI 的浪潮,在系統層面推出具備高吞吐量、低延遲以及能效/性價比高的產品。

Sachin Katti 也以業界大規模的 AI 服務提供業者,包括 Google、微軟、Amazon 為例,以 Google 來說,光是在 2025 年運用在推論上的 Token 數量就高達了 1400 兆,每個月以 140x 的速度成長,而在其他公司如微軟 Azure 的狀況也是一樣,而在未來幾年加入 Agentic AI 的應用(包括可以多個模型相互呼叫協作、跟網際網路、公司內部資料庫搜尋互動等)持續提升下,這個需求只會持續增加。

Sachin Katti 也表示目前 AI 的效能大多都運用在聊天機器人上(換句話說就是光聊天機器人就要用這麼多的算力),而隨著越來越多部屬在垂直整合系統的多模型架構登場,AI 將會更具思考性、推理能力,在未來 Agentic AI 將不會僅使用一個模型運作,而是多個模型間相互對話、協作、與資料庫互動,甚至是呼叫工具來完成任務。

但這也使得硬體運作成本越來越高,因為算力需求急速上升,系統商不得不配置最高性能的 GPU,再搭配可以與其緊密運作的系統,並且使用專用的網路跟軟體,這對於系統商或是 AI 算力提供者來說,將會是相當龐大的負擔,要進行升級或是擴展也相當困難。

而在未來,Agentic AI 的運作將會越來越複雜。當然這些 AI 仍然會以大語言模型為基礎,但通常它們也具備多模態能力,可以生成音訊跟視訊與使用者互動,也可以透過 Diffusion 擴散模型來生成影片或是音訊,也可以從企業內部資料庫或是外部網路搜尋、抓取資料、在一個 Agentic AI 代理程式內處裡一連串使用不同模型的工作。

而 Agentic AI 工作負載多樣化的發展,造就了 Heterogeneous Infrastucture 異質化基礎架構的需求,需要為 Agentic AI 各個負載不同的工作找到適合的運算架構(當然價格也要適合),這正是 Intel 目前正要做的事。

當然要以硬體層面做到異質化是相當困難的一件事,Sachin Katti 也表示客戶也希望硬體基礎架構越簡單越好,所以要在這邊實現異質化,就是要靠軟體層來進行處理,

Intel 在這邊的做法是推出了可擴展的異質化系統,讓運作不同工作負載時就能達到最佳的單位價格性能,而且採用開放架構,即便不是 Intel 推出的組件也能夠整合在這個系統內。

既然要透過軟體來達到開放的異質架構,接著就來看 Intel 要在軟體部分怎麼做,Sachin Katti 表示這其中的關鍵是確保開發人員將會持續使用原有的工具(像是 PyTorch、Hugging Face 等等),這個軟體架構將會自動進行編譯等動作,然後放在對應的硬體上執行,就像是下面那張圖:

Intel 推出的 Open AI Software Stack 就是中間那層,在上方開發者推出應用後,透過這個軟體堆疊以及底層的 oneAPI 來呼叫正確對應的硬體進行執行。

Sachin Katti 表示目前這個架構已經在實驗室中進行測試,不光只是在 Intel 的硬體上,也在跨供應商(如 NVIDIA)的異質化基礎架構中進行測試,以其中一個 Intel Gaudi 3 搭配 NVIDIA B200 GPU 的混合系統來說(在 Nvidia GPU 上運行 LLM 的預填充階段,在 Intel 加速器上運行 LLM 的解碼階段),在運作 Llama 8B FP16、Llama 70B FP16 模型時,就比單純使用 NVIDIA B200 的系統在單位成本效能上提升 1.7X。

Intel 將會以這個為起點擴展在 AI 市場上的表現,而這個開放架構可以適用在 Xeon 處理器、Arc GPU 以及 AI PC 上,而 Sachin Katti 在這邊也預告了在之後的 OCP 活動中,Intel 將會推出一款針對 AI 推論進行最佳化設計的 GPU,具備增強的記憶體頻寬、更大的記憶體容量,是針對推論雲端以及企業級推論所推出的 GPU 產品。

而回到開放架構本身,Sachin Katti 再度強調 AI 基礎設施的未來是走向開放跟異質性的,不過他也表示 Intel 不會單獨完成(不然怎麼叫開放),而是與整個產業與生態鏈合作,推動整個架構改變,包括 OCP 開放機架設計、開放軟體、UAL 以及 Ultra Ethernet 加速互聯技術等等。

而 Intel 在這部分也提供了完整的硬體產品組合,從 PC 到邊緣到雲端,都有可以提供的產品選擇。而其中的 AI PC 跟工業場域的邊緣運算更是 Intel 認為下一波 Agentic AI 浪潮的起點,這也是為何這次 Intel 會在這次推出 Panther Lake 處理器的活動中大談 AI 發展的原因之一,而 Intel 也在軟體部分提供了包括 AI 助理建立器 (AI assistant builders) 和 OpenVINO 等工具,讓客戶可以在自己的電腦上建立 Agentic AI 應用。
而這次發表的另一款產品:Xeon 處理器(Clearwater Forest)也是針對了邊緣 AI 應用進行最佳化設計,內建了許多 AI 加速功能,提供性能跟能源效率平衡以及足夠的通用 AI 加速運算效能,可以讓客戶運作大部分的 Agentic AI 工作流程。

Sachin Katti 再度強調 Intel 透過具備端到端間的製造能力、先進封裝技術以及軟體應用架構所具備的優勢,而在重新導入技術領導力、鞏固正確的紀律與執行思維、AI 專注策略後,Intel 將會與眾不同。

不過這一切都要建築在製造基礎上,Sachin Katti 表示 Intel 目前需要一個能夠跟上以及提供下一代運算所需的製造基礎,這個成果就是新一代的 Fab 52/62 晶圓廠,另外還有 Ribbon FET、Power Via、先進封裝等技術的創新,構成了整個未來 Intel 發展基礎的 18A 製程,Intel 將會專注擴大這個規模,並且透過更緊密的合作製造出如 Panther Lake 處理器這樣的產品。