NVIDIA創辦人暨執行長黃仁勳於GTC21（GPU技術大會）開幕演說中發表了Grace處理器與多項軟、硬體產品，全面深化AI應用。
▲ GTC21開幕演說以直播影片的方式進行，影片仍於老黃自家拍攝。
專為AI超級運算設計的Grace處理器
Grace是NVIDIA專為AI運算與高效能運算（HPC）所設計的Arm架構處理器，它以美國程式設計先驅葛麗絲•穆雷•霍普（Grace Murray Hopper）為名，並可協同繪圖處理器（GPU）與資料處理器（DPU）等運算單元共同運作。根據NVIDIA的官方說明，搭載Grace處理器與GPU的系統能帶來10倍於x86架構處理器NVIDIA DGX系統的效能。
Grace處理器的開發目標在於滿足自然語言處理、推薦模型、AI超級運算等需求，由於這些應用必須分析龐大的資料集，因此其最大的改進就是提升系統主記憶體與繪圖處理器（GPU）之間的頻寬。
以NVIDIA DGX運算平台為例，每個Ampere繪圖處理器具有頻寬為2TB/s的80 GB HBM2e記憶體，整合4個Ampere繪圖處理器就能組成頻寬達8 TB/s的320GB顯示記憶體，相較之下系統的主記憶體容量雖然大了3倍共有1TB，但與處理器之間的頻寬卻只有200GB/s，速度慢了40倍之譜，而透過PCIe介面連接處理器與繪圖處理器，頻寬也只有64GB/s。
然而目前的x86架構處理器皆不支援NVIDIA的NVLINK高速匯流排技術，且PCIe的頻寬也不夠使用，因此NVIDIA打造了專為自家AI運算平台最佳化設計的Arm架構處理器，並著重於提升系統主記憶體與繪圖處理器之間的頻寬。
Grace將繪圖處理器與主記憶體的頻寬提升至2TB/s，並透過第4代NVLink匯流排技術，能提供處理器與繪圖處理器之間高達900 GB/s的資料傳輸速度，與當今技術領先的伺服器相比，聚集頻寬增益達30倍。Grace也將採用LPDDR5x記憶體子系統，與目前的DDR4記憶體相比，能夠提供2倍的頻寬以及10倍的能源效率。此外全新的架構利用單一記憶體位址空間，提供統一的快取記憶體一致性，能夠整合系統主記憶體與繪圖處理器上的HBM高頻寬記憶體，簡化程式開發流程，讓使用者能將有效率地應用節點中總共1,320GB的記憶體總量，提升AI模型訓練的效能。
其成果是能讓單顆處理器提供300分以上的SPECint效能成績，在具有8組繪圖處理器的DGX系統上，將能帶來超過2,400分的SPECint總分。相較之下，身為目前世界上效能最高的電腦，當代DGX僅能跑出450分的成績，可見其效能成長相當顯著。
值得一提的是，瑞士國家超級計算中心（Swiss National Supercomputing Centre，CSCS）與美國能源局的洛斯阿拉莫斯國家實驗室（Los Alamos National Laboratory），都將採用由Hewlett Packard Enterprise（HPE）打造、採用Grace處理器的超級電腦，可見其應用潛力已經獲得頂尖研究機構的肯定。
▲ NVIDIA Grace是專為高效能運算設計的Arm架構處理器。
▲ 在由x86架構處理器的伺服器中，系統主記憶體與繪圖處理器之間的頻寬只有0.2TB/s。
▲ Grace處理器一改這個情況，將提繪圖處理器與主記憶體之間的頻寬提升至2TB/s，將可帶來顯著的AI效能成長。
▲ 瑞士國家超級計算中心將採用Grace處理器搭配GPU打造Alps超級電腦，預計於2023年上線服務。（圖為概念示意圖）
向Tick-Tock策略制敬？
Tick-Tock是Intel於2007年提出的處理器開發戰略模式，第1年將推出新架構、第2年將推出新製程，如此交錯重複進行。
黃仁勳於GTC21開幕演提到，目前NVIDIA資料中心的發展藍圖將由處理器、繪圖處理器、資料處理器（即CPU、GPU、DPU）等不同類型的運算單元構成，每種晶片都有2年的研磨改進周期，其中1年專注於x86平台，另1年專注於Arm平台，讓每年都有讓人振奮的產品於不同平台推出，以滿足不同差異化市場與客戶的需求。
另一方面，Grace處理器除了應用於資料中心與超級電腦之外，也將搭載於至預計於2025年推出的DRIVE Atlan車用SoC。DRIVE Atlan將採用Grace處理器，搭配NVIDIA次世代繪圖處理器，除了整合AI、軟體、網路、安全等功能，也能提供超過1,000TOPS的運算效能，大幅提升自動駕駛車的AI運算能力，並透過安全的無線更新升級（OTA），打造具有豐富可程式化能力的軟體定義車輛。
▲ NVIDIA資料中心的發展將有處理器、繪圖處理器、資料處理器等不同運算單元交互推出。
▲ 預計於2022年出廠的DRIVE Orin車用SoC將具有254TOPS運算效能，遠高於目前DRIVE Xavier的30TOPS。
▲ 預計於2025年推出的DRIVE Atlan將採用Grace處理器並提供超過1,000 TOPS的運算效能。
