NVIDIA在今年GTC2018大會上針對AI應用不僅發表了世界最大GPU-DGX-2與最強繪圖卡GP100等硬體產品,在軟體的部分也同時發表了全新的TensorRT 4 AI推論軟體,可為電腦視覺、神經機器翻譯、自動語音辨識、語音合成與推薦系統等應用加速推論速度,搭配NVIDIA GPU所提供的INT8 與 FP16運算能力將會比單純使用CPU進行AI推論運算速度快上190倍以上。

此外,NVIDIA在今年GTC 2018大會上還同時宣布NVIDIA GPU產品將可支援Kubernetes開源系統,可最佳化大型數據中心透過多顆GPU進行推論運算時的效能表現,進而縮短AI應用所需要的開發時間。