NVIDIA創辦人暨執行長黃仁勳在他於新冠疫情後的首場直播主題演講為為台北國際記者會開場,並宣布企業可以利用這些平台來駕馭生成式人工智慧在當代歷史上所掀起的巨大浪潮,這股浪潮改變了從廣告、製造到電信等各行各業。
黃仁勳宣布推出具有龐大記憶體的人工智慧超級電腦 DGX GH200,供需要極致人工智慧效能表現的企業使用。DGX GH200 使用 NVIDIA NVLink網路技術,將256個 NVIDIA Grace Hopper 超級晶片連接成一個資料中心大小的 GPU。黃仁勳也宣布GH200超級晶片現已全面投產。它將具有絕佳能效的 NVIDIA Grace CPU與高效能NVIDIA H100 Tensor核心GPU集合在一個模組內。
DGX GH200的運算效能達到 1 exaflop,擁有 144 TB 的共享記憶體,表現比一具 NVIDIA DGX A100 320GB 系統高出近500倍。這使得開發人員可以用它來開發用於生成式人工智慧聊天機器人的大型語言模型、用於推薦系統的複雜演算法,以及用於偵測詐欺及資料分析的繪圖神經網路。 Google Cloud、Meta與微軟率先使用DGX GH200來探索處理生成式人工智慧工作負載的能力。
5G/6G呼喚Grace Hopper
黃仁勳在主題演講中也介紹了NVIDIA如何運用Grace Hopper來重塑 5G和6G 網路以及視訊溝通。現場演示於Grace Hopper上運行的人工智慧將讓現今的2D視訊通話更像擬真的3D體驗,增加臨場感。
黃仁勳宣布NVIDIA將與大型電信商SoftBank合力在日本建造分散式資料中心網路,做為推出前述體驗的基礎。此舉將在通用雲端平台上提供 5G 服務及生成式人工智慧應用程式。
這些資料中心將在模組化MGX系統中使用 NVIDIA GH超級晶片與NVIDIA BlueField-3 DPU,再加上 NVIDIA Spectrum 乙太網路交換器,提供 5G 協議要求的高精度計時。這個平台能夠提高頻譜效率及降低能源消耗量,以達到節約成本的目標。
這些系統將有助於SoftBank探索在自動駕駛、人工智慧工廠、擴增及虛擬實境、電腦視覺與數位孿生方面的應用。日後甚至還能用於 3D 視訊會議及全息影像通訊上。
加速推動雲端環境
黃仁勳另外又宣布推出專為提高乙太網路架構人工智慧雲端環境的效能及效率所設計的網路平台NVIDIA Spectrum-X。它集合 Spectrum-4 乙太網路交換器、BlueField-3 DPU 與軟體於一身,將人工智慧運算效能及電源使用效率提高1.7倍。
包括Dell Technologies、聯想及美超微在內的系統建造商現已有在產品中採用 NVIDIA Spectrum-X、Spectrum-4 交換器及 BlueField-3 DPU。
此外,黃仁勳宣布推出 NVIDIA Avatar Cloud Engine(ACE)for Games,開發人員可以利用這項代工服務來建造及部署語音、對話和動畫人工智慧模型。它將讓非玩家角色擁有對話技能,以便能夠用真人一般的個性來回答問題,並且還會隨劇情不斷發展。
NVIDIA ACE for Games 包括用於偵測及將玩家口說內容轉成文字的 NVIDIA Riva 等人工智慧基礎模型。文字提示 NVIDIA NeMo 產生客製化回應內容,並且由 NVIDIA Omniverse Audio2Face 製作成動畫。
兩個小時的演講結束後,現場響起熱烈的掌聲,黃仁勳說:「我已經很久沒見到大家了,所以有很多想分享的事情。」
留言列表