Nvidia將為數據中心帶來雙GPU-天天觀速訊

(相關資料圖)

Nvidia在其GTC 2023年春季主題演講中宣布了一個新的雙GPU產品，H100NVL。這不會帶來SLI或多GPU游戲的回歸，也不會是最好的游戲顯卡之一，而是針對不斷增長的AI市場。從Nvidia發布的信息和圖片來看，H100NVL(H100 NVLink)將在頂部采用三個NVLink連接器，相鄰的兩塊卡可插入獨立的PCIe插槽。

這是一個有趣的變化，顯然是為了適應不支持Nvidia的SXM選項的服務器，重點是推理性能而不是訓練。NVLink連接應該有助于提供NVSwitch在SXM解決方案上提供的缺失帶寬，而且還有一些其他明顯的區別。

以規格為例。以前的H100解決方案--包括SXM和PCIe--都配備了80GB的HBM3內存，但實際包裝包含六個堆棧，每個堆棧有16GB的內存。目前還不清楚是否有一個堆棧被完全禁用，或者是用于ECC或其他目的。我們所知道的是，H100NVL每個GPU將有94GB，總共有188GB HBM3。我們認為每個GPU "缺少 "的2GB是為了ECC。

關鍵詞：