Nvidia在其GTC 2023年春季主題演講中宣布了一個(gè)新的雙GPU產(chǎn)品，H100 NVL。這不會(huì)帶來(lái)SLI或多GPU游戲的回歸，也不會(huì)是最好的游戲顯卡之一，而是針對(duì)不斷增長(zhǎng)的AI市場(chǎng)。從Nvidia發(fā)布的信息和圖片來(lái)看，H100 NVL（H100 NVLink）將在頂部采用三個(gè)NVLink連接器，相鄰的兩塊卡可插入獨(dú)立的PCIe插槽。

(資料圖片僅供參考)

這是一個(gè)有趣的變化，顯然是為了適應(yīng)不支持Nvidia的SXM選項(xiàng)的服務(wù)器，重點(diǎn)是推理性能而不是訓(xùn)練。NVLink連接應(yīng)該有助于提供NVSwitch在SXM解決方案上提供的缺失帶寬，而且還有一些其他明顯的區(qū)別。

以規(guī)格為例。以前的H100解決方案--包括SXM和PCIe--都配備了80GB的HBM3內(nèi)存，但實(shí)際包裝包含六個(gè)堆棧，每個(gè)堆棧有16GB的內(nèi)存。目前還不清楚是否有一個(gè)堆棧被完全禁用，或者是用于ECC或其他目的。我們所知道的是，H100 NVL每個(gè)GPU將有94GB，總共有188GB HBM3。我們認(rèn)為每個(gè)GPU "缺少 "的2GB是為了ECC。

功率比H100 PCIe略高，每個(gè)GPU為350-400瓦（可配置），增加50瓦。同時(shí)，總性能實(shí)際上是H100 SXM的兩倍：134 teraflops的FP64，1,979 teraflops的TF32，和7,916 teraflops FP8（以及7,916 teraops INT8）。

基本上，這看起來(lái)與H100 PCIe的核心設(shè)計(jì)相同，它也支持NVLink，但現(xiàn)在可能啟用了更多的GPU核心，而且內(nèi)存增加了17.5%。內(nèi)存帶寬也比H100 PCIe高一些，每個(gè)GPU為3.9TB/s，合計(jì)7.8TB/s（而H100 PCIe為2TB/s，H100 SXM為3.35TB/s）。

麗臺(tái)（LEADTEK） NVIDIA RTX A6000 48G GDDR6大型數(shù)據(jù)處理專業(yè)圖形顯卡 NVIDIA A6000 48G 盒裝

[經(jīng)銷商]京東商城

[產(chǎn)品售價(jià)]￥30999元

進(jìn)入購(gòu)買

由于這是一個(gè)雙卡解決方案，每張卡占用2個(gè)插槽的空間，Nvidia只支持合作伙伴和認(rèn)證系統(tǒng)的2至4對(duì)H100 NVL卡。一對(duì)的價(jià)格是多少，它們是否可以單獨(dú)購(gòu)買？這還有待觀察，盡管單塊H100 PCIe有時(shí)可以找到，價(jià)格約為28,000美元（在新標(biāo)簽中打開(kāi)）。因此，80,000美元購(gòu)買一對(duì)H100 NVL似乎并不是不可能的事。

關(guān)鍵詞：