消息稱英偉達 H200 芯片 2024Q3 大量交付,B100 明年上半年出貨
IT之家 7 月 3 日消息,臺媒《工商時報》消息,英偉達 H200 上游芯片端於二季度下旬起進入量產期,預計在三季度以後開始大規模交付。
據IT之家此前報道,OpenAI 4 月在舊金山舉辦了一場研討會,英偉達首席執行官黃仁勳親自出席,共同宣佈交付第一臺 Nvidia DGX H200。
H200 作爲 H100 的迭代升級產品,基於 Hopper 架構,首次採用了 HBM3e 高帶寬內存技術,實現了更快的數據傳輸速度和更大的內存容量,對大型語言模型應用表現出顯著優勢。
根據英偉達官方發佈的數據,在處理諸如 Meta 公司 Llama2 這樣的複雜大語言模型時,H200 相較於 H100 在生成式 AI 輸出響應速度上最高提升了 45%。
供應鏈指出,目前待出貨的客戶端訂單仍多集中於 HGX 架構的 H100,H200 比重有限,因採用配貨制,目前各家終端系統合作伙伴的出貨主力 H100 GPU,到貨時間最長仍可能達 20 周。
消息稱 B100 將於明年上半年出貨。英偉達 CEO 黃仁勳此前表示,從 B100 開始未來所有產品的散熱技術都將由風冷轉爲液冷。英偉達 H200 GPU 的 TDP 爲 700W,保守估計 B100 的 TDP 接近千瓦,傳統風冷不能滿足芯片工作過程中對於散熱需求,散熱技術將全面向液冷革新。