賽道Hyper | 美光GDDR7送樣:三巨頭開啓新戰場角逐
作者:周源/華爾街見聞
最近,英偉達聯合創始人兼CEO黃仁勳在臺北Computex 2024展更新了AI GPU技術路線圖,同時黃仁勳還澄清了三星電子HBM(高帶寬存儲器:High Bandwidth Memory)並沒有因爲過熱問題而沒有通過英偉達質量測試。此事意味着三星電子的HBM3e(第五代)將很快進入英偉達AI加速卡供應鏈。
黃仁勳說,“我們需要HBM數量非常大,因此供應速度至關重要。我們正在與三星、SK 海力士和美光合作,我們將收到這三家公司的產品。“
之前有消息稱,SK海力士和美光的HBM產能已排到2025年底,一方面說明英偉達需要的HBM產能確實夠多;另一方面,也在側面說明HBM產能問題會成爲英偉達AI加速卡出貨量的障礙。
從HBM的技術演進史可以看到,HBM原本作爲GDDR的替代品。HBM技術迭代很快,性能越來越強,但成本也越來越高。
實際上,GDDR如今也已非昔日吳下阿蒙:今年3月6日,固態技術協會(JEDEC)確定了JESD239 GDDR7顯卡技術規範標準,性能較GDDR有巨幅提升,已有跡象顯示出GDDR7的部分性能正在跨越To C消費級範疇,邁向To B的HPC(高性能計算)領域。故而,GDDR7也開始有了彌補高成本HBM缺陷的實力。
新戰場:GDDR7來了
6月4日,美光宣佈開始爲下一代GPU提供GDDR7內存樣品:有28GB/s和32GB/s兩種速率。其中,32GB/s GDDR7提供的內存帶寬比GDDR6高出60%;在384位總線上,內存帶寬能達到1.5TB/s。GDDR6在RTX 4090等GPU最高帶寬爲1TB/s。
美光GDDR7採用其1β (1-beta) DRAM 技術製造。在最新路線圖中,美光公佈了到2026年,達到36GB和24GB+的內存模塊;三星電子的目標是實現32GB的速率,但沒有公佈中期速率目標。
今年3月,三星電子和SK海力士在英偉達GTC大會上也披露了各自的GDDR7技術參數。現在,三家主流供應商等於又開闢了一個新戰場:GDDR7。
按照不同應用場景劃分,JEDEC將DRAM分成標準DDR、LPDDR和GDDR三類。其中,DDR主要應用於服務器和PC端(桌面),LPDDR主要應用於手機端和PC(筆電),GDDR的主要應用領域爲圖像處理領域。
在DARM產業格局方面,三星、SK海力士和美光三足鼎立。當前代際DDR5/LPDDR5主流市場的主要競爭由這三家展開。此外,中國臺灣存儲企業華邦及南亞科技,中國大陸存儲企業長鑫存儲也將目光聚焦在這塊市場。
什麼是GDDR?
GDDR,英文全稱Graphics Double Data Rate:雙圖像倍數據速率。這是一種專爲圖形處理單元(GPU)設計的同步雙數據速率動態隨機存取存儲器(SDRAM)。
1998年,三星電子推出業界首款16 Mb GDDR內存芯片。自此,GPU和CPU內存開始有了各自獨立的技術路線和產品。最初,GPU顯卡內存和CPU內存可以通用。1998年之後,GPU開始有專用顯存——GDDR。
3月6日,JEDEC發佈JESD239 GDDR7顯卡技術規範,旨在提供更高帶寬、更高數據傳輸速率、更高能效和更大存儲容量,以支持未來高性能計算應用的發展。
目前,市場首批GDDR7顯存容量僅2GB(16Gb),與GDDR6/6X一致。JEDEC表示,未來會有3GB、4GB、6GB甚至8GB。首發搭載GDDR7的是英偉達RTX 50系列和AMD RX 8000系列。
據JEDEC披露,JESD239 GDDR7是首款使用脈衝幅度調製(PAM)接口作高頻操作的JEDEC標準DRAM。
GDDR7的帶寬是GDDR6的兩倍:即192GB/s。這通過了增加獨立通道數量至4個實現。GDDR7也支持16Gbit至32Gbit的密度,包括支持雙通道模式,可實現系統容量的翻倍,孤兒能滿足未來圖形、遊戲、計算、網絡和人工智能應用對高內存帶寬不斷增長的需求。
與HBM通常用於超算(高性能計算:HPC)中心AI算力集羣不同,GDDR主要用於遊戲、專業圖形設計/渲染、科學和工程模擬、虛擬現實、可視化應用(消費級)和AI邊緣計算的ML(機器學習)。
下半年三巨頭角逐
美光GDDR7內存樣品的工作電壓爲1.2V(前代GDDR6工作電壓爲1.35V),與JEDEC的GDDR7技術規範吻合;工作效率相比前代提升50%。之所以能實現這一點,主要是因爲美光采用了分割電壓平面、部分設備運行和休眠模式。
此外,美光還採用FBGA更薄的封裝高度(1.1mm對比1.2mm)和高熱導EMC封裝,故而達成了65%更高的熱阻,這爲臺式機和筆電提供了更高效的熱管理。
這些特性,除了更進一步提升美光GDDR7在GDDR傳統應用領域的性能,另外在生成式AI和HPC等需要更高性能帶寬的尖端領域,也有了廣闊前景。這就意味着,GDDR7突破了以往的性能瓶頸,開始有了能與低端HBM相媲美的性能表現。
這讓GDDR有能力實現破圈:從To C的消費級GPU應用,邁向To B的企業級高性能市場。
據美光官方信息,在遊戲領域,美光的GDDR7樣品預計每秒幀數(FPS)提升幅度超過30%,特別是光線追蹤和光柵化工作負載。
生成式AI方面,美光GDDR7提供超過1.5TB/s的高系統帶寬,預計可將生成式AI文本到圖像生成的響應時間加快20%;在HPC,GDDR7預計能減少更多處理時間,實現複雜工作負載(如動畫、3D設計、科學仿真和金融建模)的無縫多任務處理。
當然,GDDR7性能提升幅度雖然相比GDDR6更高,但依然無法與HBM3/3e相比,更遑論HBM4,但GDDR7提升後的整體性能,與HBM2或許可以等量齊觀。
三星電子在3月的英偉達GTC大會上也披露了其GDDR7的部分技術參數,比如三星GDDR7能在僅1.1V的DRAM電壓下實現32 Gbps的速度(與GDDR6X相比提升33%),超過了JEDEC的GDDR7技術規範的1.2V電壓標準。這項性能主要是通過首次應用PAM3信號實現的。
同時,三星GDDR7能實現最高192GB/s的顯存速度,單顆顯存容量2GB;通過加持三星電子特有的其他電源管理創新,三星GDDR7能效提高幅度提升了20%,發熱量(熱阻)減少70%,待機功耗降低50%。
作爲存儲三巨頭之一,SK海力士自然也不會缺席。海力士GDDR7最大帶寬達到160GB/s,是其上一代產品(GDDR6位80GB/s)的兩倍,功耗效率提升40%;內存密度提升1.5倍,故而視覺效果也進一步得到增強。
目前,海力士16Gb GDDR7預計將在今年三四季度實現批量出貨,三星也在出樣品的過程中;美光GDDR7內存將於今年下半年發售。意外的是AMD,據美光透露,AMD也會加入GDDR7市場角逐。