細數ChatGPT算力 硬體需求有譜

外資分析師推算,ChatGPT每千萬名每日活躍用戶(Daily Active User,DAU)所需求算力,約等同於2.4萬顆伺服器繪圖處理器(GPU),預估只佔今年GPU出貨量的1%。

業者指出,ChatGPT引爆全球AI及HPC運算成爲最熱門話題,雖然量化後看起來不會帶來太大的硬體升級需求,但ChatGPT之後勢必會有更多以AI及HPC運算爲基礎的新應用傾巢而出,並逐步推升伺服器、高速網路、雲端及邊緣運算裝置的硬體需求。也就是說,ChatGPT是AI及HPC應用的「起點而非終點」。

微軟轉投資OpenAI在去年11月底推出ChatGPT後,短短2個月時間,今年1月的每月活躍用戶數已突破1億人,但如此快速的成長能否真正帶動硬體升級需求,業界普遍認爲會有、但初期幅度不大,若今年逐月對於AI及HPC算力需求有明顯推升,纔會拉動硬體升級呈現等比級數上升,這可能要等到第二季下旬纔會轉趨明確。

而根據外資分析師推算,ChatGPT每千萬名DAU所需算力,約等同於3,000臺內建2顆中央處理器(CPU)及8顆高效能GPU的伺服器提供算力,等於創造出約3.5億美元的伺服器業績,但佔全球白牌伺服器市場規模僅1%,相關高速網路硬體創造出逾1.7億美元業績,僅佔全球超大規模資料中心的網路交換器市場規模的4%。