解決AI晶片記憶體頻寬瓶頸 晶心科結盟TetraMem

晶心科技董事長林志明（左）與總經理蘇泓萌。 聯合報系資料照／記者陳正興攝影

RISC-V矽智財（IP）廠晶心科技（6533） 與類比式憶阻器（analog memristor）技術和記憶體運算（in-memory computing）廠TetraMem，宣佈建立戰略合作伙伴關係。晶心科表示，未來雙方將會盒座提供快速、高效的人工智慧推理晶片，這將徹底改變人工智慧和邊緣運算的格局，晶片產品將於2024年下半年推出，有望替晶心科帶來龐大AI業績動能。

人工智慧和邊緣運算的融合已成爲許多行業進步的驅動力，包括自動駕駛車輛、智慧城市、醫療保健、網路安全和娛樂。認識到這個市場的巨大潛力，TetraMem已取得晶心科技強大的RISC-V NX27V向量處理器授權，結合ACE （Andes Custom Extension）的客製化功能，創建尖端解決方案，以解決人工智慧運算在功耗受限制的環境所遇到的問題。

此次合作的核心是晶心科技的高效能RISC-V向量處理器與TetraMem革命性的憶阻器（類比式RRAM）運算透過ACE客製化的功能，使記憶體運算（in-memory computing）架構相融合，實現緊密耦合以獲得最佳效能。

晶心科表示，這種史無前例的融合模式同時增強了兩家公司的產品優勢，帶來了速度極快、並且極爲節能的人工智慧推理產品，超越了傳統運算方法的侷限性，超越「記憶體撞牆效應」和「摩爾定律」的限制。

據瞭解，AI晶片雖然採用2.5D或3D先進封裝，將處理器及DRAM整合封裝在同一晶片中，但仍是採用處理器與DRAM分開的架構，所以AI晶片在執行AI運算時，因爲資料量過於龐大，DRAM的讀寫速率跟不上，處理器及DRAM之間傳輸速率寬頻不夠大，就會造成處理器算力閒置並形成所謂的範紐曼瓶頸（von Neumann bottleneck）。

TetraMem獨特的類比式記憶體運算技術使晶片能夠進行大量平行之虛擬機器管理機（Virtual Machine Manager，VMM）運算，而無需移動資料，從而減輕了傳統架構的能耗，TetraMem的第一代商用製造展示晶片已證實了這一優點。

這顆AI加速器晶片的設計可用在22奈米到7奈米或更高階的製程，並同時考慮到多功能性和可擴展性，以便輕鬆整合到各式實現AI的產品和應用中。此種高適應性確保了該晶片可廣泛在業界中被使用。

不僅如此，TetraMem創始團隊已展示了憶阻器運算可應用至2奈米或更高階製程，並確認了此類解決方案的產品路線圖將可與時俱進。

Tetramem預計將推出AI加速器晶片併爲新型22nm製造工程測試版和軟體開發工具包，「TetraMem MX系列」晶片將於2024年下半年推出。晶心科技與TetraMem的合作標示着人工智慧硬體領域的重大飛躍，有望爲AI創新帶來前所未有的可能性。