為AI舖路 英特爾開發全世界最大的仿神經形態系統
英特爾開發全世界最大的仿神經形態系統以實現更永續的AI。圖/英特爾提供
英特爾宣佈推出全球最大的仿神經形態系統(neuromorphic system),代號Hala Point,最初佈署在桑迪亞國家實驗室,採用英特爾Loihi 2處理器,支援類人腦AI的最新研究,以因應當今AI面臨的效率和永續性等挑戰。Hala Point以英特爾第一代大規模研究系統Pohoiki Springs爲基礎,進行架構提升,神經元容量能增加10倍以上,效能提高12倍。
英特爾實驗室神經形態運算總監Mike Davies表示,「當今訓練和佈署AI模型的成本增加速度過快,業界需要有翻轉現況的新作法,因此英特爾實驗室開發出Hala Point,它結合深度學習效率、類人腦持續學習和最佳化功能。我們希望透過Hala Point,突破大規模AI的技術效率,並讓AI系統適應變化。」
Hala Point是業界第一款可在主流AI工作負載中,展現卓越運算效率的大規模仿神經形態系統,經過測試驗證,能支援每秒高達20千兆次(20 petaops)的傳統深度神經網路運算,超過每瓦15兆次8位元運算(TOPS/W),此速度等同於甚至超越目前的GPU和CPU架構。Hala Point的獨特功能可望在未來AI應用的即時連續學習方面帶來突破,例如科學和工程的問題解決、物流、智慧城市基礎設施管理、大型語言模型(LLM)和AI代理。
目前Hala Point仍處於原型階段,未來將可進一步應用於提升商業系統,英特爾預計這些經驗將帶來實際突破進展,例如提升大型語言模型(LLM)從新數據中持續學習的能力,進一步強化AI模型的訓練精準度,並大幅降低佈署AI的訓練成本。
英特爾表示,Hala Point是在前一代Pohoiki Springs的基礎上大量改善,將仿神經形態性能和效率提升的優勢,延伸至視訊、語音和無線通訊等即時工作負載的主流深度學習模型中,推出後廣獲業界矚目,在今年世界行動通訊大會中,愛立信研究中心透過Loihi 2改善電信基礎設施效率的成果成爲展會焦點。
Loihi 2神經形態處理器是Hala Point的核心基礎,此處理器應用非同步、基於事件的脈衝神經網路(Spiking Neural Network,SNN)、整合記憶和運算,以及關聯性推論類人腦運算原理;相較於目前需要定期使用不斷成長的數據集,重新訓練此類模型的方式,Loihi 2神經形態處理器不須透過記憶體,改以神經元直接相互溝通的作法,可有效降低整體功耗。