聯發科猛攻AI 端側AI芯片大角逐
21世紀經濟報道記者倪雨晴 深圳報道
眼下,生成式AI正勢不可擋地重塑着產業生態,劃分出新的代際。
有觀點認爲,Transformer大模型出現之前,都可以被稱爲AI“史前時代”;若之後回望2024年,或許將是端側AI的分水嶺,從芯片龍頭、到手機廠商、再到應用開發,AI成爲產業鏈上的絕對主題。
其中,移動終端的AI芯片已經開啓新的角力場,底層的芯片廠商在今年加快了迭代步伐、釋放更大聲量。
5月7日,聯發科(MediaTek)就舉行了天璣開發者大會2024(MDDC 2024)。
值得注意的是,這是聯發科第一次舉辦開發者大會,劍指AI和生態構建。
在會上,聯發科不僅發佈了“9300+”旗艦5G生成式AI移動芯片,還啓動了“AI先鋒計劃”、推出AI開發套件,積極和產業鏈抱團協作。目前,聯發科已與谷歌、Meta、百度、百川智能等大模型達成合作,天璣移動芯片將支持包括阿里雲通義千問、零一萬物等更多大模型。
在3月18日,另一家芯片龍頭高通推出第三代驍龍8s移動平臺,支持廣泛的AI模型,包括Baichuan-7B、Gemini Nano、Llama 2和智譜ChatGLM等大語言模型。同時,高通還推出了AI Hub開發套件。
可以看到,手機芯片廠商在生成式AI戰場上的競賽已經拉開帷幕,隨着接下來蘋果揭開AI計劃,移動端的AI敘事和角逐將進入新階段。
手機AI芯片之戰
隨着生成式AI的滲透,芯片廠商的比拼早已不侷限於硬件。芯片平臺之外,廠商還要強健開發者生態、軟件解決方案、乃至和產業鏈共同定義新標準,才能在新的賽場上卡位,爭取更多的話語權。
目前安卓系手機廠商中,聯發科和高通是兩大龍頭,AI都被視爲新增長點。
如今,聯發科繼續往高端突圍的同時,正在猛攻AI來開闢新路徑。
首先看芯片層面,聯發科此次推出的天璣9300+旗艦芯片。據介紹,天璣9300+採用全大核CPU架構,八核CPU包含4個最高頻率可達3.4 GHz的Cortex-X4超大核,以及4個主頻爲2.0GHz的 Cortex-A720大核,瞄準高端手機用戶、提升遊戲體驗。
在支持生成式AI能力上,天璣9300+率先在端側支持AI推測解碼加速技術,同時支持天璣AI LoRA Fusion 2.0技術。再加上支持主流的生成式AI大模型,芯片可提供文字、圖像、音樂等端側生成式 AI 多模態體驗。
對比來看,高通推出的第三代驍龍8移動平臺也主打端側人工智能,支持多模態通用AI模型,已支持運行130億參數的大模型,而驍龍8s移動平臺更是進一步對中端市場進行覆蓋。整體而言,在中高端手機市場上,高通和聯發科都在加快佈局,發佈節奏也越來越接近。
另一方面,芯片算力之外,開發者生態更受到業內關注,因爲AI創新非常需要第三方的應用開發者的參與,此前高通的AI HUB就是開發者生態建設的嘗試。
此番,聯發科聯合了阿里雲、百川智能、傳音、零一萬物、OPPO、榮耀、vivo、小米啓動“天璣AI先鋒計劃”,助力開發者在搭載天璣芯片的終端設備上進行創新。同時還推出“天璣AI開發套件”,可以協助開發者加速大模型的終端部署、優化開發流程、提升開發環境等。
聯發科技無線通信事業部副總經理李彥輯在接受媒體採訪時談道:“先鋒計劃就是希望能夠跟具有指標性、開發比較早的、開始導入生成式AI的應用開發者,一起把生態往前推動。AI先鋒計劃包含兩部分,第一個環節是我們和一些模型、OEM廠商聯合;再者是跟所有的APP開發廠商,在這樣的硬件基礎上,探索怎麼樣開發新的應用。”
21世紀經濟報道記者在會場觀察到,現在雖然是在端側AI初期,但是大模型廠商、APP應用廠商,已經直接和芯片廠商進行合作。正如百川智能創始人、CEO王小川在會上所言,以前做搜狗的時候從來不用見芯片公司,但是做了大模型後是不得不見。
因此,在現場,除了手機企業展臺外,APP企業、大模型合作案例,也佔據着展會C位。比如,抖音就在聯發科芯片的基礎上,結合自家的端側SDXL-Lightning大模型,提供高畫質文生圖功能。
這是應用、大模型和芯片三者直接緊密合作的典型案例。可以說,生成式AI時代的移動生態,正在醞釀新的合作模式,算力的分配調用也在重構。芯片對於AI體驗的影響力進一步加強,同時AI應用也對芯片提出更高要求,考驗着芯片廠商在生態合作、算力優化等全方位的能力。
移動生態之變
可以預見,生成式AI正在重塑着移動生態的新格局。芯片廠商和手機品牌、手機應用、大模型廠商之間的關係面臨新的變化和機遇。
一方面,當前不僅是芯片廠商在聯合大模型,手機公司更是紛紛推出端側大模型,而互聯網巨頭更是早就推出了一系列的大模型產品。當雲端大模型、終端大模型都集成到手機中,各大主體之間是否有競爭關係?而生成式AI究竟會孕育出怎麼樣的殺手級應用?這些課題都是關注焦點。
首先,談及產業鏈上各環節的關係,聯發科技無線通信事業部生態發展資深總監章立談道:“生成式AI一定是個開放的生態。一個閉環的或者封閉的解決方案,可能沒有辦法適應生成式AI這個場景,因爲不知道創新出現在哪裡,這是最大的問題。我們希望和大模型合作能打造一個生態的土壤,手機廠商能夠找到創新的用戶體驗。所以我們希望這是一個把餅做大的過程,在生成式AI到來之際,無論是開發者、芯片廠商還是手機廠商,面對的都是更巨大的市場,這應該是三方的最大公約數。”
會上,聯發科與Counterpoint等聯合發佈了《生成式AI手機產業白皮書》,白皮書預計,生成式AI手機將在未來幾年保持高速成長,生成式AI手機的存量規模將在2027年突破10億大關,幫助實現生成式AI技術的普惠。
面對增長的市場,不論是手機廠商、應用廠商都在尋求創新路線。章立還指出:“如果涉及到芯片級層次的技術創新,廠商一定會選擇和芯片公司優先合作,這樣可以抹平不同機型和品牌之間的技術差異。越來越會從芯片的底層來發掘如何利用移動平臺的技術打造創新的用戶體驗,未來一段時間生成式AI和芯片是強相關。”
其次,對於殺手級應用,聯發科董事、總經理暨營運長陳冠州談道:“兩年內會出現殺手級應用,不論雲端和終端,誰先出現不重要。聯發科在思考怎麼樣在端側早一點出現殺手級應用。一方面是規範化,內存等方面很複雜;第二方面優化,端側相對於雲側算力小,首先需要進行模型優化,比如專家系統怎麼根據各行各業進行優化,怎麼和產業鏈上下游去優化,規範和優化是同樣重要的事情。”
另一方面,在引入生成式AI的過程中,仍面臨挑戰,最大的一個拷問就是爲什麼需要端側AI。聯發科技無線通信事業部技術規劃總監李俊男認爲,在端側有幾個必須,比如隱私保護,一些數據用戶不想上雲,使用端側大模型,即使沒有網絡的時候大模型還是可以很快地做回答和交互。另外手機天生有多模態優勢,有聲音、影像,這樣的交互是最自然的,所以端側很適合做GAI(通用人工智能)。
不過在具體的落地方面有不少難題,李彥輯談道:“其實大模型廠商很希望能夠在端側高效運行大模型,面臨的問題基本上有兩大類:一類就是運行有沒有效率,耗電量是多少或者速度夠不夠快;第二是它的內存佔用可能過高,這些我們都有相應的解決方案。”
多位開發者告訴21世紀經濟報道記者,目前端側有7B的大模型,裝到手機這麼小的設備裡面,就是很大的挑戰。而且頭部應用往往傾向於使用自己的大模型,而將所有大模型都加載到本地是不現實的,未來端雲協同將是趨勢。