蘋果打響拋棄英偉達GPU第一槍
如果您希望可以時常見面,歡迎標星收藏哦~
來源:內容由半導體行業觀察(ID:icbank)編譯自CNBC,謝謝。
過去幾年,生成式AI的的繁榮,讓英偉達GPU需求大增,公司市值也在過去幾年裡快速飆升至三萬億美元,但現在,蘋果打響了拋棄GPU的第一槍。
據最新消息透露,蘋果在人工智能訓練中依賴 Alphabet 設計的TPU芯片,而非行業領導者 Nvidia ,根據蘋果週一發佈的研究論文,該公司將構建新的人工智能軟件基礎設施,爲其即將推出的一系列人工智能工具和功能提供支持。
蘋果週一表示,其人工智能系統Apple Intelligence 所依賴的人工智能模型是在谷歌設計的處理器上進行預先訓練的,這表明大型科技公司正在尋找Nvidia的替代品。
該公司剛剛發佈的一篇技術論文詳細介紹了其自主研發的用於訓練的張量處理單元 (TPU) 。此外,蘋果週一還發布了適用於部分設備的 Apple Intelligence預覽版。
Nvidia 價格昂貴的圖形處理單元 (GPU) 主導着高端 AI 訓練芯片市場,過去幾年需求量巨大,難以採購到所需數量。OpenAI、微軟、Anthropic 都在其模型中使用 Nvidia 的 GPU,而包括谷歌在內的其他科技公司Meta、甲骨文和特斯拉正在搶購它們以構建自己的人工智能系統和產品。
Meta 首席執行官馬克·扎克伯格和 Alphabet 首席執行官桑達爾·皮查伊上週均發表評論稱,他們的公司和業內其他公司可能在 AI 基礎設施上投資過度,但他們也承認,不這樣做的商業風險太高。
扎克伯格在與彭博社的艾米麗·張(Emily Chang)的播客中表示:“落後的負面影響是,你將無法掌握未來 10 到 15 年最重要的技術。”
蘋果在其長達 47 頁的論文中沒有提到谷歌或 Nvidia,但確實指出其蘋果基礎模型 (AFM) 和 AFM 服務器是在“Cloud TPU 集羣”上進行訓練的。這意味着蘋果從雲提供商那裡租用了服務器來執行計算。
蘋果在論文中表示:“該系統使我們能夠高效、可擴展地訓練 AFM 模型,包括設備上的 AFM、AFM 服務器和更大的模型。”
蘋果比許多同行更晚公佈其人工智能計劃,在 OpenAI 於 2022 年底推出 ChatGPT 後不久,這些同行就大力擁抱生成式人工智能。週一,蘋果推出了Apple Intelligence。該系統包括幾個新功能,例如 Siri 的全新外觀、更好的自然語言處理和文本字段中的人工智能生成摘要。
明年,蘋果計劃推出基於生成式人工智能的功能,包括圖像生成、表情符號生成,以及可以訪問用戶個人信息並在應用程序內採取行動的增強型 Siri。
在週一的論文中,蘋果表示,設備上的 AFM 是在 2048 個 TPU v5p 芯片組成的單個“切片”上進行訓練的。這是最先進的 TPU,於 12 月首次推出。據該論文稱,AFM 服務器是在 8192 個 TPU v4 芯片上進行訓練的,這些芯片配置爲通過數據中心網絡作爲八個切片協同工作。
據谷歌網站稱,如果提前三年預訂,谷歌最新的 TPU 每小時使用成本不到 2 美元。谷歌於 2015 年首次推出 TPU 用於內部工作負載,並於 2017 年向公衆開放。它們現在是專爲人工智能設計的最成熟的定製芯片之一。
儘管如此,谷歌仍是 Nvidia 最大的客戶之一。它使用 Nvidia 的 GPU 和自己的 TPU 來訓練 AI 系統,並且還在其雲端出售 Nvidia 技術的訪問權限。
蘋果此前表示,推理(即採用預先訓練的人工智能模型並運行它來生成內容或做出預測)將部分在其數據中心的蘋果自己的芯片上進行。
這是繼 6 月份發佈更通用的版本後,蘋果發佈的第二篇關於其 AI 系統的技術論文。蘋果當時表示,其在開發 AI 模型時使用了 TPU。
蘋果預計將於週四收盤後公佈季度業績。
蘋果自研AI芯片:項目名ACDC
據《華爾街日報》報道,蘋果公司一直在開發一款自研芯片,用於在數據中心運行人工智能工具,但尚不清楚該半芯片是否會被部署。
據《華爾街日報》援引不願透露姓名的知情人士的話稱,這一努力將建立在蘋果公司之前製造內部芯片的基礎上,這些芯片運行在蘋果公司的 iPhone、Mac 和其他設備上。該報稱,該服務器項目在公司內部代號爲ACDC。ACDC 項目已經進行了好幾年,目前還不確定新芯片何時會推出(如果有的話)。
一些知情人士表示,蘋果一直在與其芯片製造合作伙伴臺積電密切合作,設計並開始生產此類芯片,但仍不確定他們是否已經取得了明確的結果。一些知情人士表示,對於蘋果的服務器芯片,該組件可能會專注於運行人工智能模型(即所謂的推理),而不是訓練人工智能模型,芯片製造商英偉達可能會繼續佔據主導地位。
蘋果服務器芯片的出現恰逢其時,因爲在 OpenAI 的 ChatGPT 服務爆炸性出現後,微軟和 Meta 等競爭對手已斥資數十億美元,並迅速圍繞所謂的生成式人工智能重新調整其業務。
蘋果投資者對該公司在人工智能領域缺乏進展感到越來越不耐煩。科技競爭對手的股價隨着人工智能的引人注目的公告而上漲。得益於與 OpenAI 的早期密切合作,微軟獲得了最大的提升。今年早些時候,微軟取代蘋果成爲全球市值最高的公司,而且其領先地位還在不斷擴大。
蘋果首席執行官蒂姆·庫克試圖向投資者保證,公司正在投資這項技術,並且很快就會發布重大的人工智能公告。
庫克在公司電話會議上表示:“我們相信人工智能的變革力量和前景,我們相信我們擁有的優勢將使我們在這個新時代脫穎而出,包括蘋果將硬件、軟件和服務無縫集成的獨特組合。”最近的季度收益。
生成式人工智能系統,例如爲 ChatGPT 提供支持的大型語言模型,通常使用數據中心託管的計算機服務器來處理大量數據。對於這種計算能力,大多數大型科技公司都嚴重依賴裝有英偉達芯片的服務器,英偉達發現自己正處於人工智能淘金熱之中。
大多數最大的科技公司都開發了自己的人工智能服務器芯片,或者正在探索擺脫英偉達束縛的可能性,英偉達在此類芯片上的市場份額估計超過 80%。谷歌可能擁有最成熟的內部人工智能服務器芯片產品及其張量處理單元,該項目於 2013 年啓動。據《華爾街日報》此前報道,OpenAI 也在討論資助一個雄心勃勃的內部芯片項目。
蘋果現有的芯片實力可能是該公司在人工智能領域比其他科技巨頭找到關鍵優勢的途徑之一。當該公司於 2010 年首次開始將自己的處理芯片集成到 iPhone 和 iPad 中時,該公司在設計定製芯片方面擁有最悠久的歷史和最成功的經驗。
2017 年,蘋果開始將專注於人工智能的處理器整合到其移動芯片中。2020 年,它開始用自己的定製芯片替換 Mac 中的英特爾芯片。這些芯片方面的努力爲蘋果公司的產品提供了區別於競爭對手的優勢。一位消息人士稱,目前計劃用於其消費產品的蘋果 M 系列芯片的高級版本可能能夠執行某些人工智能功能,例如服務器中的推理。
儘管蘋果公司已經成功爲其設備開發處理芯片,並且現在正尋求在服務器領域實現這一目標,但該公司一直在努力開發蜂窩無線芯片以取代移動芯片領導者高通公司。據《華爾街日報》去年報道,蘋果內部蜂窩調制解調器的推出仍然未能按時完成並被推遲。
蘋果更喜歡人工智能的大部分使用發生在 iPhone 或 Apple Watch 上,但它仍然需要在通過互聯網訪問的遠程服務器上運行一些進程,此時蘋果服務器芯片將接管。通過自己處理更多的任務,甚至使用數據中心的芯片,蘋果可以更好地控制其人工智能的命運。
蘋果股價週一尾盤上漲 1.2%。今年截至收盤,該公司股價已下跌 5.6%。這家總部位於加利福尼亞州庫比蒂諾的公司的代表沒有立即迴應置評請求。
蘋果一直在生成人工智能領域追趕科技同行,生成人工智能是聊天機器人和其他流行新工具的基礎技術。但該公司正準備在下個月的全球開發者大會上公佈一項新的人工智能戰略。
據彭博社報道,其方法預計將重點關注可以幫助用戶日常生活的新主動功能。蘋果還與 Alphabet Inc. 旗下的谷歌和 OpenAI 等潛在合作伙伴進行了談判,以提供生成式人工智能服務。
如果蘋果繼續推出自己的服務器處理器,它將效仿幾家最大的科技公司的做法。亞馬遜公司的AWS、谷歌、微軟公司和Meta Platforms公司都運營着在某種程度上運行在內部設計的半導體上的數據中心。這些努力削弱了英特爾公司零部件的傳統主導地位。
Apple 將 M2 Ultra 用於 AI 服務器
該報告發布之前,海通國際證券分析師 Jeff Pu 本週表示,蘋果正在使用 M2 Ultra 和 M4 芯片來爲專門用於 iOS 18 基於人工智能的新功能的服務器提供支持。
Pu在一份給投資者的新報告中提供了基於供應鏈檢查的分析。據稱,富士康目前正在組裝包含 M2 Ultra 的蘋果 AI 服務器,並計劃在 2025 年末組裝由 M4 芯片驅動的 AI 服務器。上個月,微博上的一位知名消息人士稱,蘋果正在爲自己的 AI 開發處理器採用臺積電3nm工藝製造的服務器,目標是在 2025 年下半年實現量產,這可能與這份有關 M4 驅動的 AI 服務器的報告相符。
蘋果決定建立自己的人工智能服務器,反映了該公司持續垂直整合供應鏈的戰略。蘋果可能會使用自己的芯片來增強其數據中心和未來依賴雲的人工智能工具的性能。
儘管有傳言稱蘋果將優先考慮其即將推出的許多人工智能工具的設備上處理,但不可避免的是,某些操作必須在雲端進行。當基於 M4 的服務器可以在數據中心運行時,蘋果的新人工智能戰略應該會順利進行。
與更廣泛的行業預期一致,Pu 還預計蘋果將在 6 月份的 WWDC 上宣佈設備端 AI 功能,例如錄音摘要、照片和視頻編輯以及實時翻譯。雖然iPhone 16系列將宣傳一系列人工智能功能,但 2025 年的iPhone 17 機型顯然將是更專注於人工智能的設備。
該公司預計將在 iOS 18 和 6 月 WWDC 2024 上宣佈的其他軟件更新中引入許多基於生成式 AI 的功能。蘋果還一直在 開發自己的可以離線運行的語言模型。然而,這些模型更加有限,因此擁有在線替代方案將是提供更準確結果的理想選擇。
有趣的是,之前的報道顯示,蘋果一直在與 OpenAI 和谷歌討論在 iOS 18 中使用他們的人工智能技術。目前尚不清楚蘋果是否仍計劃與第三方達成交易,或者只是使用自己的服務器。
https://www.cnbc.com/2024/07/29/apple-says-its-ai-models-were-trained-on-googles-custom-chips-.html
點這裡加關注,鎖定更多原創內容
*免責聲明:本文由作者原創。文章內容系作者個人觀點,半導體行業觀察轉載僅爲了傳達一種不同的觀點,不代表半導體行業觀察對該觀點贊同或支持,如果有任何異議,歡迎聯繫半導體行業觀察。
今天是《半導體行業觀察》爲您分享的第3842內容,歡迎關注。
『半導體第一垂直媒體』
實時 專業 原創 深度
公衆號ID:icbank
喜歡我們的內容就點“在看”分享給小夥伴哦