周鴻禕、王小川、黃鐵軍、張鵬論道人工智能：一路投奔奇點

今天，對於人工智能我們有很多的共識與非共識。

共識是，它將會像工業革命一樣，極大地改變人類的生產與生活方式；而非共識是，它究竟將以什麼樣的方式、帶來怎樣的影響？通用人工智能的奇點究竟何時到來？人類是否爲此做好了準備？

11月30日，在ChatGPT發佈一週年之際，中國科技產業智庫「甲子光年」舉辦了2023甲子引力年終盛典。在大會的巔峰論壇上，甲子光年創始人&CEO張一甲與360集團創始人周鴻禕，百川智能創始人、CEO王小川，智源研究院院長黃鐵軍，智譜AI CEO張鵬，一起探討了人工智能如何一路投奔奇點。

四位嘉賓都是人工智能行業的資深從業者，對於人工智能的發展，他們會產生怎樣的觀點交鋒？

以下爲現場嘉賓交流實錄，經「甲子光年」整理，有刪改。

張一甲：我們這次巔峰論壇湊齊了360、百川、智譜AI和智源，應該算是AI行業非常有信息密度的陣容。我的第一個問題是，今年4月份小川和周總都曾判斷OpenAI領先國內兩三年，ChatGPT領先國內模型一年。現在半年過去了，國產大模型已經追上OpenAI了嗎？我們還有多少差距？

周鴻禕：在刷榜上，中國的大模型已經把OpenAI刷出10名之外了，因爲我們都是做題家出身，只要碰上做題都很擅長。但是我和王小川都是搞搜索出身，如果你認真地用GPT-4，給他很複雜的提示詞，你會發現它功力還是很深厚的。但是，因爲一些國內的同行們準確地預言了自己將來某月某日超越GPT-4，就弄得我們很尷尬，好像我們對行業沒有信心一樣，所以我們說得比較籠統。

但是今年有兩個事，一個是OpenAI推出GPT Store，很多定製的GPT對提示詞有複雜處理能力，我們把這些提示詞拿回來對國內的大模型試一下，你會發現彼此差距還是存在的；第二就是近期OpenAI的宮鬥事件，雖然我不太相信那個Q*，我認爲是編故事，但我一直相信OpenAI手裡一定有一些牌沒有拿出來，包括它這麼快地推出GPT-4V等多模態版本。

客觀來講，我認爲還是有差距。只是說有這個差距，並不妨礙我們國家打造自己的GPT，打造自己的大模型產業。相反，你要是不承認這個差距，老是盲目樂觀，反而會帶來一些問題。我們發佈360智腦時，很謙虛地說我們跟OpenAI差距有一年半吧，然後同行就說已經超越GPT-4了，客戶就覺得同行比360領先一年，所以我也不敢再預言跟OpenAI的差距了。

王小川：OpenAI背後有很多我們看不見的東西。我認爲，年底國內一線大模型水平差不多能達到去年11月30日推出的GPT-3.5版本，距離GPT-4可能還有差距，因爲對方已經升級爲GPT-4V。所以我預期，可能一年半左右追上GPT-4V，這是肉眼可見的差距，背後還沒看到的東西也許還會更遠。我認爲整體差距依然在2~3年，肉眼可見的差距是1~2年。

張鵬：剛纔周總和小川說的我特別贊同，要有明確的對比指標才能比，但是大家知道OpenAI肯定沒有拿出所有的真功夫，大家只能跟OpenAI已經公佈的GPT4、GPT-4V來比較。從年初的情況來看，我們是在拉近這個距離。我們智譜AI最近也對技術有升級，有些單點或者少量指標上可以逼近它了。我們在極力追趕它的態勢，但是總體平均能力確實還存在不小差距，這也是我們壓力和動力的來源。

黃鐵軍：我最後一位發言，是想聽三位頭部企業信心有多大。如果問我，我的回答很簡單，我們肯定是在接近而不是拉大差距。去年11月30日ChatGPT發佈，整個社會對於這個領域的熱情和焦慮感在一瞬間提升，但由於智源開始做得比較早，所以過去並不焦慮，現在也不焦慮，將來也不會焦慮。

爲什麼我認爲今年差距在變小呢？因爲參與這個領域的人越來越多，投入的資源越來越大，經驗也在逐漸積累。我常說人工智能是一門技術，而像ChatGPT這樣的項目是一個龐大的工程，比的就是投入的資源和人力。現在我們有這麼多企業和機構在嘗試，我相信各自都找到了一些竅門，或者有了自己的體驗和心得，我們之間的差距會越來越小，甚至某一天可能會超越。

周鴻禕：我補充兩句，避免過於悲觀。首先，OpenAI已經有了七年的歷史。他們還繼承了谷歌的一些成果，擁有很多過去的經驗。他們從去年開始發佈，基本上國內的公司纔開始拼命迎頭趕上，用了一年的時間達到現在的程度，我認爲這已經是超速發展了。

其次，現在還有像Llama這樣的開源社區，對整個開源產業有很大的影響。我也同意黃院長所說，做大模型有些是算法，有些是基礎設施，但還有一些東西，就像煉丹一樣，屬於工程化的做法，是秘而不宣的，比如如何進行微調、精調，訓練數據的篩選等。國內推出了更長的上下文窗口尺寸的模型，小川做了192K，GPT-4 Turbo做了128K，新的方法層出不窮。所以我相信，在這些基礎上，國內的發展速度還是很快的。

我還有一個觀點，如果我們做企業級應用、行業應用、垂直應用，不用等我們做到GPT-4能力的時候才能推出，實際上現在這個能力已經綽綽有餘了。而且反過來看，GPT-4能不斷改進，與它每個月有一億用戶使用也有很大的關係。如果我們還都是在實驗室裡，沒有流量，沒有用戶使用，那麼無論如何是改進不了的。靠所謂的刷題只能測出在某些方面的進步，而靠億萬用戶的使用，每天都會出現很多用戶不滿意的例子，然後你才知道自己的差距，進而做出調整，這樣的進步才更快。

張一甲：下一個問題稍微有點爭議——大模型自研。最近有很多關於自研的討論。有一少部分人認爲只有從第一行代碼開始寫的大模型纔是自研大模型。但另一部分人認爲，既然開源生態已經相當成熟，所有大模型也都是基於transformer架構，我們無需重複造輪子。到底什麼叫自研？大家通常所說的自研應該是從哪一層開始？我們是否應該追求所謂的絕對自研？

黃鐵軍：這個話題可能有點稍微超出大模型本身了。有一種自研叫從0到1的原始創新，比如飛機發明，指南針發明，相對論提出，我自己發明的脈衝攝影原理等；還有一種，即使不是第一個做出來，但因爲第一個發明者嚴格保密，後來者只能靠自己的方法探索出來，也是從0到1的自研，比如我們的“兩彈一星”。

回到大模型來看，要不要全部從0到1？我覺得有點絕對了，這是不合理的。人工智能發展這麼多年，包括神經網絡，深度學習，transformer，OpenAI的GPT，其實都是在歷史的演進過程中發展的，既有繼承，又有從0到1的自研部分。

一個企業要不要從0到1？我覺得可以追求，但不能把這個當成一個必須的要求。因爲有的願意選擇相對成熟的一些經驗，包括代碼，然後再往前走，有的願意自研更多一些，甚至從第一行代碼開始，這些道路都是可以的。一個產品或技術體系的自研成分多與少、技術含量高和低，這是可以評判的。

我的結論就是，鼓勵自研，鼓勵從0到1，但是不要把做任何事都變成從0到1，這走向了另一個極端。

周鴻禕：我覺得大家對大模型有一個誤解，就是以爲每家大模型都在重新寫代碼，其實大模型底層的算子很多都是通用的，包括OpenAI也沒有從零開始，它用的transformer這套算法是谷歌提出的，大家用的訓練框架、推理框架都有成熟的東西。大家做的工作是在大模型基礎上，把各種數據去做預訓練、去做微調，這是決定一個大模型好不好用的關鍵。

大家今天發佈的開源大模型與開源代碼還是有區別的。Linux以及很多大數據系統、操作系統發佈的是開源代碼，而開源大模型實際上不是代碼，而是大模型經過訓練之後的神經網絡的權重。對於原始創新，我也同意黃院長的觀點，如果既希望中國能快速趕上，又希望什麼事兒都要重複發明輪子，我認爲是沒有必要的，特別是Llama2發佈之後，對於開源的大模型生態有很大的推動。同樣基於Llama2，不同公司的訓練方法不一樣，最後的模型能力也不一樣。就像兩個大腦基礎相同的小孩，唸的書不一樣，學習的成績也不一樣。

實際上，在開源的基礎上結合自己的數據做SFT（監督微調），以及OpenAI推出的RLHF（人類反饋強化學習），這些都跟transformer模型的底層代碼沒有什麼直接關係了。當然，做到一定程度之後，可能又需要模型架構做創新了，這是一個螺旋式的上升。

大家做SFT產生幾十萬個問題，需要大量的人力工作，現在很多公司圖省事，直接用GPT-4產生精調數據，迭代速度就會很快，但因爲是用GPT-4的結果來訓練，智力永遠超越不了GPT-4。

總之，我對開源這件事的態度是，沒有必要一刀切。

張一甲：小川，百川智能今年的速度非常快，平均每28天就會發佈一個大模型，想必也要借一些前人肩膀的力量。你在自研和藉助前人成果之間是怎麼權衡和選擇的？

王小川：因爲我們做的很快，確實有人問過我這個問題。我們從第一版7B、13B、53B發佈，到第二版開始發技術報告，把訓練方法、切片、每訓練一步參數模型的變化都公開了，這樣大家能夠相信我們是從原材料開始自己做的。

大模型跟以前的企業操作系統不太一樣，大模型更像是炒菜，你得有原材料，有肉、有菜。有人從菜園子種菜開始做起，也有人從切菜洗菜、菜的配比開始做。訓練模型有很多手工活，包括菜的配比、放入順序，炒完之後可能還需要再加調料再回鍋炒一下，是這樣一個過程。

百川的選擇是從種菜開始，數據來自公開和開源的數據，再做重新清洗。從Llama到ChatGPT只有1.5%左右的中文數據，我們的中文數據超過三分之一，三分之二的英文數據也是經過處理的。炒菜這個過程也是我們自己做的，但是可以看別人用什麼原材料，好的方法、經驗是可以借鑑的。

先不做價值判斷，可以大概分爲兩類：一類是自己炒菜，從原材料開始；第二類是把別人炒好的菜再加些調料回鍋，改造成自己的菜。從這個角度來說，百川屬於第一種。

張一甲：智譜AI格外強調自研了預訓練框架，當年爲什麼做這個選擇？這算重複造輪子嗎？

張鵬：當然不屬於重複造輪子，因爲自研後面還有兩個字叫算法，即預訓練框架，我們是在這一層面做了一些自己的創新與嘗試，成功與否留給後人評判。

我們與領先者的差距到底在哪兒？可以簡單做一個思考，如果你沿着前人的腳印去走，是很難超越前人的，頂多追到屁股後面。如果要想在儘量短的時間內超越前人，就一定要做創新。

我認爲，所謂的原始創新與自研其實是兩個概念，因爲現代科學技術包括人工智能這一工程化技術的發展，都是站在前人的肩膀上前進，幾乎沒有人要開山鼻祖創建新的流派，OpenAI也是站在前人的肩膀上，這件事不用那麼絕對。但是，也不能混淆說，要完全按照別人的腳印來走。要在適當的繼承前提下，抱有原始創新意識，這也是智譜AI自研算法框架的目的。我相信只有這樣才能儘快地追趕前人，甚至超越前人。

黃鐵軍：補充兩句，其實科研分好幾個層次。第一層，很多大學、研究所的人寫文章，不追求商業利益，作爲公共知識貢獻；第二層，是申請專利，保護自己20年，專利公開，因此別人也可以在這個基礎上往前繼續做；還有一種就是技術秘密（know how），企業的踩坑、訣竅、經驗，是不對外分享的；之後纔是寫代碼，也就是具體實現，到大模型還有數據、微調、對齊等。任何一個企業做大模型，這些層次都要考慮。將來產業發展是體系化的，我們要分析哪些是自己的，哪些是別人的。我也有信心我們的貢獻會越來越多，水平會越來越高。

張一甲：大家的討論讓我們看到，自研不是一個簡單的非黑即白的概念，不是二選一，是一個複雜的系統性工程。

張一甲：大模型的成本，一直是一個很大的挑戰。它跟當年周總跟小川特別熟悉的互聯網還不太一樣。大模型是使用的人數越多，算力消耗越多，成本就越高，它沒有網絡效應，不會像互聯網那麼性感。所以有媒體調侃說，“用GPT-4總結電子郵件，就像開着蘭博基尼送披薩”。各位是如何看待和應對這些問題的呢？

周鴻禕：在互聯網上對百萬、千萬甚至億以上的用戶展開服務，成本可以控制得很低，原先的模式大部分是服務免費，廣告模式大行其道。但是，大模型每回答一個問題，成本都比搜索高很多，所以就會催生一種新的商業模式，就是OpenAI現在採用的用戶收費模式，而不是廣告模式。這種模式的變遷，也會讓谷歌比較難受。

但是，任何一個新東西剛出來的時候總是有缺點的。大模型就像手機行業早期的大哥大，很貴，很難進入尋常百姓家。我們看到硅谷有一個趨勢——OpenAI、微軟、Meta、亞馬遜都要做芯片。我打聽了一下，大家實際上都要先解決推理芯片的問題，包括蘋果、高通的CPU都號稱在推理上內存可以充分利用起來。

所以，未來一兩年，如果推理芯片能夠不再依賴昂貴的GPU，藉助今天的CPU的升級把成本降下來，我個人認爲成本便不再是一個問題。另外，如果刨去互聯網和to C的應用，面對政府和大型企業客戶的內部私有化部署就不存在成本問題，因爲算力是企業自己提供的，用戶量也比較少，這不會成爲大模型發展的阻力。

王小川：在互聯網時代，其實搜索的算力消耗已經非常多了，但在今年年初大模型每一次請求花費的成本是搜索的40多倍。

有兩點可以來解決。第一，先選擇高價值場景。原來互聯網服務免費的時候，其實對服務質量要求也不會特別高，而大模型提供的一些能力，有機會爲一些高價值場景提供更好的服務，比如法律、醫療、教育，這些高價值場景如果能服務好的話，是可以賺錢的。

其次，成本問題最終會通過硬件升級或軟件迭代而大幅下降。OpenAI也把成本問題看得非常重要，今年年中去美國跟他們接觸，他們今年下半年的目的就是把GPT-4的成本降低4倍，明年還會降低4倍，接下來軟硬結合每年成本可能降低10倍，三年以後降低一千倍，最終會變成像上網一樣低門檻的事情。長久而言，技術進步會填平這樣的困難。

張一甲：你之前提到明年你們會推“超級產品”，我記得你四月份創業的時候就說要做超級產品。大家都知道ChatGPT算一個“Killer APP”，但之後的其他產品可能還不具備超級產品的定義。什麼叫超級產品？你的超級產品大概是什麼樣子的？

王小川：得有千萬級以上用戶在使用才能叫超級產品。今天大家對於超級產品的進度有點苛求了，ChatGPT一年前才發佈，過去一年我們主要在做技術追趕。現在談超級產品有點像問一個1歲的孩子上大學沒有、工作沒有。明年我們將推出超級產品，我認爲這個時間點已經非常代表中國速度了。中國的應用能力本身就很強，只是現在模型基礎還不夠，如果模型到了ChatGPT的水平，中國更能開發出更多超級產品。

周鴻禕：我最近在思考的觀點，如果仔細看一下Adobe和微軟、谷歌做的事情，會發現未來AI可能不是一個獨立產生killer APP的技術，而是對已有的技術、流程方方面面去加強的一個技術。所以微軟把他所有的產品都加上AI，命名爲Copilot（副駕駛）。所以，未來不論是to B還是to C，所有的產品都會被AI重塑，但不一定存在只依賴AI的產品，AI還是要跟傳統的業務與產品結合。就像PC最早用來做打字，工業革命之後，PC跟所有的工作與生活結合在一起。

張一甲：大模型從最開始的拼技術、拼參數，到現在拼應用、拼落地、拼生態，接下來會走向什麼樣的方向？在前段時間OpenAI的開發者大會上，有兩個方向很有意思：一是GPT Store，模仿蘋果的App Store；二是GPTs，類似AI Agent。我的問題是，GPT Store和AI Agent，是不是下一階段AI的賽點？

王小川：對於AI應用，中美可能會走出不同的道路。OpenAI能夠把技術做到極致，然後開枝散葉，不強調在某一領域中調優，這與它的背景相關，要做通用技術。這是一條道路，但我不覺得OpenAI是唯一的範式。在中國，應用場景落地會更快一些，國內或者美國都有一些公司在端到端地服務，已經有能力在一些場景應用起來，最終都會應用到千行百業，並在一些單點可能出現爆款。

張鵬：最近的熱點我們也很關注，尤其是AI Agent這一塊。我覺得回到第一性原理，新事物的產生，以及如何應用落地，一切來自於技術本身的革新性和升級。無論是GPT Store還是GPTs，或者API，包括剛纔提到的killer app，本質上都得益於基礎模型本身能力的增強，確實能夠改變很多原來的App開發範式以及應用流程範式。所以，我們期待的是底座模型的能力的爆發。

周鴻禕：我有一些不同的理解。很多人認爲OpenAI是爲了做一個App Store，但ChatGPT光靠一個聊天對話框、一個Chatbot，大家玩完之後發現其實解決不了問題，跟目前的業務很難融合。我理解，OpenAI做GPTs恰恰是爲了解決這個問題，讓大家在各個行業、各個業務場景進行深度的定製，來找出殺手級應用。連OpenAI都在尋找。

我對Agent的理解也經過幾個不同的過程，最早是斯坦福小鎮的25個Agent，當時覺得像虛擬機器人；後來AutoGPT又讓人覺得Agent能夠自動化地進行任務分解，但結果失敗了；這次GPTs背後就是Agent，只是OpenAI故意沒有把Agent概念打出來。我覺得，Agent並不是讓GPT自動完成很多任務，現在還達不到目標，最重要的價值是讓大模型跟真正的業務工作相結合，因爲它能自動調動API，有工作流的驅動才能完成工作任務。

張一甲：最後一個話題，AI的派系之爭。AI價值觀的爭論現在在硅谷非常熱，大家分化成了兩個派系，一派叫e/acc，有效加速主義，比較激進地認爲人類應該無條件地加速技術創新，技術爆發一定對人類有好處。OpenAI創始人薩姆（Sam Altman）的做法就很像這一派；另一派叫EA，有效利他主義，認爲要儘可能保證AI對人類是有愛的，不能傷害到人類，當AI可能威脅人類，就應該加以阻止。OpenAI首席科學家伊利亞·蘇茨克維（Ilya Sutskever）的立場就很像這一派。請問各位，你是e/acc，還是EA？

王小川：一旦貼標籤分兩類，其實蠻限制自己內心的真實想法的。我在4月10日官宣的時候就寫到，我們通過AGI幫助人類繁榮和延續人類文明——並不是把個體的得失看得比較重，而是更看重如何把人類整個羣體發展到今天成爲偉大的智慧生命體所創造出來的物理規律、文化等發展下去。不管是保守主義，還是激進主義，哪一派能幫助繁榮人類的文明，甚至延續人類文明，對於我們就是有意義的事情。

張一甲：就是說你在兩個派系之間遊刃有餘。

周鴻禕：所以你問王小川這是飛禽還是走獸，他說是蝙蝠。

張一甲：聽一下張鵬總的觀點，你不要再像小川那麼狡猾了。

張鵬：這不叫狡猾，這叫科學的道理，我跟小川的意見有點相似，不要輕易的給自己貼標籤，尤其這個標籤是別人定義的。做AGI這件事，我們內心還是讓這個世界更美好，要讓技術服務人類，只不過這兩派人會有各自的側重點，會選擇不同的道路、不同的節奏，不像我們中國人的思維會比較中庸。

智譜AI也是一樣，純粹從技術或工程的角度來看這個問題，技術突飛猛進，有原生動力去推動這件事，另一方面在我們所認知的範圍之內，儘量保證這些技術的演進不要危害到人類的利益。

張一甲：黃老師應該是e/acc吧？

黃鐵軍：你可能說反了。我們論壇的主題《一路投奔奇點》，應該反映了當前產業e/acc的狀態。

我十年前是e/acc，倒不是我想不想的問題，而是我認爲這就是世界發展規律，這是人類的宿命，人工智能一定會全面超越人類。那時候很少有人相信，都說這是科幻，但今天反過來了。

我過去認爲，實現AGI要等到2045年，但現在OpenAI說不定10年就能實現，還有2～5年就能實現的說法。不管是多少，其實人類根本還沒有做好心理準備被一個更強的智能超越。

爲什麼說我不是e/acc？儘管我認爲它不以人類意志爲轉移，但我還是傾向於要慢下來——在實現AGI之前，找到一個恰當的共存之道。而現在時間有點緊張，大家很少去想這件事應該怎麼做。

我現在的看法是，AGI絕對不能當成大家追求的理想，因爲它就是超人，一個比人類全面強大的系統。一旦能做出這樣一個系統，一定是它控制人類而不是人類控制它。當然這也不等於是絕對的壞事，不等於它就會毀滅人類，但無論如何，這是人類進化史上的一次大逆轉，一定要極其慎重。

張一甲：如果此時此刻有一封公開信號召大家所有人都停下來、一起想一想，你還是會毅然決然地簽字？

黃鐵軍：停下來永遠是不可能的，但可以慢一點，或者我們投入更多的資源去想一想，除了往前跑之外，還要想一下後路，想一下可能的共存方案。現在大家的關注度和投入資源都太少。

張一甲：周總你是哪一派？

周鴻禕：我是堅定的發展派。

第一，人們有時候表現的跟他內心想的東西不一樣，比如馬斯克帶頭讓大家寫簽名信，說要停下來想一想，但他背地裡買了1萬塊顯卡，成立了一個X.AI，他就希望同行們停一停，好讓我趕上。包括這次OpenAI宮鬥事件，表面看是AI派系之爭，但我認爲權力鬥爭的因素也是存在的。

我最近到硅谷轉了一圈，現在美國所有的創業公司都在做AI，很多投資人是非AI不投了。爲什麼英偉達股價漲的這麼厲害？它明年的產能都賣掉了。除了互聯網大廠搞AI瘋狂買卡，創業公司、傳統公司也在瘋狂買卡，大家都認爲AI未來是一場比互聯網和電腦更加革命級的工業革命。當年美國戰勝日本不僅僅是靠廣場協議，而是抓住了PC和互聯網的產業升級的機會，而這一次他們想抓住AI的機會。

如果今天沒有創新，就沒有創造增量的市場，而存量市場的很多矛盾只有通過科技創新才能解決，所以我的觀點還是要發展。

剛纔張鵬提到要慢慢裝剎車，但現在的問題是剎車怎麼做都不知道，裝在哪也不知道，這就是我們360這種公司的使命。我覺得隨着大模型的發展，會從黑盒子變得越來越透明，那麼，能不能用一套大模型來監控另一套大模型？能不能在大模型Agent框架里加上安全審計？能不能把這個超級工具放在人類控制範圍內？一定要積極地尋找安全解決方案。

電影《奧本海默》我看到的結果是蠻正向的，至少兩件事，一是解決了核電站的問題，是真正的綠色能源；二是有了核彈之後，這80年沒有大規模戰爭，形成了制衡後纔有了全球化，纔有了中國經濟的高速發展。

美國也沒有幾個人是不發展的類型。有的人總要發表一些驚世駭俗的言論纔會贏得大家的關注，而全世界都在發展。

美國已經在全力以赴開動下一場工業革命了，我們在人工智能的研究、研發、產品場景中應該給予更多的包容和理解。就像互聯網當年也是先發展再治理一樣，人工智能在中國還可以充分地發展幾年，並帶動芯片、大數據、新型工業化等等，這絕對是未來大國角力的關鍵點，不能出方向性的偏差。

黃鐵軍：我想評論一下，周總講的代表了大多數人的觀點和心態，也是當今的主流觀點。但這就是人類的宿命，我們就得那麼走，然後走向了一個回不了頭的地方。

周鴻禕：人類沒有AI，也會碰到很多解決不了的問題，像老齡化、地球溫度問題，最後人類文明可能也就毀於戰爭了。有了AI之後，也許還能找到一些轉機。

張一甲：聽出來各位的區別了，小川是“上帝視角”想要自己定義價值，周總是樂觀積極的心態，黃老師是悲觀悲憫的心態。

周鴻禕：來的都是AI從業者，我給大家一個建議。很多自媒體在網上老是散播焦慮，但有兩個原則問題不能太散播了，一個是宣傳硅基生物戰勝碳基生物，這個在你們有生之年我保證你們看不到；另一個是AI造成大規模失業，這樣讓很多政策制定者、決策者很擔憂，包括企業、政府用AI很有顧慮。我們還是應該一起來推動AI在中國的發展，大家纔有商業的機會。

黃鐵軍：如果硅基代替了碳基，周總有啥行動？

周鴻禕：我覺得就靠我們這些黑客們最後把他們再黑掉了。

我再反擊一下。人的大腦雖然不如GPT，不如大模型可以那麼無限地加算力，人腦最大的優點是功率低，像黃老師大約有30瓦，我大概20瓦。所以大模型什麼都好，最致命的問題是能源問題。如果全球都建超大規模的大數據中心，有可能全球的能源根本就不夠用。我覺得不用擔心硅基生物超越碳基生物那一天，因爲能源如果不能夠進步，可能就會造成人工智能產業的停滯。

黃鐵軍：先分清楚訓練和推理，人腦的20-30瓦主要是推理。

周鴻禕：人是推訓一體的。

黃鐵軍：但我們生下來就訓練的差不多了。

周鴻禕：反過來，人類如果解決能源問題，很多問題就迎刃而解了，否則馬斯克吹再多的牛，星際旅行也是不可能的。人類發展到今天，最近100年裡科技突飛猛進，但今天在理論物理、基礎原材料還是碰到了阻礙，比如可控核聚變、室溫超導。我堅信AI的突破是人類文明有史以來最好的工具。人類文明本身是不是應該躍升，躍升過程中是不是有危險，危險能不能可控，需要有更多的人除了做大模型之外來研究大模型安全。

黃鐵軍：你說了一段，沒說更遠。你說的都是從一段時間內解決問題怎麼好，或怎麼控制安全，但沒有說跳下懸崖之後的事，實際上我們現在是不是正在滑下懸崖，都不知道。

周鴻禕：你們倆相信OpenAI的Q*的傳說嗎？

張鵬：最近看了看，我覺得可能戲說的成分比較多一點。

黃鐵軍：我相信每個企業都有自己的一些秘密和訣竅，這就是他們的競爭力，我覺得你們也一樣。只是訣竅有沒有那麼強大，沒驗證之前誰也不好說。

周鴻禕：如果Q*是真的，那你的擔憂就比較有力，說明人類在安全上還沒有準備好，AGI已經到來了；但我認爲Q*是假的，是他們爲了給自己找面子編的一個故事，我覺得AGI還有時間，我們還能留出更多的時間想安全的問題。

黃鐵軍：我說AGI在2045年能實現，是10年之前，那時候根本就沒有OpenAI，也沒有Q*，有或沒有，都不影響這件事的發生。

張一甲：黃老師和周總面對AGI的觀點很像是“掉下懸崖派”和“懸崖前剎住車派”。黃老師說，你不管剎車剎的多好，最終是懸崖下面見，周總說，我的剎車技術可以發展的足夠快，在到達懸崖之前剎住這個車。今天的交流非常充分，感謝各位嘉賓的精彩分享。