外灘大會AI十問：未來AI的智能進步可能遵循怎樣的規律？人類如何跟AI搶工作?

“生成式AI”狂奔近兩年，AIGC與人類、產業乃至世界的聯繫正在不斷加深，未來AI的智能進步可能遵循着怎樣的規律？AI會怎樣影響到產業，又會如何和人類搶工作？

在2024 Inclusion·外灘大會，關於AI的產業落地、人文思考貫穿着各場演講、論壇討論、媒體採訪等環節，記者整理了2024年外灘大會來自業界、學界各位大咖的“AI十問”，在這一年，人們對AI的未來想象更爲清晰，樂觀猶存，更多需要思考的問題也正被看到。

AI的智能進步遵循着怎樣的規律，未來將會怎樣發展？

“互聯網之父”、著名未來學家、《連線》雜誌創始主編凱文·凱利談到了這個“極其重要但難以回答的問題”。“沒有確切的答案”成爲凱文·凱利的答案。他提醒，OpenAI、微軟、Google等都押注在大語言模型，業內相信如果我們不斷地擴大語言模型的規模，人工智能就會變得更聰明，但事實上，這更多是一種直覺，未經認證。

凱文·凱利表示，現在的人工智能只擅長回答基於已知事實的問題，類似大家上學時讀了一大堆書而顯得無所不知的聰明學生，但它們並不擅長提出新問題，也無法進入未知的領域。未來，人工智能能否進行復雜的多步思維鏈、回答未知的問題，是業界需要嘗試尋找答案的一項重要問題。

AGI是否存在泡沫？

應用突破是中國通用人工智能技術（AGI）發展的關鍵，但目前AI真正的大規模落地應用、大衆化的產品仍未出現，大模型公司大多在虧本燒錢，引發了“AGI泡沫”的擔憂。

百川智能創始人、CEO王小川在外灘大會否認了“AGI泡沫”的說法，他認爲目前大模型的發展從結果上看是符合行業預期的，他提出，爲了推動大模型邁向下一個發展階段，關鍵在於實現兩大融合：一是將知識搜索與大模型相結合，二是大模型強化的結合。

MiniMax創始人、CEO閆俊傑則認爲，AGI的發展還需要耐心。他表示，如果模型錯誤率可以下降到個位數，那麼模型就是一個可信賴的狀態，AI也有可能從助手變成一種生產力，這種變化會帶來真正大衆化的產品，爲行業帶來本質的變化。他期待通過技術的優化來拓展AI的邊界。

未來AI可能超越工具屬性，獲得意識，甚至建立AI文明嗎?

“人工智能就是人類文明的下一個階段。我們正在通過人工智能重塑人類文明，從而創造出一種新的文化。在這種文化中，我們將不再是唯一的物種。”凱文·凱利表示，人工智能並不能像人類一樣思考，他們有着不同的思維方式，有點像飛機一樣，飛機並不會像鳥兒那樣拍打翅膀，而且飛行的方式完全不像動物，人類曾經嘗試通過仿生學來製造像鳥一樣飛行的飛機，但未能如願。同理，人工智能被設計成模仿人類思維，但是機器思考的方式截然不同，這意味着，這樣不同的思考方式能讓AI產生出不尋常的想法和答案。

復旦大學計算機科學技術學院教授、上海市數據科學重點實驗室主任肖仰華則表示，人類與其擔心AI產生意識，不如先去擔心AI過速發展引發失控的風險。他認爲，AI的大規模應用足以從根本上改變人類文明的基本面貌。而AI技術的大規模濫用足以在其發展出意識之前，摧毀一個文明千百次。但人類目前對此所思甚少，更談不上防患未然。

AI大規模應用可能給人類生活帶來哪些具體挑戰？

肖仰華表示，挑戰首先在於我們的生產關係等社會發展上層建築，如何適應以人工智能爲代表的先進生產力的快速發展。他認爲，生成式人工智能技術發展已經需要以月爲單位進行記錄，但是人類的情感、價值、倫理觀念調整是十分緩慢的。如何調和這個矛盾，是我們需要直面的挑戰之一。

其次，技術普惠問題同樣值得關注。肖仰華認爲，如何避免少部分人藉助先進技術形成不正當的競爭優勢需要被關注，此外，還應該特別注意防範技術成癮，防止先進技術對人類造成反噬。

那麼，AI對人類社會是利大於弊，還是弊大於利呢？

凱文·凱利表示，他很明確AI將給人類社會帶來全新的問題，AI可能給人類社會帶來最大的挑戰，甚至比氣候問題還要嚴重。例如未來人可能對人工智能產生強烈的情感依賴，存在潛在風險。

“但AI的發展總體是利大於弊的。”凱文·凱利認爲，過去五百年的普遍趨勢是人類每年創造的價值總要比毀掉的多1%，他預測，人工智能帶給社會的正面影響不會比負面影響多很多，但只要多一點點，就能夠推動社會的進步。

如何加強AI治理？

中國工程院院士吳世忠認爲，AI 治理可以“以史爲鑑”。他表示，人工智能的治理和過去的核控、疾控都是人類發展歷程中的“奧本海默時刻”。在這個過程中，我們作爲人類命運共同體，能夠借鑑的經驗很多，比如國際合作和多邊協議以及透明度和信任機制的建設等。但與此同時，我們也要根據人工智能的特點，更加科學地進行治理。

聯合國人工智能高層顧問機構專家、北京人工智能安全與治理實驗室主任、中國科學院自動化研究所研究員曾毅則強調，人工智能的安全和能力不是相互掣肘的關係，對人工智能的治理並不意味着AI能力的減弱和發展速度的減緩，系統的魯棒性（在面對各種輸入情況時，能夠正確運行且不出現錯誤或崩潰的能力）、自適應與安全也是人工智能的能力。未來，人工智能系統風險防範要從被動式轉變爲主動式，從防禦性轉變爲建設性。此外，人工智能需要從合乎倫理到具有道德。

AI時代如何重新思考人機關係？

“計算機幾十年的發展路程裡，真正的贏家是做人機交互的。不管是什麼技術，最後的目的都是幫助人類更好地使用機器”，香港科技大學校董會主席、美國國家工程院外籍院士沈向洋表示。他認爲，AI爲人類提供了與技術共生的全新語境，人機交互的新方式指向“AI與IA”的融合共進。IA（Intelligent Augmentation），即智能增強，代表着一種以人爲本的 AI 發展路徑。它聚焦於運用技術提升人類的能力，而非取代人類，強調了人類與 AI 之間的協作關係。

肖仰華則表示，隨着腦機接口與AI技術的廣泛應用，機器已經成爲人類的外腦、人類的四肢，人不再是傳統生物意義上的人。他表示，智能時代，人將變成哲學家尼采筆下的“超人”，即自我超越的人。只不過這種自我超越，將是在機器智能等外力工具協助下完成的。

“與之伴隨的是，人與人之間的社會關係也將隨之發生變化，AI將成爲人類從事各種生產和活動的代理。人與機器之間的關係、機器與機器之間的關係，將不可避免地納入到我們對社會關係考察範圍”， 肖仰華說。

人類如何跟AI搶工作?

北京大學助理教授、北大-銀河通用具身智能聯合實驗室主任、智源學者王鶴表示，可能就像馬斯克講的一樣，地球上應該有100億人形機器人，每個人都應該被人形機器人服務，這些人形機器人不是搶了人類的工作，而是爲人類更好地服務。

凱文·凱利則談到，迄今爲止的證據表明，真正因爲AI失去工作的人非常少，整個比例可能在80億人中700個都不到，比起因AI失業，未來更多人的工作角色會因AI發生變化，轉向監督AI，接手AI無法解決的複雜問題。“作爲年輕人要嘗試做用語言解釋不清的工作，比如一項需要你花整整半個小時向你的父親解釋你在做什麼的工作”， 凱文·凱利建議，這意味着這項工作站在了時代的最前端，還沒有完全被定義。

哪些行業可能最先看到AI對它們的影響和變化？

凱文·凱利認爲，金融和醫療領域會最先看到變化，因爲這兩個行業信息密度高。此外，廣告和營銷行業也會是最早受到影響的行業之一。

螞蟻集團總裁兼CFO韓歆毅表示，金融行業已經高度數字化，醫療領域也沉澱了高價值的數據，在這兩個領域，AI能夠針對專業領域做訓練，又具備強大的通識、理解和溝通能力，有機會帶來專業服務的普惠。

如何應對人工智能在產業落地中的不確定性？

機器學習領域的泰斗、美國“三院院士”邁克爾·喬丹談到，人工智能在產業中的落地需要形成互相協作的集體。他認爲，人工智能不僅要在單個設備上體現智能，更要通過協同在整體系統層面上體現智能，比如，現代信息技術在醫療、交通、金融科技和商業領域的應用，需要集體性、去中心化的智能系統，但如今的人工智能並不具備。

邁克爾·喬丹表示，當前的 AI 系統很難表達它真正學到哪些知識，也沒有能力表達它有多確定，他認爲，人類在集體協作時能夠更好地應對不確定性。如何讓AI系統也具備類似的集體協作能力，是一個關鍵問題。