奧特曼談人工智能：進步是不可預測的，也很難監管
鞭牛士報道，5月3日消息，據外電報道，OpenAI聯合創始人兼首席執行官薩姆·奧爾特曼 (SAM ALTMAN) 在劍橋參加了 Xfund 主辦的一系列活動。
他對擠滿紀念教堂聽他講話的一羣學生說：我真的很喜歡那些如果有效的話，就非常重要的事情，即使它們成功的機會並不高。
他解釋了 20 年前，當他還是斯坦福大學的一名本科生時，是什麼吸引他從事人工智能研究，當時這個話題還沒有像今天這樣成爲一股巨大的力量：看起來，如果人工智能能夠發揮作用，它就將是最酷、最重要、最令人興奮的事情。因此，這是值得追求的。
Altman 在劍橋參加了 Xfund 主辦的一系列活動，Xfund 是一家隸屬於哈佛大學和麻省理工學院的早期風險投資公司。
在紀念教堂活動上，哈佛大學保爾森工程與應用科學學院院長戴維·帕克斯向奧特曼頒發了 2024 年Xfund 實驗杯，該獎項旨在獎勵來自世界最好大學的傑出創始人。
活動主持人——Xfund 的管理普通合夥人 Patrick Chung '96、JD-MBA '04，投資了 Altman 的第一家公司——向一千多名興奮的學生示意，他們開始在封閉的環境中排隊參加活動開賽前一小時哈佛庭院。
「他們看着你，他們渴望，他們夢想能像你一樣對世界產生影響，」鍾說。他會給自己這個年紀的自己什麼建議？
「我認爲你可以在這個世界上做一些事情。」奧特曼回答說，他的話語之間有特有的、深思熟慮的停頓。 「你不需要等待，也不需要獲得許可。你可以——即使你在這個世界上完全不爲人所知，幾乎沒有資源——你仍然可以取得驚人的成就。」
一些人批評奧特曼面對先進人工智能的潛在危險而不懈地推動進步。
去年，奧特曼本人簽署了一封信，將人工智能描述爲人類面臨滅絕的風險；他在國會作證時表示，如果這項技術出了問題，它可能會出大問題。
但他對放慢進展能否減輕這些威脅的方法表示懷疑。 20 年前，他從事人工智能研究，並不知道它會成爲今天的技術，而且即使是現在，我們正在做出的最關鍵的決定，我們也沒有意識到它們的重要性。
他繼續說，進步是不可預測的，也很難監管。
「現在，在 OpenAI 的某個地方，有人做出了一些非常重要的發現——我不知道它是什麼，我只知道它會在統計上發生——這可能會極大地影響未來。」他說。 「從表面上看，我完全同意，我們應該感到巨大的責任並做出正確的重大決策，但你並不總是知道那什麼時候會發生。進展的結果纔是應該控制的：決定是否部署 GPT-5，決定門檻應該在哪裡——我們對此非常謹慎。」
關於開發和部署新人工智能的速度的大部分決策權掌握在像 OpenAI 這樣的私營營利性公司手中，而一些人擔心這種權力集中在極少數人手中。這些擔憂在 11 月份蔓延到了 OpenAI 董事會，當時 Altman 被解除了首席執行官職務——部分原因是出於安全考慮——幾天後又恢復了職位。
埃利奧特大學教授、哈佛大學名譽校長拉里·薩默斯在危機後被任命爲新董事會成員，大概是爲了加深其領導經驗。
在演講前接受《哈佛雜誌》和其他出版物採訪時，奧爾特曼談到了私營部門發展人工智能的挑戰。
「我認爲人工智能開發在私營企業中發生是令人興奮的。」他說，「但在不同的時間或不同的世界格局中，它會發生在政府中。既然事實並非如此，政府和行業之間的共同理解就很重要。他說，現在，對於未來幾年人工智能的進展，這兩個羣體之間存在太大差異。」
4 月下旬，Altman 加入了國土安全部的人工智能安全與安保委員會，以幫助促進這些對話。
儘管如此，Altman 在演講中表示，如果他能回到 2015 年，當時他與他人共同創立了 OpenAI，他將把它作爲一家營利性公司開始，而不是像該組織在 2019 年之前那樣作爲非營利組織。
OpenAI網站稱，人工智能需要太多資源，無法通過非營利模式來維持。
隨着向利潤驅動結構的轉變，OpenAI 變得閉源：其底層代碼和實現細節不向公衆公開。這使得學術界的許多人無法研究該模型，研究人員已轉向採取變通措施，例如分析 ChatGPT 輸出中的模式。
在回答《哈佛雜誌》關於這些挑戰的問題時， Altman 表示 OpenAI 已經開展了學術合作：舉個例子，我們爲學術研究人員提供了訪問 GPT-4 基本模型權重的權限，儘管目前還沒有公開的信息。但尋找與學術界合作和解鎖學術界的方法似乎非常重要，因爲沒有更好的詞來形容。
學院中一些人尋求解決的一個問題是人工智能模型如何產生輸出。 ChatGPT 的內部機制目前尚不清楚，儘管學術研究人員正在研究這個問題，但特別是對於閉源的 ChatGPT 來說，這樣做很困難。一些人認爲，在開發自主模型或在醫療保健等高風險環境中應用人工智能之前，瞭解這些機制非常重要。
「我們正在追求它。我沒有任何具體信息，比如，我們已經破解了它。」Altman 向《哈佛雜誌》談到 OpenAI 是否也在研究這個問題時說道。但完全理解”ChatGPT 如何產生輸出可能不是一個可行的目標。
他說：我認爲我們可以以重要的方式理解這些系統嗎？是的，我可以說我們能夠準確理解每個人工神經元在做什麼嗎？我不知道。但我什至不確定這是否是值得關注的正確問題。
與此同時，利潤動機繼續推動進步。奧特曼在紀念教堂的談話結束後，他聽取了八個由哈佛和麻省理工學院學生組成的團隊的演講——從近千份提交的材料中預先選出——作爲贏得 Xfund 10 萬美元投資的競賽的一部分。