大模型開不開源,硅谷大佬激辯: 一方談科學進步,另一方提美國安全

3月8日消息,風投界的兩位巨頭,馬克·安德森(Marc Andreessen)和維諾德·科斯拉(Vinod Khosla),近期在X平臺激烈辯論人工智能應該開源還是閉源,此議題迅速成爲硅谷最具爭議的焦點之一。

安德森等人強烈支持開源人工智能,他們認爲共享知識是科學進步的關鍵,提高透明度能夠防止大公司壟斷這項革命性技術。而科斯拉等閉源人工智能的支持者認爲,讓私營部門掌握人工智能技術,是防止濫用和潛在風險的有效方法。

開源人工智能意味着技術將對公衆免費開放,以促進共同的建設和分享。而閉源或專有人工智能則被其創作者控制,不對外公開。儘管二者看似對立,實則可以和諧共存。例如,許多公司在開源代碼的基礎上發展出自有的專有系統。

此場辯論起因於特斯拉CEO埃隆·馬斯克(Elon Musk)對OpenAI及其CEO薩姆·奧特曼(Sam Altman)的起訴,凸顯了人工智能的部署和安全問題的複雜性,特別是在監管機構、大型科技公司和科學家等對人工智能的發展邊界和速度仍在探索時,想要找到明確的答案何其艱難。

在人工智能是否應該開源的爭論中,身處漩渦中心的科技巨頭們已經明確了各自的立場。Meta堅定支持開源人工智能,發佈了Llama 2模型供全球開發者使用和改進。緊隨其後的是法國Mistral AI,發佈了具有開放“權重”的模型,即模型運作的核心參數。

然而,行業領頭羊OpenAI和Anthropic採取了完全不同的策略,他們提供的是閉源人工智能模型,並堅持把技術牢牢控制在自己手中。

在這場辯論中,安德森於上週六通過社交媒體X發帖。他指責科斯拉正在“遊說禁止開源”。這發生在科斯拉公開支持OpenAI及其CEO奧特曼之後。而他的支持是在馬斯克對OpenAI提起訴訟之後表達的;馬斯克指責奧特曼和OpenAI違背了公司創立時的原則,把追求利潤放在了開源人工智能之前。

作爲科斯拉風投公司(Khosla Ventures)的創始人,科斯拉不僅支持OpenAI的盈利性業務,還聲稱,人工智能就如同核武器一旦開源將可能威脅到國家安全。他甚至引用了OpenAI首席科學家伊利亞·蘇茨凱弗(Ilya Sutskever)的話說,“不分享科學也是完全可以的。”

科斯拉風投公司的一位發言人進行了解釋。他說,科斯拉確實曾支持開源技術。然而,科斯拉現在認爲,大型人工智能模型“關乎國家安全和技術”優 勢,這些模型需要得到嚴密保護,不應輕易開源。

安德森所在的安德森-霍洛維茨(Andreessen Horowitz)風投公司對此次開源與閉源的辯論保持緘默,對評論請求沒有給出迴應。

雙方雖立場對立,但均認同一個觀點:驅動ChatGPT等AI工具的大語言模型仍處於成長階段。ChatGPT與其他人工智能工具面臨的問題衆多,包括產生幻覺性輸出、偏見性結果,甚至有潛力輸出有害或攻擊性內容。此外,這些模型的應用和訓練成本高昂,還會消耗大量能源。

開源支持者認爲,正是這些技術的未成熟,更加凸顯了開源的重要性。他們認爲,只有在科學家和學者組成的開放的科研社區內,才能排除商業利益的干擾,共同推進通用人工智能的發展,最終實現機器能夠如同人類一樣學習和思考。

艾倫人工智能研究所(Allen Institute for AI)的首席執行官阿里·法哈迪(Ali Farhadi)表示:“我們現在正處在一個關鍵節點,大規模部署了一項我們尚未完全理解的技術,也不知道如何有效控制這些系統。”該研究所由已故微軟聯合創始人保羅·艾倫(Paul Allen)於2014年創立,是一個致力於人工智能研究的非營利機構。

法哈迪及其他支持開源的人士強調,共享研究成果是科學界的長久傳統。人工智能的發展不是從2017年穀歌分享的“轉換器”(Transformer,GPT中的T)模型開始的,其背後有更深遠的歷史。

同時,一些美國議員則支持科斯拉的觀點,他們擔心自由分享的人工智能技術可能落入國外競爭對手手中,因此認爲應該加以保護。許多主張閉源的人工智能公司也持有相似立場,認爲這種技術可能對人類生存構成威脅,可能帶來災難性後果。

奧特曼也強調,OpenAI高度重視其在開發人工智能方面的安全責任,堅信應該小心謹慎。他同時承認,人工智能爲企業帶來了巨大商業機會。

回顧歷史,軟件行業的開源運動,自Linux等項目興起後蓬勃發展,爲當前開放與封閉的辯論提供了豐富的歷史借鑑。開源軟件已成爲包括雲計算在內的衆多技術領域的基石,其商業化甚至促成了亞馬遜等科技巨頭的誕生。然而,開源軟件也面臨着網絡安全挑戰,因爲任何人都能輕易下載和修改代碼。

專家們指出,封閉和開源技術並不是相互排斥的,兩者可以並行發展。Meta負責生成人工智能的副總裁艾哈邁德·達勒(Ahmad Al-Dahle)就認爲,把開源和封閉視爲二選一的對立選擇是誤導,實際上兩者各有其發展空間。

人工智能初創公司AI21的聯合創始人兼聯席CEO奧裡·戈申(Ori Goshen)也分享了相似觀點,他認爲,“開源在人工智能領域扮演着至關重要的角色。即便是像AI21這樣的專有供應商,其基礎模型最終也可能開源,商業價值將來源於獨特的知識產權。”(小小)