OpenAI員工發公開信 警告AI存在“嚴重風險”、缺乏監管

6月5日消息，美國時間週二，人工智能初創企業OpenAI的多位在職及離職員工聯名發表了一封公開信，表達了對人工智能行業快速發展中的潛在風險的擔憂。他們警告稱，人工智能領域存在“重大風險”，同時缺乏必要的監管，並且對那些願意發聲的人缺乏舉報人保護。

這些員工在信中指出：“人工智能公司存在強烈的財務動機來規避有效監管，我們認爲現有的公司治理結構不足以改變這一現狀。”

OpenAI、谷歌、微軟、Meta等公司正在人工智能的競爭中搶佔先機，預計該市場在未來十年內將突破1萬億美元。各行各業的公司都急於引入AI驅動的聊天機器人和智能代理，以免在競爭中落後。

這些員工進一步說明，人工智能公司掌握了大量的非公開信息，包括其技術的能力、已實施的安全措施以及該技術可能導致的不同類型的風險。

“我們也清楚這些技術所帶來的嚴重風險，”他們寫道，並補充說，“目前這些公司僅對政府有限度的信息披露義務，對民間社會則無任何義務。我們認爲不能依賴它們會自願分享這些信息。”

此外，這封公開信還詳細描述了這些員工對於人工智能行業中舉報人保護不足的擔憂，他們認爲在缺乏有效政府監督的情況下，員工處於向公司追責的獨特位置。

“廣泛的保密協議阻止我們表達擔憂，只能向那些可能未能解決這些問題的公司反映，”信中的簽名者寫道，“傳統的舉報人保護措施不足，因爲它們主要關注非法行爲，而我們關注的許多風險還未受到監管。”

他們在信中呼籲人工智能公司承諾不簽訂或執行貶低性保密協議；建立匿名機制，讓在職和離職員工能向公司董事會、監管機構及其他相關方表達擔憂；支持開放批評的文化；以及在內部報告機制失效時，不對公開揭露問題的人進行報復。

這封公開信由四名匿名的OpenAI在職員工和七名離職員工簽署，離職者包括丹尼爾·科科塔伊洛（Daniel Kokotajlo）、雅各布·希爾頓（Jacob Hilton）、威廉·桑德斯（William Saunders）、卡羅爾·溫賴特（Carroll Wainwright）和丹尼爾·齊格勒（Daniel Ziegler）。此外，簽名者還包括曾在谷歌DeepMind工作的拉瑪娜·庫馬爾（Ramana Kumar）以及目前在谷歌DeepMind工作、之前曾在Anthropic工作的尼爾·南達（Neel Nanda）。值得一提的是，三位在人工智能領域享有盛譽的計算機科學家——傑弗裡·辛頓（Geoffrey Hinton）、約書亞·本吉奧（Yoshua Bengio）和斯圖爾特·羅素（Stuart Russell）也對此信表示支持。

OpenAI的發言人表示：“鑑於人工智能技術的重要性，我們堅信認爲開放和嚴格的辯論非常關鍵。我們將繼續與全球的政府、民間社會及其他社羣進行交流。”該發言人還強調，OpenAI已經設立了一條匿名誠信熱線，並擁有一個由董事會成員和OpenAI領導層組成的安全委員會。

OpenAI的爭議越來越大

今年5月，OpenAI撤銷了一項頗具爭議的決策，該決策原本要求離職員工選擇簽署一份永久有效的非貶低協議，以保留他們在公司的股權。

一份發送給每位離職員工的備忘錄指出，離職時，“你可能被告知需要簽署一份包含非貶低條款的通用釋放協議，以保留你的股權。”

對此，OpenAI的一位發言人當時向CNBC表示：“我們非常遺憾現在才更改這些措辭；它們並未能真實反映我們的價值觀或我們渴望建立的公司形象。”

今年5月，隨着OpenAI聯合創始人兼首席科學家伊利亞·蘇茨凱弗（Ilya Sutskever）及其下屬高管簡·雷克（Jan Leike）的離職，該公司決定解散其專注於研究人工智能長期風險的團隊。儘管該團隊成立僅一年，部分成員正被重新安排至公司內的其他團隊。

雷克在X上發帖稱，OpenAI的“安全文化和流程已讓位於引人注目的產品。”

OpenAI首席執行官薩姆·奧特曼（Sam Altman）在X上表示，他對雷克的離開感到遺憾，並表示公司還有很多工作要做。不久後，OpenAI聯合創始人兼總裁格雷格·布羅克曼（Greg Brockman）也在X上發表聲明，聲稱該公司正在“提高對通用人工智能（AGI）風險和機遇的認識，以便全球更好地做好準備。”

雷克在X上的帖子中寫道：“我加入OpenAI是因爲我認爲這裡是世界上進行這項研究的最佳地點。然而，長期以來，我一直與OpenAI的領導層在公司的核心優先事項上存在分歧，直到最終達到了分歧的頂點。”

他表示，公司應將更多精力放在安全、監控、準備工作及其對社會的影響上。

“這些問題很難解決，我擔心我們不在正確的軌道上。”他寫道，“在過去幾個月中，我的團隊一直在逆風中艱難前行。我們常常爲了爭取計算資源而掙扎，進行關鍵研究的難度越來越大。”

雷克還表示，OpenAI必須成爲一家“以安全爲首的通用人工智能公司”。“構建比人類更聰明的機器本身就充滿危險，”他寫道。“OpenAI肩負着代表全人類承擔這一巨大責任。但在過去幾年中，安全文化和流程已逐漸被追求光鮮的產品所取代。”

幾個月前，OpenAI經歷了一場涉及奧特曼的領導層危機。去年11月，OpenAI董事會宣佈罷免奧特曼，並在一份聲明中指出，他在與董事會的溝通中“並未始終保持坦誠”。

此事的複雜性逐日增加，多家媒體報道稱，蘇茨凱弗一直專注於確保人工智能不會對人類造成傷害，而奧特曼等人則更熱衷於推動新技術的快速發展。

奧特曼的離職引發了公司內部的一系列動盪，幾乎所有OpenAI員工都簽署了公開信，而微軟等投資者也反應強烈。不到一週，奧特曼重返公司，而投票罷免他的董事會成員海倫·託納（Helen Toner）、塔莎·麥考利（Tasha McCauley）和蘇茨凱弗則相繼離開了公司。儘管蘇茨凱弗當時留在了公司，但他不再擔任董事會成員。同時投票罷免奧特曼的亞當·德安吉洛（Adam D’angelo）則繼續留在了董事會。

今年5月，OpenAI推出了新的人工智能模型和ChatGPT的桌面版本，同時更新了用戶界面和音頻功能，這是該公司擴大其廣受歡迎的聊天機器人使用範圍的最新努力。然而，在OpenAI首次推出這一系列音頻功能僅一週後，該公司宣佈將撤回其中一款名爲“Sky”的聊天機器人聲音。

“Sky”的聲音因其與好萊塢女星斯嘉麗·約翰遜（Scarlett Johansson）在人工智能電影《她》中的聲音極爲相似而引發爭議。這位好萊塢明星聲稱OpenAI未經授權使用了她的聲音，儘管她曾明確拒絕讓該公司使用。（小小）