聯邦與智庫共研AI 國會兩黨質疑不透明 常以保密做藉口

國會議員質疑「國家標準與科技研究院」與智庫「蘭德公司」的夥伴關係。（路透）

商務部轄下「國家標準與科技研究院」(NIST)計劃與智庫「蘭德公司」(RAND Corp)建立研究人工智慧(AI)的夥伴關係，結果遭到衆院科學委員會兩黨重量級成員提出缺乏透明化的質疑。蘭德公司具有龐大影響力，與科技圈億萬富豪、人工智慧產業及引發爭議的「有效利他主義」(effective altruism)運動均有密切關係。

Politico新聞網站報導，衆院科學委員會六名兩黨成員12月14日致函國家標準與科技研究院，除了譴責作業不夠透明化，還批評新成立的美國「AI安全研究院」(U.S. AI Safety Institute)競爭激烈的研究贊助申請過程竟然沒有公佈。

衆院科學委員會兩黨成員對國家標準與科技研究院提出警告說，必須特別小心外部團體進行AI安全研究的品質，因爲這些研究經常「用保密做爲掩護藉口」、「沒有提供證據支持其說詞」，經常不符合基本定義或基本原。

衆院科學委員會共和黨籍主席魯卡斯(Frank Lucas)、資深成員民主黨籍加州聯邦衆議員羅芙根(Zoe Lofgren)等人在信中寫道，國家標準與科技研究院與蘭德公司之間的夥伴關係不應該倉促推出，卻犧牲了正確行事。

隸屬於商務部的國家標準與科技研究院是曝光率並不高的機構，在拜登總統的AI計劃裡卻扮演重要角色。白宮今年10月發佈行政命令，授權國家標準與科技研究院成立「AI安全研究院」。

報導指出，國家標準與科技研究院資源相當有限的問題衆所周知，幾乎可以確定必須依靠外部研究人員承擔日漸成長的研究任務。

國家標準與科技研究院並未公開宣佈將透過「AI安全研究院」發放研究贊助經費給哪些團體，但有研究人員及主要科技公司決策主管透露，蘭德公司是獲得研究經費的其中之一。

衆院科學委員會成員在信中指出，蘭德公司日前公佈一項先進AI模型可能存有生物安全威脅的研究報告，但研究結果並未通過學術同僚審查。

許多AI及生物安全研究人員說，蘭德公司執行長馬西尼(Jason Matheny)與資深資訊科學家阿爾史托特(Jeff Alstott)都信奉「有效利他主義」，認爲過度強調AI與生物科技，恐將引發災難危機。