美媒：美國務院委託撰寫的報告警告，AI可能對人類構成“滅絕級”威脅

來源：環球網

【環球網報道】根據美國有線電視新聞網（CNN）當地時間12日報道，美國國務院委託撰寫的一份報告於本週發佈，報告中警告，AI可能對人類構成“滅絕級”威脅，美國必須進行干預。

據CNN介紹，這份報告由專注於AI領域的公司Gladstone AI撰寫，該公司爲美國政府高層提供關於AI機遇和風險的諮詢和報告。美國國務院一名官員向CNN證實，其所在機構委託撰寫了這份報告，但報告不代表美國政府的觀點。

報道說，這份報告基於一年多以來對200多人的採訪得出，採訪對象包括來自領先AI公司的高管、網絡安全研究人員、大規模殺傷性武器專家和政府內部的國家安全官員。報告明確提到，最先進的AI系統在最糟糕的情況下可能會“對人類物種構成滅絕級的威脅”。

CNN稱，首先，報告提到，最先進的AI系統可能被用作武器，造成潛在的、不可逆轉的破壞；其次，報告稱AI實驗室內也存在擔憂，擔心對開發的系統“失去控制”，可能對全球安全造成“潛在的毀滅性後果”。“AI和AGI(通用人工智能)的興起有可能以類似引入核武器的方式破壞全球安全，”報告稱，在AI方面存在着“軍備競賽”、衝突和“與大規模殺傷性武器相當的致命事故”的風險。

CNN說，報告爲此呼籲採取措施來應對這一威脅，包括成立一個新的AI方向的機構，實施“緊急”監管保障措施，並限制用於訓練AI模型的計算機能力。“美國政府顯然迫切需要干預。”報告稱。

“AI已經是一項經濟上具有變革性的技術。它可以幫助我們治癒疾病，實現科學上的發現，並克服我們曾認爲不可逾越的挑戰。”Gladstone AI聯合創始人兼首席執行官（CEO）傑雷米•哈里斯12日告訴CNN，“但它也可能帶來嚴重的風險，包括災難性的風險，這是我們需要注意的，”“越來越多的證據——包括在世界頂級AI會議上發表的實證研究和分析——表明，超過一定的能力閾值，AI可能會變得無法控制。”

CNN提到，白宮發言人羅賓•帕特森表示，美國總統拜登關於AI的行政命令是“全球任何政府爲抓住AI的潛力和管控AI的風險所採取的最重要行動”，美國將繼續與國際夥伴合作，並敦促國會通過兩黨立法來管控風險。