AI教父示警:AI威脅勝氣候變遷

辛頓曾經在Alphabet工作10年,但最近已從谷歌辭職。他在受訪時提到,氣候變遷很容易提供建議,但對於AI帶來的威脅,卻不知該從哪裡着手。

針對生成式AI掀起的衝擊和挑戰,美國政府擬提出政策,規範聯邦機構取得及使用AI系統方式。此舉將大大影響AI產品市場,對美國民衆在政府官網、安全檢查站等環境與AI互動進行管控。

按照白宮規劃,由美國國家科學基金會(National Science Foundation)出資1.4億美元,成立七座AI研發中心,尋求運用AI技術解決氣候變遷、農業、公共衛生等問題。白宮在4日AI會議召開前夕公佈此計劃,當天副總統賀錦麗與谷歌母公司Alphabet、微軟、ChatGPT開發商OpenAI、AI新創公司Anthropic等企業的執行長會面。

拜登政府號召科技業者召開AI會議,旨在降低與AI相關的安全風險。白宮官員列舉公衆廣泛採用AI工具面臨的風險,包括利用AI產生的深僞技術(deepfake)、摧毀民主過程的假訊息。

此外,伴隨自動化興起而來的失業問題、演算法偏見形成的決策、自駕車對身體的危害及AI駭客的惡意威脅等,都在白宮的憂慮之列。

根據白宮發佈的會議聲明,賀錦麗提醒科技業者,他們有倫理道德及法律上的責任,確保其AI產品的安全性。美國行政管理和預算局計劃在未來數月內,公佈AI技術使用指南,讓企業在佈局AI技術研發上有所依循。