前OpenAI高管：當前人工智能面臨三大障礙

鞭牛士報道，10月26日消息，據福布斯報道，人工智能未來學家、OpenAI 前市場負責人扎克·卡斯 (Zack Kass)表示，在後臺運行的人工智能將使我們能夠像人與人之間互動一樣輕鬆地與機器和應用程序進行互動。

「我預測，在取得重大進展之前，事情會變得很奇怪。」卡斯說。「我們必須接受這一點。所有進步都有代價。但在這個轉變過程中，我們需要開始準備的最有趣的事情之一是理解技術門檻和社會門檻的概念。」

他解釋道，技術門檻只是在問機器能做什麼？社會門檻則在問我們想讓機器做什麼？或者我們願意讓它做什麼？

與此同時，他警告稱，有三個障礙可能會減緩或阻礙進步：人類對失去控制的恐懼、對人工智能風險的不合理看法以及對機器故障的低容忍度。

這些挑戰與自動駕駛汽車的興起息息相關，卡斯認爲自動駕駛汽車是人工智能應用的風向標。正如奧的斯電梯在 19 世紀末和 20 世紀初努力緩解人們對電梯的恐懼一樣，人們對自動駕駛汽車也抱有同樣的恐懼和厭惡。

他說：在自動駕駛汽車領域，我認爲我們即將解鎖一種令人難以置信的理解，即我們如何看待與人工智能相關的技術。

他指出了自動駕駛汽車（以及人工智能）面臨的三大挑戰。

第一，失去控制。 「人類喜歡控制。」他解釋道。「我們喜歡坐進車裡，把腳踩在油門上，轉動方向盤，控制這臺龐大的機器。」

第二，不成比例的恐懼。 「在美國，害怕飛行的人比害怕開車的人多 15 倍。」卡斯說。「飛行從經驗上來說是安全的，而開車從經驗上來說是危險的。此外，人們並不瞭解自動駕駛汽車有多好。大多數人不知道，今天，亞利桑那州將有 5 萬人駕駛自動駕駛汽車，不會發生事故。灣區則有 1 萬人。」

第三，對機器故障的容忍度低。 「人類對人爲故障的容忍度極高，而對機械故障則完全沒有容忍度。」他觀察到。「這就是爲什麼每年有 20,000 人死於醉酒駕駛，我們非常願意說，這只是做生意的成本。但如果一輛自動駕駛的特斯拉汽車轉向錯誤的車道，每個人都會要求關閉該項目。」

他補充說，對機器或人工智能保持更高的標準並不一定是壞事。「這就是爲什麼我所在的大樓永遠不會倒塌，這就是爲什麼我們駕駛的飛機不會從天上掉下來。而且，飛行從未像今天這樣安全。我們正在爲我們的機械系統構建如此多的穩健性。我們對這些技術的交付抱有非常高的期望。」

卡斯表示，現在的情況是，技術已經超越了人類應對它的能力。以奧的斯電梯爲例，人們害怕乘坐電梯，但該公司以人性化的方式做出迴應——音樂、鏡子和人工電梯操作員。“這招奏效了。人們開始使用電梯。技術門檻已經達到，社會門檻的模擬調整也隨之更新。”

同樣，隨着我們看到解決方案中加入了更多人性化元素，人們對人工智能的恐懼或困惑也會逐漸減少。例如，有代理人工智能，或自主代理。「我們將爲人工智能分配任務或目標，並讓這些系統在我們的應用程序和瀏覽器上執行任務和目標。想象一下，我們不再依賴手機上的 100 或 150 個應用程序。」

自然語言操作系統正在推動這一進程，卡斯解釋道，「我們將進入一個以人與人互動的方式與機器互動的世界。原因在於我們今天所處的數字鴻溝。我們設計的系統（如個人電腦）實際上並不是第二天性。你必須花大量時間熟悉機器，才能充分發揮其潛力。」

卡斯表示，即使是谷歌關鍵詞搜索對某些人來說也不是很明顯。 「ChatGPT 讓我們首次看到了未來的世界，你可以像與他人互動一樣與機器互動。我們認爲自然語言操作系統可能會在未來 10 年或 15 年內問世，它將從這種尷尬的與機器的交流轉變爲一種更自然的交流。」