真相｜造神：人工智能神話的起源和破除

圖片

老正按：在AI神話炙手可熱的當(dāng)下，對于任何想要看清AI真相，不愿向“AI神明”臣服的人來說，美國計算機科學(xué)家埃里克·拉森的《造神：人工智能神話的起源和破除》一書都能提供深刻啟發(fā)，助你一臂之力。

今天這篇文章節(jié)選自作者為這本書的寫的前言和本書的主要觀點介紹。

在這本書里，你將讀到關(guān)于人工智能的神話。人工智能的神話認為人工智能的到來是必然的，這只是時間問題——我們已經(jīng)踏上了這條道路，它通往人類水平的人工智能，然后通向超級智能。在媒體專家和以埃隆?馬斯克（Elon Musk）為代表的思想領(lǐng)導(dǎo)者，甚至許多所謂的人工智能科學(xué)家的宣傳下，人工智能的必然性已經(jīng)在大眾的討論中根深蒂固，而反對者也常被當(dāng)作盧德主義者①，至少被認為是用短淺的目光看待科技的未來，或是未做好進入智能機器世界的準(zhǔn)備的人。

正如我要在本書中展現(xiàn)的，人工智能關(guān)乎智能的核心奧秘，現(xiàn)在還沒有人知道如何解答它。人工智能的支持者們躊躇滿志，要把它已知的局限性減到最小。畢竟，人工智能是一樁大事，在文化領(lǐng)域中的地位也在不斷提升。然而，無論我們承認與否，我們目前對智能本質(zhì)的了解程度限制了未來人工智能系統(tǒng)的可能性。在此，我們應(yīng)該坦率地說：所有證據(jù)都顯示，人類和機器的智能是完全不同的。人工智能神話的擁躉者們堅持認為，這種差異只是暫時的，終將被更強大的人工智能系統(tǒng)抹去。未來學(xué)家雷?庫茲韋爾（RayKurzweil）以及哲學(xué)家尼克 ?波斯特洛姆（Nick Bostrom） 等人都是這個神話的大力宣揚者。他們聲稱人類水平的人工智能一定會出現(xiàn)，而且隨著它的出現(xiàn)，人類將被超級智能機器遠遠地甩在后面。

這本書闡述了人工智能神話的兩個重要方面，一個是科學(xué)方面，一個是文化方面。在科學(xué)方面，這個神話認為，我們只需通過在狹隘的特定領(lǐng)域中取得進步，比如做游戲或圖像認知，就能找到通用智能的突破口。這是個嚴重的錯誤：

在狹義的應(yīng)用上取得的成功無法拉近我們和通用智能之間的距離。有人推斷，人工智能系統(tǒng)需要通用智能來閱讀報紙，進行基本的對話，或成為家庭喜劇動畫片《杰森一家》里的機器人羅西那樣的伙伴——以我們現(xiàn)在對人工智能的了解，這些都無法被程序化、被學(xué)習(xí)或被設(shè)計。受益于運算速度更快的計算機和海量的數(shù)據(jù)，人工智能也有了更簡單、更狹隘的版本。我們成功地使用這種人工智能時，并沒有在逐漸進步，而是在摘取低處的果實。而跳躍到通用智能是一件截然不同的事，也沒有人知道從一處通往另一處的道路。通用智能中不存在算法。我們也沒有足夠的理由猜測，通過進一步研究深度學(xué)習(xí)系統(tǒng)或現(xiàn)在流行的其他任何方式，算法就會出現(xiàn)。它更可能需要重大的科學(xué)突破，而我們目前對這種突破一無所知，更別談具體獲得的途徑了。

人工智能的神話不是好事，因為它無休止地談?wù)摮掷m(xù)的進展，掩蓋了科學(xué)中的奧秘。這個神話倡導(dǎo)人們相信必然的成功，然而對科學(xué)真正的敬意會把我們帶回原點。這將帶我們進入人工智能神話的文化層面，即人工智能神話對文化的影響。追尋這個神話對科學(xué)不利，也對我們不利。為什么呢？原因之一是，如果我們選擇忽視智能的核心奧秘而不是面對它，我們就很難取得創(chuàng)新。健康的創(chuàng)新文化強調(diào)探索未知，而非宣揚現(xiàn)有方法的擴展——尤其當(dāng)這些方法已經(jīng)明顯不足以讓我們走得更遠時。人工智能必將成功的神話容易抹殺取得真正進步（無論這種進步中是否包含人工智能）所需的創(chuàng)造性文化。這個神話還鼓動人們聽任機器在各個領(lǐng)域蔓延，在那些領(lǐng)域，真正的發(fā)明被邊緣化，取而代之的是鼓吹未來主義的言論，而這些言論往往來自既得利益者。

誰應(yīng)該讀這本書？當(dāng)然是所有既對人工智能感到興奮不已又想知道它為何總是離我們有十幾年到二十幾年之遙的人。如果你認為人工智能發(fā)展為超級智能是必然的，又不知道那天到來時該做些什么，那你也應(yīng)該讀這本書。我無法確定人工智能是否會在某一天主宰世界，但我會給出理由，讓你大大降低對這個情景的預(yù)期。總而言之，如果你只是對社會上圍繞人工智能鋪天蓋地的宣傳感到好奇而又心存疑惑，那你就應(yīng)該讀這本書。我將解釋人工智能神話的起源，我們對于真正達到人類水平的人工智能的前景的已知和未知，以及我們?yōu)槭裁匆由羁痰乩斫馕覀兡壳八摹⑽ㄒ徽嬲闹悄堋覀冏陨淼闹悄堋?/p>

圖片

關(guān)于本書

在第一部分“簡化的世界”中，我將解釋人工智能文化如何簡化與人有關(guān)的想法，擴展與科技有關(guān)的想法。這一想法始于“人工智能之父”艾倫?圖靈（Alan Turing）的觀點，其中包含的“簡化”易于理解但并不成功，我稱之為“智能的錯誤”。1965年，英國數(shù)學(xué)家1.J.古德（I.J.Good）則提出了“超級智能機器”的概念。他認為，一旦一臺機器的智能水平遠超人類的智能水平，“智能爆炸”就是可預(yù)見的結(jié)果。

在圖靈和古德兩人之間，人工智能的現(xiàn)代神話逐漸形成。它的發(fā)展把我們帶人了一個被我稱為技術(shù)媚俗的時代。這種對深層思想的膚淺模仿，隔絕了智能，也削弱了文化。“媚俗”左右我們的思考和感受；“媚俗” 為提供者帶來利益，使消費者蒙受損失：“媚俗”使我們落入一個膚淺的世界。

在第二部分“推理的問題”里，我認為只有一種推理的形式——思考——對人類水平的人工智能有用。然而，關(guān)于推理，我們完全不知道如何規(guī)劃和設(shè)計。推理的問題之所以成為人工智能的爭論焦點，是因為它和智能直接相關(guān)，無論人類智能還是機器智能。我們所擁有的不同類型的推理的知識源于亞里士多德和其他古希臘人，并在邏輯和數(shù)學(xué)的領(lǐng)域里發(fā)展起來。我們通常用形式化的符號系統(tǒng)來描述推理，就像計算機程序的運行一樣。因此，通過探究推理，我們將對設(shè)計智能的課題有一個清晰的認識。推理有三種形式：經(jīng)典人工智能探索過的演繹推理、現(xiàn)代人工智能探索過的歸納推理、有助通用智能的發(fā)展卻少有人研究的溯因推理。三種形式的推理互不相同，且無法互相轉(zhuǎn)化，因此如果用來構(gòu)建人工智能系統(tǒng)的推理形式無法支撐通用智能，那么實現(xiàn)通用人工智能（Artificial General Inteligence,AGI）也將遙遙無期。

在第三部分“神話的未來”里，我認為，人工智能的神話會顛覆科學(xué)。把“神話”當(dāng)真，導(dǎo)致的糟糕后果將侵蝕人類智能和創(chuàng)新文化——而創(chuàng)新文化正是我們了解自己未來所必需的突破口。數(shù)據(jù)科學(xué)（人工智能在“大數(shù)據(jù)”中的應(yīng)用）充其量只是人類智能的假體，如果使用得當(dāng)，它能幫助我們應(yīng)對現(xiàn)代“數(shù)據(jù)洪流”；如果用來代替人類智能，它很可能吞噬掉大量的投入，卻無法得到我們想要的結(jié)果。我特別解釋了在一些近期的科學(xué)研究中，人工智能的神話如何對神經(jīng)科學(xué)的研究產(chǎn)生負面影響—我們正在為這個神話付出高昂的代價。為了人類自身的美好前景，既然我們沒有充足的科學(xué)理由接受這個神話，那么我們就有足夠的理由拒絕它，所以我們需要從根本上重新思考有關(guān)人工智能的討論。

圖片

目錄

第一部分：簡化的世界

第一章 智能的錯誤
第二章 圖靈在布萊切利園
第三章 超級智能的錯誤
第四章 奇點、過去和現(xiàn)在
第五章 自然語言理解
第六章 技術(shù)媚俗
第七章 簡化與謎團

第二部分：推理的問題

第八章 別計算，要分析
第九章 皮爾士的謎題和困惑
第十章 演繹和歸納的問題
第十一章 機器學(xué)習(xí)和大數(shù)據(jù)

第十二章 溯因推理
第十三章 推理與語言
第十四章 推理與語言

第三部分：神話的未來

第十五章 神話和英雄
第十六章 人工智能神話入侵神經(jīng)科學(xué)
第十七章人類智能的新皮層理論
第十八章 科學(xué)的終結(jié)？

注｜①在19世紀初英國工業(yè)革命期間，受機械化沖擊而仇視、破壞機器，進而反對工業(yè)革命的人被稱為盧德主義者，后引申為仇視一切新奇的發(fā)明及科技進步的人。——譯者注