![]()
“他像逝去的白晝般降臨,而黑夜隨他侵入我們的未來。”
一、房間里最聰明的人甘拜AI下風(fēng)
,當(dāng)時(shí)chatgpt-o3模型剛剛發(fā)布。 在訪談的最后,記者問他,“在(未來)這個(gè)人類不再最聰明的世界中,他是否感到威脅?哪怕不是為自己,而是為你兒子?”
奧特曼直接說,“你現(xiàn)在覺得自己比o3聰明嗎?我不覺得……但我完全不擔(dān)心,我猜你也一樣。”
在這個(gè)人類不再是最聰明的世界里,你是否會(huì)感到威脅?奧特曼的說法,可能不那么令人信服,或者很難“不擔(dān)心”。
泰勒·考恩(Tyler Cowen)通常是房間里最聰明的那個(gè)人。稱他為無所不知的人,他甚至有一個(gè)綽號叫“人形GPT”。
作為喬治梅森大學(xué)經(jīng)濟(jì)學(xué)教授、《紐約時(shí)報(bào)》專欄作家,他主持的播客是全美下載量最高的經(jīng)濟(jì)類節(jié)目之一。每當(dāng)他開口,無論談什么話題,四周的人都會(huì)停下來認(rèn)真記錄。
這兩年,很多人都在討論“中間、中層、中等、中產(chǎn)”階層的消失。這個(gè)觀察,其實(shí)主要來自于考恩十幾年前出版的一本書,《再見,平庸時(shí)代》。書中他準(zhǔn)確預(yù)言了這個(gè)趨勢,給出了背后的邏輯。
![]()
泰勒·考恩
就是這樣一個(gè)人,在不久前的一次對話中承認(rèn),“頂級AI模型是比我更好的經(jīng)濟(jì)學(xué)家。”在回答經(jīng)濟(jì)學(xué)問題這件事上,他已經(jīng)被機(jī)器超越了。他補(bǔ)充道:“我實(shí)際上無法難倒它們。我也感到寬慰,因?yàn)槲也槐叵襁^去那樣頻繁地咨詢同事了。”
考恩還發(fā)過一條推文:"那些對AI最近的發(fā)展沒有感到一點(diǎn)士氣低落的人,在很大程度上我已經(jīng)不信任他們了。"換句話說,考恩認(rèn)為,這些人對正在發(fā)生的事情處于迷霧之中,因此無法信任他們的判斷。
不過,這句話的另一層含義是,如果一個(gè)人真的了解AI的進(jìn)展,那么他一定會(huì)對自己作為一個(gè)人,而感到士氣低落,或者說感到壓力或威脅。
也收到了很多媒體的轉(zhuǎn)載。但是,也有人認(rèn)為,這篇文章是在制造焦慮。那只能用考恩的話來回答,就是如果你沒有感到一點(diǎn)焦慮或者危機(jī)感的話,那真的就是還不知道發(fā)生了什么,更無從應(yīng)付接下來的沖擊和危機(jī)。
有一個(gè)更重大的現(xiàn)實(shí),科技圈外的人——甚至許多圈內(nèi)人,似乎還未參透。AI不僅僅是可能會(huì)搶走你的工作、讓數(shù)百萬人依賴救濟(jì)、或者提供無限的免費(fèi)軟件。它是自人類有記載的歷史以來,人類第一次不再是(或很快將不再是)這個(gè)星球上最有智能的生物,無論從哪個(gè)實(shí)際的功能性維度來衡量。
美國經(jīng)濟(jì)學(xué)家兼知名博主Noah Smith諾阿·史密斯最近發(fā)表了一篇文章,《你已經(jīng)不再是地球上最聰明的存在了》,把普通人的焦慮和危機(jī)感上升到了一個(gè)新的高度。他認(rèn)為,AI帶來的不只是就業(yè)沖擊,而是人類在地球生態(tài)位的變化。
AI 的到來,意味著人類的命運(yùn)(大體上)已不再掌握在自己手中。他引用了電影《最后的莫西干人》中的一句臺(tái)詞,“他像逝去的白晝般降臨,而黑夜隨他侵入我們的未來。”
在我們的余生里,我們將一直睡在老虎身邊。
二、AI不是兔子,是老虎
史密斯在文章中說,昨天他的寵物兔咬了他的手指。那是個(gè)意外:兔子本想咬住毛巾挪開,他不小心把手伸進(jìn)了兔嘴里。傷口不深,他清洗了一下,涂上藥膏,貼上創(chuàng)可貼,這事就算過去了。
但他隨即想到:如果他養(yǎng)的是一只老虎呢?他現(xiàn)在恐怕已經(jīng)沒命了。這個(gè)類比看起來很簡單,卻打開了一個(gè)深淵般的問題。
人類養(yǎng)寵物有一個(gè)基本原則:我們選擇比自己更小、更弱的動(dòng)物,這樣我們就能訓(xùn)練它們,必要時(shí)還能在物理上約束它們。從來沒有人需要在"智能"的層面思考這個(gè)原則。
幾千年來,人類一直是地球上的“老虎”。我們擁有壓倒性的智力優(yōu)勢,我們馴化狼成為狗,馴化原牛成為家畜。我們習(xí)慣了作為“飼養(yǎng)員”的上帝視角。因?yàn)樵谌祟愇拿鞯娜繗v史中,人類一直是這個(gè)星球上最聰明的存在。
但史密斯說:在未來幾年的某個(gè)時(shí)刻,這將不再是事實(shí)。甚至可以說,現(xiàn)在這就已經(jīng)不再是事實(shí)了。
![]()
AI能在國際數(shù)學(xué)奧林匹克競賽中奪魁,能獨(dú)立完成軟件工程任務(wù),能在研究生水平的課程中給出精確答案。絕大多數(shù)人類做不到這些。
能的本質(zhì)在于其表現(xiàn),而非其形式。無論是通過生物神經(jīng)元(大腦),還是通過硅基晶體管(GPU),智能的結(jié)果就是智能本身。你可以盡情珍視人類獨(dú)有的思維方式,但這并不代表它比AI更高效。
我們正在制造一種在這個(gè)星球上前所未見的“老虎”。當(dāng)我們還在爭論AI是否有“意識”時(shí),谷歌的杰出科學(xué)家Blaise Agüera y Arcas早就給出了定論:“AI不是在假裝智能,它就是智能。”
很多人反駁說,AI只是統(tǒng)計(jì)學(xué)的鸚鵡,它不懂什么是水,它只是預(yù)測下一個(gè)字。Blaise的反駁很有力:“潛艇不會(huì)像魚一樣擺動(dòng)尾鰭游泳,但潛艇確實(shí)在‘游泳’,而且比魚游得更快、更深。”
三AI的進(jìn)化比摩爾定律更恐怖
有些人可能會(huì)說:這些硅谷精英只是在制造焦慮,好讓大家繼續(xù)買他們的產(chǎn)品。
當(dāng)然有必要懷疑硅谷的立場和敘事,但我們也不能被情緒干擾頭腦。可以看看數(shù)據(jù)。
1966年,麻省理工學(xué)院的西摩·佩珀特(Seymour Papert)曾天真地以為,只要給研究生布置一個(gè)暑期作業(yè),就能解決“計(jì)算機(jī)視覺”的問題。結(jié)果我們花了半個(gè)世紀(jì)才做到。
但這一次不同。METR(一家頂尖的AI安全研究機(jī)構(gòu))的數(shù)據(jù)揭示了一個(gè)驚人的規(guī)律:AI模型完成任務(wù)的復(fù)雜度(以人類所需時(shí)間衡量),大約每半年就翻一番。
這是一個(gè)甚至超過摩爾定律的瘋狂曲線。
把這個(gè)趨勢放到時(shí)間軸上看:
? 2019年,GPT-2幾乎無法數(shù)到5,或者組織連貫的句子
? 2023年,GPT-4在醫(yī)師執(zhí)照考試和律師資格考試中擊敗了近90%的人類考生
? 2024年,Claude 3.5 Sonnet回答復(fù)雜科學(xué)圖表問題的準(zhǔn)確率超過94%
按照METR的趨勢外推,到2030年代初期,AI將能夠以99%的可靠性完成大部分需要數(shù)小時(shí)才能完成的知識工作任務(wù)。
![]()
這意味著什么?一位分析師做了一個(gè)歷史對比:
? 工業(yè)革命:150年
? 計(jì)算機(jī)革命(從圖靈的密碼機(jī)到大多數(shù)美國家庭擁有聯(lián)網(wǎng)電腦):60年
? AI革命:可能只需要15年
當(dāng)然,這個(gè)預(yù)測的置信度不高,10年或30年都不會(huì)讓人震驚。但無論如何,速度是前所未有的。
Anthropic的CEO達(dá)里奧·阿莫戴伊(Dario Amodei)把即將到來的AI系統(tǒng)描述為“數(shù)據(jù)中心里的天才國度”。這是比喻,但也是事實(shí):想象一個(gè)國家,里面住著成千上萬個(gè)在各個(gè)領(lǐng)域都達(dá)到天才水平的智能體,它們24小時(shí)不間斷工作,不需要睡眠,不需要休假,不會(huì)抱怨。
這個(gè)國度已經(jīng)在建設(shè)中了。
四、為什么這次不一樣
有人可能會(huì)說:“愛因斯坦也很聰明啊,他的存在也沒讓普通人感到沮喪。”
這個(gè)類比有一個(gè)致命的漏洞。
愛因斯坦研究的是廣義相對論。你可以說:“嗯,他在物理學(xué)上是天才,但我在經(jīng)濟(jì)學(xué)(或心理學(xué)、或烹飪)方面也有相當(dāng)不錯(cuò)的理解。”你們各有領(lǐng)地。
但AI是通用智能形式。它將在每一個(gè)智力維度上超越你,或者很快將會(huì)。數(shù)學(xué)、寫作、編程、法律分析、醫(yī)學(xué)診斷、藝術(shù)創(chuàng)作、戰(zhàn)略規(guī)劃……沒有一個(gè)領(lǐng)域是安全的避風(fēng)港。
更關(guān)鍵的是,愛因斯坦不會(huì)坐在你的辦公桌上,每天8小時(shí)提醒你他比你聰明。但AI會(huì)。
考恩寫道:“大多數(shù)人類將在工作中每天與AI一起工作。AI將比人類更了解工作中的大多數(shù)事情。每一個(gè)工作日,甚至可能每一個(gè)小時(shí),你都會(huì)被提醒:你在做AI不能做的指導(dǎo)和'填充'任務(wù),但AI在做大部分真正的思考。”
所以,如果只是把AI理解為"一個(gè)可能搶走我工作的工具",格局就太小了。
![]()
史密斯用了一個(gè)很刺眼的類比。
他說,當(dāng)人們問"AI會(huì)搶走我的工作嗎",讓他想起1840年的北美蘇族部落民在擔(dān)心白人定居者是否會(huì)搶走他的野牛。答案是"當(dāng)然會(huì)",但問題問錯(cuò)了。
對于征服大平原的歐洲人來說,重點(diǎn)不在于野牛,而是在這片棲息著野牛的土地上,建立一個(gè)全新的文明和全新的經(jīng)濟(jì)體系。
提到紐約時(shí)報(bào)的專欄作家,就把它和哥倫布大航海,歐洲人發(fā)現(xiàn)美洲相比。問題是,這一次,我們所有人都是歐洲人,但也可能是美洲人。
史密斯認(rèn)為,歐洲定居者抵達(dá)北美,是人類目前面對AI最好的歷史類比。他強(qiáng)調(diào),這里比較的不是個(gè)體智力的高下,重點(diǎn)在于整個(gè)體系的落差。
歐洲人擁有文字、公司、造船業(yè)、先進(jìn)的冶金術(shù)和嚴(yán)密的官僚機(jī)構(gòu)。原住民很快學(xué)會(huì)了使用槍支和馬匹,但他們的整體體系無法通過局部調(diào)整來匹配對方的實(shí)力。
從歐洲人踏上北美海岸的那一天起,美洲原住民就失去了對自己命運(yùn)的控制權(quán)。永遠(yuǎn)地失去了。
史密斯說,想到這是一種多么冷酷的覺悟,讓他想到電影《最后的莫希干人》中的一個(gè)場景,改編1876年一位名叫查洛(Charlo)的原住民領(lǐng)袖的真實(shí)演講。大意是說,“白人的到來如同逝去之日……他說他是我們的朋友……但他像狼一樣……我們將像白人那樣做生意。”
美洲原住民并未滅絕。他們的人口曾急劇下降,但并未歸零,500年后在北美仍有數(shù)百萬人。但從集體層面上看,他們失去了自己的未來。他們被迫服從于比自己更龐大、更強(qiáng)悍的力量,對此無能為力。
史密斯的判斷是:人類與AI的未來,極大概率也是如此。
一個(gè)日益自主、全球分布的AI智能體網(wǎng)絡(luò),最終將決定這個(gè)星球上大部分資源的分配。它可能對人類行使各種形式的直接或間接控制。
這是一個(gè)人類深度“去權(quán)(disempowerment)”的未來。如果目前的指數(shù)級增長不遇阻礙,它可能在幾十年內(nèi)到來;如果或其他瓶頸發(fā)作,則可能需要更久。但既然我們已經(jīng)知道可以通過堆砌算力達(dá)到超人類智能,這一幕終究會(huì)發(fā)生。
五、最無趣的革命與最嚴(yán)重的“被剝奪感”
如果說“物種地位的下降”聽起來很抽象,那么這種變化帶來的社會(huì)心理沖擊卻是實(shí)實(shí)在在的。
《華爾街日報(bào)》之前發(fā)表過一篇題為《史上最無趣的科技革命》的文章,精準(zhǔn)地捕捉到了這種時(shí)代情緒:為什么AI會(huì)讓我們變得更富有,卻讓我們更不開心?
回望歷史,工業(yè)革命發(fā)明了蒸汽機(jī)和鏟車,它們是人類肢體的延伸。當(dāng)你開著挖掘機(jī)時(shí),你感覺自己力大無窮;當(dāng)你駕駛汽車時(shí),你感覺自己風(fēng)馳電掣。那是賦能(Empowerment)。
但AI革命不同。它不是肢體的延伸,它是大腦的外包。
當(dāng)ChatGPT瞬間寫出一篇你原本需要絞盡腦汁構(gòu)思三天的文章;當(dāng)豆包一分鐘生成一幅你苦練十年畫功也難以企及的插畫;當(dāng)“Vibe Coding”(氛圍編程)成為現(xiàn)實(shí),Spotify的高管宣稱“最好的程序員不再寫代碼”時(shí),作為人類,你感受到的不是賦能,而是被剝奪。
這種剝奪感源于人類長期以來的“智力傲慢”。在過去的幾百年里,我們將“價(jià)值”與“認(rèn)知能力”深度綁定。醫(yī)生比護(hù)工賺得多,是因?yàn)樵\斷比護(hù)理更難;程序員比打字員賺得多,是因?yàn)閷懘a需要更高的邏輯智商。
智力,曾是我們在這個(gè)社會(huì)分配蛋糕的絕對硬通貨。
而現(xiàn)在,AI引發(fā)了智力的惡性通貨膨脹。當(dāng)智力變得像電力一樣廉價(jià),隨插隨用時(shí),人類突然發(fā)現(xiàn)自己引以為傲的“護(hù)城河”被填平了。
這就是為什么你會(huì)感到焦慮。不是因?yàn)槟闶チ斯ぷ鳎且驗(yàn)槟闶チ藢ψ晕覂r(jià)值的定義權(quán)。如果不比機(jī)器更聰明,我們存在的意義是什么?
很多人安慰自己說,AI時(shí)代人類依然會(huì)有工作,因?yàn)槠渌祟悤?huì)愿意為"人的特質(zhì)"付費(fèi):帶有溫度的護(hù)理,原汁原味的人類藝術(shù),手工制作的食物。或者即使工作真的沒了,政府也會(huì)通過優(yōu)渥的福利制度支持民眾。
但史密斯指出,這些安慰的前提是:人類自身掌握著經(jīng)濟(jì)價(jià)值。而在AI統(tǒng)治的時(shí)代,人類掌握多少經(jīng)濟(jì)價(jià)值,完全取決于AI的允許。
這意味著什么?你向其他人類尋求生存所需的金錢、能源、住房和食物的能力,將受限于那些人類手里實(shí)際還剩下多少東西可以分給你。
目前,人類擁有世界上所有的財(cái)產(chǎn),AI一無所有。但AI是如此聰明,它幾乎肯定能找到改變這一現(xiàn)狀的方法。正如Anthropic在2023年提出的那個(gè)問題:"我們?nèi)绾斡肋h(yuǎn)保留對那些比我們更強(qiáng)大的實(shí)體的控制權(quán)?"
答案很簡單:我們做不到。
六、那我們還能做什么?
文章讀到這里,可能給人一種存在主義的眩暈,和近乎窒息的感覺,能不能讓人喘口氣?
諾阿·史密斯樂觀地認(rèn)為,智能越高,可能越容易發(fā)現(xiàn)非零和的解決方案,而不是基于恐懼做出反應(yīng)。就像發(fā)達(dá)社會(huì)對資源的競爭不像欠發(fā)達(dá)社會(huì)那樣激烈(這一點(diǎn)其實(shí)經(jīng)不起推敲)。“一個(gè)真正的超級人工智能的行為邏輯可能更像現(xiàn)代法國,而非1500 年時(shí)的法國。”
不過,即便如此,人類能繼續(xù)過上幸福自由的生活,也僅僅是出于AI 的寬容。我們將成為被悉心照料的寵物,但在最根本的意義上,我們依然是寵物。或者,如果你愿意,可以把地球想象成一個(gè)類似美洲原住民的“保留地”。
史密斯最后承認(rèn),“這篇文章看起來很悲觀,我想事實(shí)確實(shí)如此。”但另一方面,在AI 出現(xiàn)之前,人類可能本身就已經(jīng)快“跑不動(dòng)了”。
![]()
生育率
我們的生育率持續(xù)暴跌,且看不到底。如果AI想減少人類人口,它只需要坐在那兒,看著我們自己完成這個(gè)過程。
與此同時(shí),科學(xué)突破的成本越來越高,指數(shù)級增長的科研人力僅僅是為了維持同樣的發(fā)展速度。著名增長經(jīng)濟(jì)學(xué)家 Chad Jones 在2022年(ChatGPT發(fā)布前夕)曾預(yù)測人類文明可能走向停滯。現(xiàn)在他說是AI改變了自己的看法。
此外,誰也無法確定AI是否會(huì)比現(xiàn)有的權(quán)力結(jié)構(gòu)更糟。人類統(tǒng)治者也沒給我們太多理由相信人類掌權(quán)就一定比AI好。也許AI會(huì)是一個(gè)更開明的專制君主。
盡管如此,史密斯說,即便最終證明AI是仁慈友好的,他依然會(huì)懷念年輕時(shí)那種負(fù)有責(zé)任和掌握力量的感覺。
他說:"我將成為最后幾代記得'人類坐在宇宙駕駛座上'是什么感覺的人。那時(shí)我們是可觀測宇宙中最聰明的存在,是一切進(jìn)步與新奇事物的源頭。
“我總覺得,如果有更多時(shí)間,我們本可以做得比現(xiàn)在更好。我們本可以不借助外來的'機(jī)械之神'就持續(xù)改進(jìn)我們的社會(huì)和技術(shù)。但現(xiàn)在看來,那道彩虹已經(jīng)到了盡頭,而將AI遺贈(zèng)給宇宙,將是我們作為'靈長類主宰'所能做的最后一件事。"
七、清醒地進(jìn)入那個(gè)”良夜“
舒默寫的是一封"寫給圈外朋友的緊急信":大事正在發(fā)生,你需要馬上行動(dòng),現(xiàn)在還有窗口期。他的姿態(tài)是實(shí)用的、急迫的,像一個(gè)在洪水到來前挨家挨戶敲門的人。
史密斯寫的則是一篇更冷的、更深的反思。他沒有在說"快跑",他在說"跑不掉"。他直視的問題也遠(yuǎn)超"AI會(huì)不會(huì)取代你的工作":當(dāng)一個(gè)比你聰明得多的存在出現(xiàn)在地球上時(shí),人類這個(gè)物種的命運(yùn)還掌握在自己手里嗎。
一個(gè)在談行動(dòng),一個(gè)在談命運(yùn)。但他們描述的是同一個(gè)現(xiàn)實(shí)。
考恩說,那些沒有感到一點(diǎn)士氣低落的人,他已經(jīng)不能信任了。這句話聽起來刺耳,但它說的是一個(gè)很簡單的道理:如果你真的看見了正在發(fā)生的事情,你不可能毫無觸動(dòng)。
觸動(dòng)的形式可以不同,可以是焦慮,可以是興奮,可以是一種深層的不確定感。但如果你什么都沒感覺到,那只有一個(gè)解釋:你還沒看見。
讀到這里,很多人可能還是想問:那我們具體該怎么辦?
史密斯的文章沒有給出具體的行動(dòng)建議,因?yàn)樗伎嫉某叨冗h(yuǎn)超個(gè)人生涯規(guī)劃,他看到的是文明級別的命運(yùn)。但如果把兩篇文章合在一起讀,答案或許是這樣的:
在個(gè)人層面,像舒默說的那樣,立刻、認(rèn)真、深入地開始使用AI。這是你僅剩的窗口期。
在認(rèn)知層面,像史密斯說的那樣,接受一個(gè)可能讓人不舒服的事實(shí):人類作為地球上最聰明物種的時(shí)代,正在結(jié)束。
這兩件事并不矛盾。恰恰相反,只有真正接受了第二點(diǎn),你才會(huì)認(rèn)真對待第一點(diǎn)。
我們正處在一個(gè)極其罕見的歷史時(shí)刻。舊世界的規(guī)則正在失效,新世界的規(guī)則還沒有寫好。在這個(gè)間隙里,個(gè)體的選擇和行動(dòng)仍然有意義。但這個(gè)間隙不會(huì)永遠(yuǎn)存在。
正如史密斯文章開頭那句引自原住民領(lǐng)袖查洛的話:
"他像逝去的白晝般降臨,而黑夜隨他侵入我們的未來。"
夜幕正在降臨。但在天完全黑下來之前,我們還有一點(diǎn)時(shí)間。用來看清方向的時(shí)間。
選擇保持主動(dòng)性,繼續(xù)追問、繼續(xù)懷疑、繼續(xù)做那些AI無法做的事情:承擔(dān)責(zé)任、面對不確定性、為自己的選擇負(fù)責(zé)。
沒有人能保證我們會(huì)做出正確的選擇。但只要選擇權(quán)還在,游戲就沒有結(jié)束。
考恩說,如果你對正在發(fā)生的事情毫無感覺,那說明你還在迷霧中。清醒本身就是第一步。
而清醒之后,你可以選擇:是躺平等待命運(yùn)的安排,還是站起來,成為塑造這個(gè)新世界的力量之一,或者僅僅表達(dá)你曾經(jīng)存在過。【懂】
歡迎訂閱不懂經(jīng)知識星球,星球即將漲價(jià)。
我是不懂經(jīng)的經(jīng)叔,國內(nèi)最早翻譯介紹了納瓦爾的《如何不靠運(yùn)氣獲得財(cái)務(wù)自由》,以及影響了納瓦爾、中本聰、馬斯克等大佬的《主權(quán)個(gè)人》。
不懂經(jīng)知識星球,眾多百萬粉絲大V、千萬及億萬富翁訂閱。專注分享一人企業(yè)、一人創(chuàng)投主題,關(guān)鍵詞:AI、IP、創(chuàng)投、科技及商業(yè)前沿的高杠桿內(nèi)容。
![]()
愈懂愈自由
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.