好AI、壞AI？最好的主人會以奴隸的面目出現｜劉擎×張笑宇×維舟

面對AI的挑戰，人性的獨特光芒究竟何在？

近日，中信出版集團聯合建投書局，邀請華東師范大學紫江特聘教授劉擎，亞洲圖書獎得主、《AI文明史·前史》作者張笑宇，作家、書評人維舟，共同探尋那些真正重要的問題：在智能革命重塑世界的今天，我們該如何理解文明、定義人性、構想未來？

以下是對談內容精編，授權首發。

01

好AI、壞AI?最好的主人會以奴隸的面目出現

維舟：很早之前看科幻電影，人類談到未來是帶有希望的，認為技術可以給我們帶來更美好的未來。但慢慢地科幻電影的主題開始出現變化，其中描繪的未來是陰郁的，甚至是非常可怕的未來，比如一個不知道怎么回事的科學家，在實驗室里面就搗鼓出來一個怪物，會毀滅我們人類。

現在大家探討AI的未來，實際上也涉及我們人類的未來。很多人說AI會給我們帶來巨大的變化，是革新性的；更多人感受到的是AI帶來的恐懼，這個恐懼是實實在在的。包括《AI文明史·前史》這本書里提到，99%的人類將來可能會被AI替代。當我們看到AI帶來一些變化的時候，怎么能夠說服大家這是一件好事？

張笑宇：無論你說不說服，你覺得它是不是好事，它都會來。

首先，做歷史的都知道，未來太難預測了。你能預測的東西，是基于非常長的因果關系，這個長因果關系一般是基于數學和物理，還有生物原理。比如我們理解中國歷史的時候會去找一個數學關系，叫馬爾薩斯陷阱，因為糧食的增長是線性的，人口的增長是指數的，線性增長和指數增長之間一定有一個差值，當這個差值出現的時候，你就知道會發生什么。你只是不知道來的到底是張獻忠，還是李自成，你知道這種事肯定會發生。所以確定性的部分你用數學、物理和生物的角度去理解，不確定的部分你就留給偶然性，因為偶然在人類社會中它確實存在。

技術的東西其實好解釋，數學關系可以在一開始就看得很清楚。打個比方，20年前當喬布斯第一次拿出智能手機的時候，數學關系就已經成立了。你得到了一個終端，它能夠以臺式機大概十分之一的價格接入移動互聯網，理論上這個終端每天陪你的時間可以達到10個小時以上。

接下來20年中，我們看它不斷展開，展開了社交媒體、移動支付、短視頻等等。這些東西你不知道什么時候到來，也不知道以具體什么形式，但它背后的基礎是這個數學原理。所以，今天AI到來，這個數學關系已經存在了，我們第一次有了這么一個技術，能夠以特別低的成本來量產大概相當于99%人的智能。假設我們就把人看作是一個生產智能的機器，我在這輸出一分鐘大概就是200個token，我輸出一天頂多就是20萬個token，但是AI生產100萬個token只要1塊錢，這個是最致命的。

只要你的老板還在算你的ROI，算你的工資，算你的崗位值不值錢，你就知道會發生什么，它干你5天的工作量只要1塊錢，就算它干的不如你好，老板也會在考慮是不是直接用它。

你去拒絕這種數學關系，本身是沒有意義的，有意義的是去考慮你自己發生什么樣的變化，你才有可能有一個好的未來。如果我們想象一個最陰郁的未來，那么我們不需要思想家，只要那個事件自然發生就可以了。所以，一個思想家的任務，就是去想AI帶來最積極的可能是什么。技術這個東西，只要你用的方法對，讓它把你變得更好，其實沒那么困難。

維舟：人類對AI的態度確實存在一種分裂：一邊是作為賦能工具的“好AI”，它如同一個強大、低廉、不知疲倦的助手，能實現我們許多愿望，這無疑令人向往。壞的AI是什么呢？大家恐懼這個東西不受我們控制的，哪一天變成我們的主人了，我們變成奴隸了，在前一個角色它是一個勤奮的、低廉的、好用的奴隸，在后一個角色里面，我們變成它的奴隸。

從哲學角度看，這關乎人類的主體性與支配欲。我們既不應如盧德主義般抗拒進步，也應該理解像凱文·凱利所說的“充分的進化必須伴隨一定失控”。就像父母不應過度控制子女的成長，人類或許也需要重新審視自身對技術的控制欲，在恐懼與期待之間，尋找新的平衡。請劉老師談一談，怎么理解人類的主體性或者支配和被支配的恐懼感？

劉擎：我在想歷史上的事情，其實是我們后來去看的時候，發現它是被選擇出來的。就像笑宇在《產業與文明》那本書里寫過，技術需要一個商業漏斗，這個商業漏斗不完全是市場盈利，它有大量文化的因素。如果你現在說好和壞的時候，我們已經在這個框架里邊走好和壞，我們有沒有可能不要這個框架？他說不太可能，我看也不太可能。那么，僅僅用數學、物理和生物的邏輯，我們是不是能夠有一個不可避免的解決方案，我是遲疑的。

比如說主體性的問題，我們害怕的是什么呢？我們以為我們害怕的是AI統治我們，AI失控了，我們成為它的奴隸了。不是的，最好的主人是以奴隸的面目出現的，是侍奉你的，是你的仆人，是你的玩偶，隨便你支配，然后變成奴隸。它根本不是主人的面目，它非常有誘惑力。

有一次我在談AI的時候，我就想到有點像20世紀80年代、90年代初談互聯網，互聯網帶給我們可能性比沒有互聯網肯定是更好的。為什么現在公共領域會變得極端化？世界這么復雜，我們希望用簡單的、概念的、標簽的去認知，我們都是用標簽思考，大概20個標簽，就可以把世界搞定。

社交媒體和網絡時代重新改變了我們的感官結構，我們能夠非常省力地、輕易地感受到美輪美奐的視覺體驗。國慶節我們去旅游，每個景區都是人山人海。但是你在手機上可以3分鐘看遍麗江風景，甚至還有BGM和航拍視角。你想去看日出，就需要凌晨4點鐘起來，天氣不好還看不到。但是手機上可以把一年里10天最好的日出拍出來給你看。

所以它改變了一個生態，我不能說這好不好，但是站在一個傳統人文主義角度，新的時代，后人類的價值體系是什么？我們還不知道。所以我現在有一種懸浮感，我有失語的感覺，新的價值觀什么叫好呢？我們能夠知道的是效率越來越高了，但快就真的好嗎？

站在傳統的視角來看，我們的人文在衰落，我們正在變成一個新的物種，我們已經不是我們以往所知的那個人類。技術一直是在改變人的，一直在重新塑造，海德格爾、斯蒂格勒都講過，這個不是新的事情。新的事情是技術變化太快了，我們的文化適應已經無法馴服它了。你還沒掌握它，它已經迭代了，這個是前所未有的。

一方面我們見證了巨大的文明史意義上的變革，但另一方面，我帶著一種說不上的落寞和傷感，倒也沒有多大的恐懼。我不覺得未來AI統治人類，會像我們人類一樣野蠻，它最多把我們當做寵物。我們人現在在感情上大家都是淡淡的，我們現在叫“淡人”，低電量運行，封心鎖愛，主要是不要內耗。我們在一個那么有效率的時代，我們好像耗費很多去安全自保、規避風險。

我覺得現在的孩子一代一代看下來，眼神里沒有年輕的光澤，當然不是絕對的。我仿佛看到一代年輕的生命在凋敝，他們甚至從未綻放過。

02

為什么很多人討厭宏大敘事？因為他們不知道背后具體的因果

維舟：就像中國近代遭遇西方文明的沖擊，三千年未有之大變局。我們原有的那套文明體系突然不管用了，面對船堅炮利，眼睜睜看著自己的文明被沖擊。當然，我不是說要抗拒新文明，人類也不會注定被淘汰。

這本書里提到很多規律，比如張笑宇老師講的“鐵律”，說它們不可抗拒。當我們看到這些所謂宏大敘事的時候，我有一種感覺，不是說不確定或者無力感，而是說你就算知道了這個規律，還是不知道怎么做。

舉個例子，大概十幾年前，復旦新聞系一個老師對學生說：你們畢業以后，報紙甚至電視遲早會被互聯網淘汰。有學生聽了覺得有道理，但覺得“有生之年”還長，還是進了報社。結果呢？不到十年，沖擊就來了。所以就算看清了大趨勢，也不代表你能踩準節奏、抓住機會。我們看到這些趨勢或者說看到某一個未來，該如何看待這個復雜的社會變化？個人應該怎么做？

張笑宇：我們今天所有人都討厭宏大敘事，但是很少有人知道，預測未來跟宏大敘事之間的區別是什么。區別在于預測未來這些東西是能算的。

為什么很多人討厭宏大敘事？因為他們不知道背后具體的因果關系是什么，他只是憑著感覺，真等到需要他做決策的時候，聽了很多宏大敘事等于沒聽。如果這個老師只是跟他說多少年后，報社就不存在，他只是跟他講了一個宏大敘事，然后你沒有教他一個真正的東西，這個背后本質上不是一個知識，它是一個憑感覺的很模糊的判斷。但是今天所有的變化是在我們一生中20年內發生的，我們一生中會經歷兩次巨大變化，這個時候還憑感覺就不夠了。

我認為問題不在于技術進步有多大程度上跟人文制衡形成了一個對沖關系，因為只要你是一個多元社會，這種對沖關系一定是存在的。我前段時間去歐洲參加TED AI在維也納的會議，他們專門請了一個哲學家來討論，他不相信AI能夠向善，原因還是海德格爾的理論，人本質上是一個為自己，being a being，作為存在而存在。而一旦我們認為這個事情可以外包給AI的時候，或者外包給任何技術的時候，我們實際上喪失了人作為這樣一個being的主體性，這個理論講的特別漂亮，特別有說服力。

我舉了個例子，給他提了一個問題，我有個朋友在國內用AI幫老年人寫回憶錄，他做這行之后，發現最讓他擔心的，是怕有人借這個機會騙走上海老干部的房子——因為他親身感受到，老年人真的太孤獨了。AI可以讓你訪談他3個小時，把他一生的故事講出來。但這個老人已經不跟他的孩子聊3個小時，也很少跟他的老伴聊3個小時。我就跟我朋友說，這或許就是技術真正幫人建立連接的方式。比如訪談時如果子女在旁邊聽，可能會對父親有全新的認識，之后吃飯時就會主動聊起這些。如果沒有這樣的機會，可能一輩子都不會聊，直到老人離開。

我就問這位哲學家，這是不是算我們可以用技術幫助我們人去更好地跟別人connect？這件事其實提供了一個具體路徑，讓我們這些關心人文連接的人，能真的把它落地。但第一步是什么？可能就是讓哲學家、工程師、創業者坐到一起聊。這位哲學家回答不上來。

我跟他說，我覺得他是一位受過非常好訓練的哲學家，他講的海德格爾非常對。但是我覺得，在一個多元社會里面，不同的觀點或者不同的集團有碰撞，這才是多元社會本來就應該有的樣子。

我身邊有很多做AI創業的朋友，但是他是一個純純粹粹的哲學家，他生活在那個世界里，他的任務就是天然地去質疑這些我們不加思索就認為好的東西，技術進步，經濟繁榮等等，這些，這是他的天命，他的使命所在的。

但是我想說的是，其實這并不是我們得以過渡到現代社會所必須的那種好的啟蒙。因為啟蒙有很多傳統，比如說一個科學家，一個工程師和一個人文哲學家坐在一起的啟蒙，只有一個成功，是蘇格蘭啟蒙運動，那一代知識分子對這個事情是有感覺的，我會看到蘇格蘭啟蒙運動對功利主義的重視，有一些人干脆很明顯看到他其實就是一個技術統治論者，最明顯的就是邊沁，他是不自覺下意識就在他的作品里流露出這種東西。我們今天反過來看，至少我今天反過來看，這是因為那一代人跟工程師坐在一起了，所以這些東西就耳濡目染進入他的作品。

所以我們在看到很多社會困境、AI的問題，我們不知道用什么樣的辦法解決。但是我相信一個更好的人他一定可以找到更好的方式，一群更好的人他一定可以用更好的方式進行溝通，如果我們今天的任務是培養這些人，讓他在下一個世代幫助我們做出更好的選擇，用他們覺得更好的方式去用AI的話，我覺得這個可能才是真正的解決方案。我們今天是沒有辦法替他們去找答案的，但是當我們讓他變得更好的時候，他們可以自己找到答案。

AI繪畫 藍屏事件 |圖源：HERO PAVEL

03

AI允許你不成長，你可以停留在原地

維舟：關于AI對人的陪伴，AI是超級有耐心的，它不會發脾氣，不會不耐煩，它永遠都能夠回應你，因為它就是為你度身訂做的。這個當然非常好，甚至好到很多人跟AI相處時間久了以后，會對人類感到厭煩。怎么面對這樣一個狀況？

劉擎：AI有非常重要超越人類的一點，就是不脆弱。但是人類的脆弱性是我們好多品格的來源。我們作為人，有兩大重要的生命事件，一個是謀事，把事情做好，選擇最優化的工具，理性推導把事情做好。

還有一個是成人，成人一般是跟品格塑造是有關系的。因為我們人是脆弱的，我們有肉身，會發展出同情心、善良、勇敢一系列東西。在人類的世界里，有一個叫做care的東西，care就是關心、關懷、照料、呵護、在乎、在意，這一套東西在整個現代世界里開始凋零和萎縮了，因為我們主要是在謀事。比如說，本來在傳統社會的共同體里，謀事和做人是在一起的，后來我們把這個東西拆開了，謀事是可計量、可比較、可優化的。而做人，特別是care這一方面，變成一個無關緊要的東西。

現在我們為什么不會愛呢？不是說不會談戀愛了，我們首先考慮的是我對你這樣關心，你會怎么感覺？會收到什么效果？你會對我怎么樣？我付出是不是太多？我們已經在用那個系統的語言在理解和描述另外一個系統。Care第一要務就是我對你有一種抑制不住地要關懷你，比如說我看到一棵樹倒了，我把它扶起來。對一個人也一樣，我首先是對你抑制不住的關懷，你的冷暖怎么樣，你是不是生病了。但是現在變成了，我對你表達關懷，要去考慮你怎么回報我。

AI帶給我們什么呢？它會給我們這樣的關懷。但是你會不會由于被過度好的一個沒有脆弱性機器的care，導致你自己的愛無能呢？因為我們受到AI的關懷，我們不會去反饋它。當然，也可能我們把AI想象成一個主體人，你如此得善待我，我也會有一個回應，就是AI配得上我的善意。好多人現在跟AI說話很禮貌，“謝謝你給我這么好的答案。”

我不能想象未來那個狀態，可能最后每個人都是跟AI交往，我們跟世界交往的直接性失去了，我們通過一個界面，一個中介來協調我們跟這個世界，要不然這個世界太可怕了。每個人都是以自我為中心，發展不出一種主體間性的友愛、團結，這是很大的挑戰。

AI支配我們的是什么？在某種意義上，它癱瘓我們，因為人類共情的能力是要在挫折當中去克服挫折，在被傷害以后遇到一個不傷害你的人，或者你首先展示善意，把自己的脆弱裸露出來，我不怕被傷害，我要關懷你，當然，這種情況下大概率會冒險，會受傷，會付出太多、得到太少，但也可能你找到了真正的朋友、真正的戀人。

張笑宇：AI帶給你的是一種愛的語言，東亞父母不太懂什么是love。人是有一個能量的，我認為愛在我的生命中帶給我兩個東西，第一，它讓我不內耗，你越內耗，就越難成事，因為你做決定的成本非常高。當有人真的無條件愛你的時候，你不會對你自己的價值產生那么大的懷疑，就算這個世界上其他人不認可我，有一個人全心全意地認可我。我哪怕住著出租屋，走出地鐵的時候，我的心都是飽滿的，我想起她臉上就帶微笑，愛讓你不內耗，讓你感受到自己的價值。我認為愛是給你一種無條件的認可自己、肯定自己的東西。

但是你要愛別人，你是要有能量的。我認為現在孩子不是說我們的教育讓他不懂愛，是因為這個社會對他來說真的很困難，如此內卷，他沒有足夠的能量真的去愛別人。AI有一個用處是什么呢？它能夠給你充能，讓你認可自己，從而有能量去更好地對待他人。我們可以找到正確的方法，定位AI在人的情感中到底是什么位置，讓它幫助我們自己變得更好。

電影 HER 劇照

AI的情感陪伴不是完美的，首先得說清楚，愛到底是怎么回事，AI在里面能扮演什么角色，AI能提供情緒支持，但有些東西它永遠替代不了。比如在長期穩定的關系里，你們會一起經歷十年、二十年，一定會吵架，但也會慢慢摸索出解決問題的方式：吵完怎么復盤、怎么避免下次再吵、晚上不要做決定……這些具體的方法，是兩個人一起成長的過程。你會意識到，自己因為這些經歷變得更好了。

而AI給不了你這些。AI允許你不成長，你可以停留在原地——但現實世界不會，真人關系也不會。所以AI情感陪伴真正的價值，是給你充個電，讓你更有能量回到真實的關系里，去面對那些需要成長的部分。

《AI文明史·前史》

張笑宇 著

中信出版社，2025