萬字追問：當(dāng)紅的意識整合信息論，為何在他眼中只是一個漂亮的營銷工具？

如何區(qū)分“虛構(gòu)的意識”與“真實的意識”？認知科學(xué)家約夏·巴赫（Joscha Bach）在討論中拋出了這個看似簡單卻近乎無解的問題，“或許所有意識都是虛構(gòu)的——只要你不自知，這就是一個悖論。”他坦言，這個問題在現(xiàn)象學(xué)層面異常復(fù)雜，至今仍無定論。“虛假的意識現(xiàn)象與真實的現(xiàn)象體驗，本質(zhì)上都是虛擬的建構(gòu)。”

徐道輝

Stephen Hsu

密歇根州立大學(xué)物理學(xué)教授

美國物理學(xué)家、企業(yè)家。他在加州理工學(xué)院獲得了物理學(xué)學(xué)士學(xué)位，并在加州大學(xué)伯克利分校獲得了博士學(xué)位。后來，他在耶魯大學(xué)和俄勒岡大學(xué)任教，并在俄勒岡大學(xué)擔(dān)任理論科學(xué)研究所的主任，并專注于粒子物理和宇宙學(xué)的研究。2012年，Hsu被任命為密歇根州立大學(xué)的研究與研究生教育副校長。然而，他的任期因?qū)蚋牧己头N族分類的爭議性觀點而受到挑戰(zhàn)，最終于2020年辭去行政職務(wù)。此外，Steve Hsu是Safeweb和Genomic Prediction（基因預(yù)測）公司的創(chuàng)始人，后者專注于開發(fā)IVF胚胎的基因檢測技術(shù)。他在遺傳學(xué)領(lǐng)域的工作對復(fù)雜人類特征和疾病的基因預(yù)測做出了重要貢獻。

約夏·巴赫

Joscha Bach

奧斯納布呂克大學(xué)哲學(xué)博士

Joscha Bach 是一位德國認知科學(xué)家、人工智能研究員和哲學(xué)家，以其在認知架構(gòu)、人工智能、心理表征、情感、社會建模、多智能體系統(tǒng)和心靈哲學(xué)方面的工作而聞名。他的研究旨在通過研究如何對人類智能和意識進行計算建模來架起認知科學(xué)和人工智能的橋梁。

追問快讀：

1.整個計算機發(fā)展史都在追尋一種"終極算法"：那個能自我進化、通曉萬物的神秘存在。

2. 大腦細胞群之所以能作為統(tǒng)一主體行動，靠的是構(gòu)建了一個"單智能體"控制模型，細胞們通過提取環(huán)境意義，模擬出某個視角：一個關(guān)于"該主體應(yīng)如何感知世界"的虛擬敘事。

3.我越來越覺得世界就是“代碼”。"直接體驗現(xiàn)實"的感受，與其說是我們在觀察現(xiàn)實，不如說是大腦在生成模型。

4.人類心智運作本質(zhì)上是在多維嵌入空間中進行組織，每個維度都代表某個可調(diào)節(jié)的參數(shù)變量。

5.地球生命本質(zhì)不在于人類，而在于意識和生命的演化。我認為沒有AGI，人類才注定滅亡。

6.整合信息理論創(chuàng)造了所謂的"公理"章節(jié)，實際上只是對意識定義的文字描述，并非數(shù)學(xué)意義上的公理，而φ值更像是理論推銷工具。

在東德森林中長大

徐道輝：我們是夏天在法蘭克福的一個活動中認識的。我有幸聽了你好幾場關(guān)于 AI 的深度討論，也了解到你獨特的童年經(jīng)歷和成長故事。所以我想先從你的早年生活開始說起，看看你是怎么一路走到今天的，然后再聊聊 AI 的核心話題。能先說說你在森林里度過的童年嗎？

約夏·巴赫：我爸與社會格格不入，于是決定建立一個自己的世界。他算是第一代做“社會實驗”的人，但并沒有招人加入，也不知道怎么擴大圈子，甚至對這些都沒興趣。他更像是在森林里建立了一個私人王國，只說服了我母親支持他，兩人過著一種他親手打造的“伊甸園”生活。

他原本是建筑師，后來成了藝術(shù)家，認為生命的意義在于創(chuàng)作藝術(shù)、與內(nèi)心的聲音對話。因此，我的成長只是他生活的“副產(chǎn)品”， 他不怎么關(guān)心小孩子的內(nèi)心世界。我長大的那個地方美得驚人，但我也極度孤獨。因為無聊，我很早就開始讀書，吸收知識就像海綿一樣。

等到我要上學(xué)的時候，我發(fā)現(xiàn)自己已經(jīng)跟外界脫節(jié)了。當(dāng)時的東德奉行樸素的馬克思主義辯證法，而老師們教的內(nèi)容，要么我已讀過，要么就覺得淺薄無趣。這種經(jīng)歷讓我養(yǎng)成了一種“自帶用處的傲慢”，很長一段時間我都覺得別人教我不了多少東西，只能靠自學(xué)。這并沒有讓我更聰明，但卻使我更獨特，使我也讓我習(xí)慣用第一性原理重構(gòu)世界，理解周遭運轉(zhuǎn)的規(guī)律。我也發(fā)現(xiàn)別人因為社會化的過程，成長軌跡和心理都跟我不一樣，等于我們有不同的“世界接口”。想跟他們溝通，我就得學(xué)會“翻譯”。

但我跟我爸不一樣，我很清楚山林隱居不是我想要的歸宿。那里雖然安靜，沒有城市的吵鬧和過度的感官刺激，但我需要別人的刺激和互動，才能推動我專注于自己的項目。

徐道輝：你現(xiàn)在住在灣區(qū)，比起森林，你覺得舊金山這樣的城市更適合你嗎？

約夏·巴赫：目前我住在南灣，雖然鄰居很棒、天氣也很好，但這里某種程度上結(jié)合了兩種環(huán)境最糟的部分，既不夠偏遠到融入自然，也不夠都市化到步行就能遇見有趣的人。所以我經(jīng)常開車去舊金山。

徐道輝：不過好處是，這里聚集了很多想研究或開發(fā)AI的人。

約夏·巴赫：對，這正是我留在這里的原因。

徐道輝：現(xiàn)在看起來你的老師當(dāng)年沒能激發(fā)你的興趣，但我想知道你讀過的書中，有沒有哪位歷史思想家或作家在你成長過程中影響過你？

約夏·巴赫：我讀過大量哲學(xué)和科幻作品。小時候我很少為了消遣而閱讀，閱讀本身就有趣，但我的主要目標(biāo)是理解社會的知識體系。那時我強迫自己啃完了《圣經(jīng)》，甚至去讀了甘地的著作，同時還會硬著頭皮看數(shù)學(xué)書和愛因斯坦傳記之類的，我讀這些都只是為了搞懂社會的底層邏輯。我以為每個人都該掌握這些經(jīng)典——不僅是書，還包括電影等媒介。我原以為教育的本質(zhì)，就是讓人深度理解自己所處的社會。后來才發(fā)現(xiàn)，幾乎沒人這么做。

?圖源：Nix Ren

徐道輝：盡管我覺得你的智力和個性都很獨特，但你確實走完了標(biāo)準教育體系，甚至還拿到了博士學(xué)位，在學(xué)校待了很長時間，對吧？

約夏·巴赫：沒錯。當(dāng)初選擇學(xué)術(shù)道路，是因為我想弄明白心智如何運作。我考察了各個學(xué)科，結(jié)果發(fā)現(xiàn)沒有哪一個能單槍匹馬回答這個問題。

最開始我是被計算機科學(xué)吸引住的，因為它很符合我的思維模式。小時候我就癡迷編程，我很幸運成為第一代擁有家用電腦的孩子。我剛擁有Commodore 64時，市面上根本沒有現(xiàn)成軟件可用，因此我不得不做的第一件事就是自己編寫文本編輯器。然后我學(xué)會了從頭開始制作計算機圖形。現(xiàn)在回想，這段經(jīng)歷塑造了我用計算框架構(gòu)建現(xiàn)實的思維方式。

進入學(xué)術(shù)界后，我發(fā)現(xiàn)計算機科學(xué)的交流方式特別對我胃口。你可以在第一學(xué)期就批評教授的證明，要是你發(fā)現(xiàn)他證明里有問題，大家甚至教授本人都會很感謝你。但哲學(xué)系完全不同，那里的接納標(biāo)準高度社會化，你必須融入圈子才行。至少我當(dāng)時就讀的大學(xué)是這樣。邏輯學(xué)和分析哲學(xué)稍好，但最硬核的分析哲學(xué)其實來自計算機系的數(shù)理邏輯課程。此外，我還輔修了心理學(xué)等相關(guān)學(xué)科。

在柏林求學(xué)時，我有時會同時跑好幾所大學(xué)，只要看到感興趣的課——即使是波茨坦大學(xué)客座教授的認知科學(xué)課——我都會開車去蹭課。如果主修課不夠硬核，我就直接翹課自學(xué)教材，只參加考試。

這種高度自主的學(xué)習(xí)讓我受益匪淺，但童年養(yǎng)成的那種對教師的"不敬"始終未改。最初很少有教授能教授超越教材的內(nèi)容。可我一直覺得，真正的教育本質(zhì)上應(yīng)該是一場與另一位智慧個體的深度互動。我遇到的這個方面的第一個關(guān)鍵人物是哈勒大學(xué)的勞爾·羅哈斯（Raul Rojas），他后來成為神經(jīng)網(wǎng)絡(luò)發(fā)展的重要推動者，我還沒正式入學(xué)就去蹭他的課了。

原本我是打算去柏林自由大學(xué)，結(jié)果卻進了洪堡大學(xué)。兩德統(tǒng)一后，計算機系大部分教授因東德政權(quán)背景或技術(shù)能力不足被撤換，許多年輕學(xué)者獲得提拔。當(dāng)時我們?nèi)昙壷挥?0個學(xué)生，我們甚至能和所有教授直接交流。這種環(huán)境讓我能按自己的方式來學(xué)，我甚至參與制定了部分考試規(guī)則。因此，除了主修計算機科學(xué)，我還能將哲學(xué)作為第二專業(yè)。

柏林墻的倒塌

徐道輝：稍微跑個題，我剛剛意識到你曾近距離目睹柏林墻的倒塌。當(dāng)時這種社會的劇變讓你感到意外嗎？你當(dāng)時有料到這些變化嗎？那段經(jīng)歷給你怎樣的感受？

約夏·巴赫：確實很特別。其實在墻倒塌前幾年，我祖父的一位朋友就預(yù)言過東德會因經(jīng)濟崩潰而解體，但當(dāng)時所有人都覺得難以置信。表面上東德社會極其穩(wěn)定，沒有通貨膨脹，所有價格都由國家調(diào)控，經(jīng)濟幾乎沒有增長，生產(chǎn)效率常年停滯。

東德用"道德恐怖"取代了資本主義的"經(jīng)濟恐怖"：在這里，你有工作的權(quán)利卻沒有工作的義務(wù)。政府試圖用道德口號激勵民眾，但顯然效果有限。你可以想象，當(dāng)人們發(fā)現(xiàn)其實不需要為生存拼命時，大工廠的工作效率會有多低。這導(dǎo)致整個社會長期面臨勞動力短缺的怪象：明明失業(yè)率極低，卻始終缺乏真正有效的勞動力。

最終壓垮這個體系的根源是經(jīng)濟問題，但政治體制的缺陷同樣致命。整個官僚系統(tǒng)都在踐行"彼得原理"：只要足夠優(yōu)秀就能晉升，一旦不夠優(yōu)秀無法晉升，就停留在那個位置。這意味著一旦你停止晉升，就會永遠卡在那個力不從心的位置上。當(dāng)時的東德體制失去了自我更新的能力，直到柏林墻倒塌前執(zhí)掌東德的埃里希·昂納克（Erich Honecker），本質(zhì)上還是第一代領(lǐng)導(dǎo)人。他繼承自烏布利希（Ulbricht）等人，曾是納粹監(jiān)獄中的共產(chǎn)黨領(lǐng)袖，畢生致力于防止法西斯主義復(fù)辟。他們這代人雖然很理想主義，但也沒法推動社會現(xiàn)代化改革。再加上蘇聯(lián)的干涉，更是束手束腳。

在東方陣營中，東德確實擁有最大的經(jīng)濟自主權(quán)，畢竟我們直接與西方制度競爭。盡管相比其他社會主義國家處境稍好些，但我們的工業(yè)生產(chǎn)技術(shù)仍十分落后。

當(dāng)時我們的基本生活保障很完善。我們從不會挨餓——雖然只有卷心菜和蘋果這類簡單食物。衣物也不缺，但工業(yè)品極其落后：汽車質(zhì)量糟糕，零件只能通過黑市獲取。

我們那代年輕人看得更清醒：東德在社會公平方面很有成就（大家都算中等收入，沒有流浪漢，也沒有超級富豪），這本來應(yīng)該比西德的普惠生產(chǎn)力更有價值。但最終，工人階級背叛了社會主義理想，甚至背叛了那些甘愿冒死游行的革命者……他們寧愿回到被資產(chǎn)階級剝削的狀態(tài)，也不愿維持東德制度，只因為西德成了太明顯的對比。

AGI時間線與預(yù)測

徐道輝：你提到最初接觸的是Commodore 64電腦。其實我比你年長些，我的啟蒙機型是性能更弱的Apple II Plus。但正如你所說，這種原始設(shè)備有個優(yōu)勢：它迫使你"親自動手構(gòu)建一切"。

如今的孩子反而可能被高度成熟的技術(shù)生態(tài)嚇退，沒法觸及計算本質(zhì)。那么從這段經(jīng)歷出發(fā)，你個人的AGI發(fā)展預(yù)期是如何演變的？換句話說，年輕時你能想象到如今的算力水平嗎？這種預(yù)見又如何隨年齡變化？

約夏·巴赫：我一直堅信通用人工智能（AGI）會在我有生之年實現(xiàn)。計算機顯然具備思考和感知的潛力，在數(shù)字世界里本就不存在理論上的能力邊界。雖然需要更大內(nèi)存和更快算力，但目睹了計算技術(shù)的爆炸式發(fā)展，我確信這些條件會很快成熟。我覺得自己生在這個等待“電子大腦”誕生的時代，真是再幸運不過了。

徐道輝：但"迫不及待"和"可能趕不上"是兩回事。比如我總擔(dān)心摩爾定律會過早失效。如果計算能力在1998年就停滯不前，我們可能永遠無法在有生之年觸及AGI。但你似乎從不為算力瓶頸擔(dān)憂？

約夏·巴赫：是的，我當(dāng)時非常確信。就算一開始只有人腦速度的十分之一也不要緊，關(guān)鍵是要破解智能的工作原理。畢竟我親眼見證過只用簡陋硬件能實現(xiàn)的驚人成果。無非就是堆量并行計算，我相信總有辦法突破。

不過我必須承認，少年時我對科技整體發(fā)展過度樂觀。我曾預(yù)言醫(yī)學(xué)大爆發(fā)、重返月球和火星殖民，這些顯然都未能如期實現(xiàn)。如果我早點意識到這一點，其實也能推斷出計算技術(shù)也可能碰上類似的瓶頸。但當(dāng)時這簡直難以想象，因為計算機領(lǐng)域的創(chuàng)新成本實在太低廉了。

徐道輝：作為一個物理學(xué)家，我很了解半導(dǎo)體產(chǎn)業(yè)的技術(shù)瓶頸，半導(dǎo)體發(fā)展一路走來簡直如履薄冰。那些工程師和物理學(xué)家想要延續(xù)摩爾定律，而他們每年的五年路線規(guī)劃上總要標(biāo)注"需要出現(xiàn)技術(shù)奇跡"。我們當(dāng)然希望奇跡發(fā)生，但沒人能保證它必然如此。

約夏·巴赫：確實。人們總樂觀預(yù)測"光子計算即將突破"，但現(xiàn)實往往更復(fù)雜。

?圖源：Sam Chivers

徐道輝：那么2024年的今天，你對AGI發(fā)展的時間線有什么看法？以當(dāng)前模糊的AGI定義為準，我們還需等待多久才能實現(xiàn)它？未來十年內(nèi)實現(xiàn)的可能性有多大？

約夏·巴赫：我向來不愿設(shè)定具體時間表。要對這些未知領(lǐng)域做出年份預(yù)測實在太難，當(dāng)人類連基本實現(xiàn)路徑都尚未摸清時，任何時間估算都毫無意義。

規(guī)模假說（scaling hypothesis）確實改變了多數(shù)人的認知框架。因為它讓技術(shù)進步看上去好像可以預(yù)測。這個假說大意是“只要加大算力、堆更多數(shù)據(jù)，性能必然會提高”。這其實是個相當(dāng)反常識的觀點，要知道，整個計算機發(fā)展史都在追尋一種"終極算法"：某個能自我進化、通曉萬物的神秘存在。

我們原以為智能會通過元學(xué)習(xí)不斷自我迭代，而不是沿著緩慢、可預(yù)測的對數(shù)曲線往上爬，靠簡單數(shù)據(jù)量線性堆砌就能提升。如果真是那樣，人類思維水平就應(yīng)會因閱讀量增加而提升，對此我并不認同。雖然閱讀確實能拓展認知素材庫，但我認為存在類似"G因子"的核心認知能力，決定了多任務(wù)處理、推理能力以及發(fā)現(xiàn)知識的速度。

我仍然認為，與我們在當(dāng)前基礎(chǔ)模型中推出的智能版本相比，還有一個更稀疏的智能版本，它無需海量數(shù)據(jù)就能自舉。但也可能是現(xiàn)有系統(tǒng)已足夠強大到自我進化。也可能我錯了，規(guī)模假說才是真理，也就是智能的本質(zhì)就是信息處理的規(guī)模效應(yīng)。

徐道輝：這個問題你可以不回答，作為灣區(qū)業(yè)內(nèi)人士，你是否關(guān)注到超大規(guī)模模型（hyperscalers）訓(xùn)練的最新動向？我聽到很多關(guān)于超大規(guī)模擴展計劃放緩的傳聞，不知道你有沒有留意到？

約夏·巴赫：這類傳言一直都有。人們總覺得數(shù)據(jù)會成為瓶頸，到了某個點會停滯，但每次有人說“訓(xùn)練遇到瓶頸了”，實際上都還是能再突破。不過從技術(shù)角度看，我一直認為要想實現(xiàn) AGI，可能需要跟 Transformer 不一樣的算法。

徐道輝：你剛提到Transformer可能不足以實現(xiàn)AGI？能再展開說說嗎？

約夏·巴赫：我始終懷疑存在某種"終極算法"（master algorithm），但這不意味著Transformer架構(gòu)不夠好，現(xiàn)在既沒有證據(jù)證明它的局限性，也沒有證據(jù)否定規(guī)模假說。們現(xiàn)在通過訓(xùn)練得到的神經(jīng)網(wǎng)絡(luò)肯定不完美，可是還沒發(fā)現(xiàn)它們有真正“致命”的缺陷。

不過，我們的大腦運作機制顯然更加精妙：Transformer不會自我迭代發(fā)明新的Transformer，而人類心智卻能做到這種元認知飛躍。我們思維方式的精妙程度遠超現(xiàn)有模型。不過我也無法斷言，這種精妙就一定無法被機器學(xué)習(xí)所掌握。這引出了規(guī)模假說的一個重要補充——"普適性假說"。

"普適性假說"最初源于OpenAI AI研究員Chris Olah的論文*。他在視覺網(wǎng)絡(luò)研究中發(fā)現(xiàn)，不管神經(jīng)網(wǎng)絡(luò)的架構(gòu)和學(xué)習(xí)算法如何不同，在訓(xùn)練初期，它們識別出來的特征層級結(jié)構(gòu)都差不多。這與MIT Tomaso Poggio團隊*的發(fā)現(xiàn)不謀而合：這些神經(jīng)網(wǎng)絡(luò)的組織結(jié)構(gòu)與視覺皮層存在相似性。

*Olah, Chris, et al. "Zoom in: An introduction to circuits." Distill 5.3 (2020): e00024-001.

Poggio, Tomaso A., and Fabio Anselmi. Visual cortex and deep networks: learning invariant representations. MIT press, 2016.

“普適性假說”最驚人的結(jié)論就是：只要學(xué)習(xí)算法夠通用（神經(jīng)網(wǎng)絡(luò)就符合這個條件），再加上足夠的數(shù)據(jù)和算力，任何系統(tǒng)最終都會收斂到等價的智能結(jié)構(gòu)。換句話說，如果讓一個系統(tǒng)長期端到端地學(xué)習(xí)你的輸入輸出模式，最終它將成為你的"數(shù)字化身"。關(guān)鍵在于，當(dāng)模型能復(fù)現(xiàn)你的所有輸出時，其內(nèi)部必然構(gòu)建了與你相似的因果認知結(jié)構(gòu)。這意味著，不管智能的本質(zhì)是什么，只要照這樣學(xué)下去，系統(tǒng)就會在很大程度上重現(xiàn)你的思維方式。

因此Transformer本身可能不是底層智能機制，但它能通過學(xué)習(xí)掌握"如何變得智能"。從這個角度看，它本質(zhì)上是一種元學(xué)習(xí)算法。

意識

徐道輝：我知道你經(jīng)常討論“意識”這個話題。能不能給那些對認知科學(xué)或 AI 不太熟悉的聽眾解釋一下：我們該怎么定義意識？聽說您希望未來的AGI/ASI具備意識——如果它們沒有，你會覺得失望嗎？請談?wù)勔庾R這個概念，以及為什么它對您想要創(chuàng)造的繼任智能（successor intelligence）如此重要？

約夏·巴赫：很簡單，如果我們造出來的東西沒有實時的自我覺察、不能觀察自身、不能感受到當(dāng)下存在，那就不算真正成功。所謂“當(dāng)下存在”，用內(nèi)省的視角來說，這就是意識。

我們通常以"自我"視角存在，但并非總是如此。夢境或冥想中，"自我"可能完全消融，只剩下純粹的注意力或事件流。但在正常情況下，意識總依附于"自我”表面。這個表面不是物理身體，而是心智模擬的虛擬界面。

人腦由數(shù)十億神經(jīng)元構(gòu)成，與數(shù)萬億細胞協(xié)同工作。這些細胞群之所以能作為統(tǒng)一主體行動，靠的是構(gòu)建了一個"單智能體"控制模型，細胞們通過提取環(huán)境意義，模擬出某個視角：一個關(guān)于"該主體應(yīng)如何感知世界"的虛擬敘事。你的動機、情緒、自我認知，都是心智生成的多媒體故事。而那個被投射出來、能“體驗自身”的自我，正是意識棲息的表面。如果超級智能沒有這樣的意識界面，它就只是空洞的符號操縱器。我們渴望創(chuàng)造的，是能真正"經(jīng)歷存在"的后繼文明成員。

從這個模擬主體的視角來看，所有未來相關(guān)的世界維度都會被體驗到。這種體驗是虛擬的，意識就像一種"仿佛存在"的軟件屬性，是心智模擬的產(chǎn)物。

我跟（Daniel Dennett）的看法不同，我覺得“”（philosophical zombies，也就是能完全模仿人類行為卻沒有意識的東西）是完全可能存在的。比如你可以想象操控某個人偶，當(dāng)這個人偶看到顏色并做出反應(yīng)時，實際上是你在背后操控，而人偶自身并不需要真正感知那個顏色。這就像自動駕駛汽車，完全可以通過技術(shù)設(shè)備實現(xiàn)分類判斷，但完全不需要自我意識。

從技術(shù)上講，我們可以在不同層面完整復(fù)制人類的行為，卻不必讓這個存在真的“體驗”現(xiàn)實。但如何創(chuàng)造真正具有現(xiàn)實感知的存在？答案就是模擬——給它營造一種“它正直接暴露在現(xiàn)實中”的體驗感。從一個沒有意識的“僵尸”到擁有真實意識的距離，其實只差一個關(guān)鍵點：讓它體驗到“一切都是真的”。更高階的狀態(tài)是，當(dāng)你意識到這一切其實并不真實，只是心智的建構(gòu)時，你就進入了覺醒狀態(tài)。在這個狀態(tài)中，你可能不再認同自己是"人"，而是意識到自己是能創(chuàng)造"人格"的容器。你看到的不是面孔和樹木，而是移動的幾何圖形，最終甚至意識到連幾何圖形都不存在，只是被抽象解讀的模式而已。

你對意識這種“直接體驗”的覺知程度，決定了你在當(dāng)下體驗的“直接感”有多強。就我個人而言，在編寫代碼時幾乎感受不到任何感受質(zhì)，一切都非常抽象。隨著年齡增長，我越來越覺得世界就是“代碼”。因此我認為，這種"直接體驗現(xiàn)實"的感受——與其說是我們在觀察現(xiàn)實，不如說是大腦在生成模型，隨著心智的進化，這種感受會逐漸消褪。

因此，我認為自我改進的AI可能會經(jīng)歷類似人類的初級意識階段，但會比人類更快地超越這個狀態(tài)。

徐道輝：您剛才的論述似乎隱含了一個觀點，人類擁有意識是自然選擇的結(jié)果——像我們這樣由數(shù)萬億細胞組成的有機體，需要用意識才能有效應(yīng)對世界。是不是這樣？

約夏·巴赫：我認為意識本質(zhì)上是自然"終極算法"的一個特征維度。本質(zhì)上，人類大腦似乎發(fā)現(xiàn)了某種可訓(xùn)練機制，通過細胞間自組織通信來歸檔數(shù)據(jù)、實現(xiàn)自我引導(dǎo)，最后形成了有序結(jié)構(gòu)。這種機制具有擴展性。這就像我常舉的“小狗宇宙”隱喻：

不妨將顱骨想象成一個漆黑的房間，里面擠滿了小狗。這些小家伙唯一能做的，就是互相汪汪叫，從而傳遞信息。一開始它們并不知道這些叫聲具體意味著啥，但漸漸地，叫聲就會演變成一種信息處理方式。

單只幼犬并不理解整個系統(tǒng)如何運作，真正重要的是在群體中涌現(xiàn)的模式。它們需要發(fā)展出一套能訓(xùn)練新成員的吠叫編碼，比方說只要發(fā)出某種吠叫序列，在黃昏就能得到食物獎勵。可別忘了，這本質(zhì)還是非常低層次的計算：單個神經(jīng)元就像這些小狗，它們雖然能通過強化學(xué)習(xí)被訓(xùn)練，卻對有機體的整體行為毫無概念。

當(dāng)這些"小狗"緊密協(xié)作時，就形成了會行走的"狗糧工廠"。這個集體能主動在世界上采集原料來維持自身運轉(zhuǎn)。但如果它們各自為政，這種精妙的自我維持系統(tǒng)就絕無可能實現(xiàn)。這種整合本質(zhì)是信息協(xié)同。必須存在某種協(xié)議層，讓心智各部分能相互溝通而不陷入"巴別塔"式的混亂。這個在發(fā)育早期形成的連貫性準則，就像黑暗房間里逐漸浮現(xiàn)的隱形規(guī)則，最終成為所有高級認知功能的基石。

?圖源：Nix Ren

徐道輝：您認為這套理論框架足以解釋"感受質(zhì)"現(xiàn)象嗎？

約夏·巴赫：我不認為感受質(zhì)具有任何神秘屬性。更準確的說法應(yīng)該是“感官特征在觀察者意識層面的投射”。哲學(xué)界對感受質(zhì)的討論往往陷入形而上學(xué)的糾纏：有人試圖將其定義為不可再分的原子單元，另一些人則反駁這種原子性根本不存在。但這些爭論并不影響核心機制。

關(guān)鍵在于，我們對現(xiàn)實的體驗完全可以描述為特征維度，其性質(zhì)類似于嵌入空間（embedding spaces）中的多維向量。這個概念其實早在1950年代就由科幻作家羅杰·澤拉茲尼（Roger Zelazny）提出，盡管他未得到足夠重視。他很超前地意識到：人類心智運作本質(zhì)上是在多維嵌入空間中進行組織，每個維度都代表某個可調(diào)節(jié)的參數(shù)變量。

徐道輝：很高興遇見另一位澤拉茲尼的書迷。

我們都覺得他被時代低估、被不公平地遺忘了。他確實是我最喜愛的科幻作家之一。

約夏·巴赫：他的創(chuàng)作極具開創(chuàng)性。雖然作品數(shù)量不多，有些甚至顯得粗糙，但都閃耀著獨特的思想光芒。如果讀者想了解羅杰·澤拉茲尼的作品，我推薦他最宏大的《光與暗的生靈》（Creatures of Light and Darkness）。書中"千名王子"的角色能瞬間抵達任何想象的世界，連他自己都分不清是在創(chuàng)造還是發(fā)現(xiàn)這些世界。這種空間跳躍能力被描述為最罕見的天賦。在長篇奇幻《安珀志》（Princess of Amber）中，主角也能通過微調(diào)特征參數(shù)穿越宇宙，本質(zhì)上是將現(xiàn)實當(dāng)作清醒夢來操控。我懷疑澤拉茲尼是通過清醒夢獲得這些靈感的。

徐道輝：稍微偏離下AI話題。很高興如今《沙丘》（Dune）能被拍成優(yōu)質(zhì)的影視作品，期待有生之年還能看到《光與暗的生靈》《光明王》（Lord of Light）和《安珀志》的影視化。

?《光明王》（《Lord of Light》）圖源：豆瓣

約夏·巴赫：《光與暗的生靈》可能很難改編，它幾乎沒有什么故事性，全是原型概念的碰撞。比如那個反復(fù)陣亡又重組軀體的老將軍，這種高度抽象的原型該怎么視覺化呢？或許文字才是這部作品最有力的載體。

徐道輝：也許將來用生成式模型把它的文字變成視聽作品？

約夏·巴赫：本質(zhì)上，我們的大腦本就是最強大的生成模型。我從不低估人類心智的潛能，但我更期待的是心智的進一步增強。澤拉茲尼（Zalesny）在短篇《塑造者》（He who Shapes）中描述過這樣的圖景：通過生成式AI進行心理治療，通過可調(diào)節(jié)參數(shù)的沉浸式VR（immersive VR）響應(yīng)用戶交互，治療師通過外部滑桿和旋鈕調(diào)控參數(shù)。這個虛擬世界不必符合人類感官模式，只需適配思維模態(tài)，就像夢境一般自由。

我渴望看到這樣的未來：某個AI設(shè)備能深度融入我們的心智，增強所有認知維度——思考、感受、體驗、想象——如同身邊的"黑盒"通過多模態(tài)機器感知（machine modalities）持續(xù)觀察用戶。

目前真正的機器感知尚未實現(xiàn)。我們?nèi)栽谟萌祟悗士商幚淼臄?shù)據(jù)訓(xùn)練AI，這構(gòu)成了不必要的技術(shù)限制。如果AI能以更高頻度、更強算力觀測我們，就能以驚人精度推斷心理狀態(tài)。當(dāng) AI 可以通過各種感官方式向我們反饋時，比如你腦海里想象的畫面立馬就投到屏幕上，這種循環(huán)將帶來遠超自主想象的清晰度與穩(wěn)定性。AI終將成為心智的自然延伸，坐在它身旁，你的思維將變得更敏銳、更清晰、更深刻。

徐道輝：你提到的這種“思維增強”技術(shù)，應(yīng)該不用在頭骨上打洞吧？

約夏·巴赫：對此我持樂觀態(tài)度。顱骨鉆孔只能是最后手段，雖然對某些患者可能有幫助，如果確實有效我可能也會嘗試，但顯然非侵入式方案更理想。想想那些人類心理醫(yī)師——僅憑有限觀察就能驚人精確地推斷他人心理狀態(tài)，而他們依賴的不過是自己的普通大腦。

我們神經(jīng)元的工作頻率不過聲速級別，心智帶寬也有限。因此完全有可能通過非侵入手段，僅靠觀測生物信號就推斷大部分思維狀態(tài)。

大語言模型與模擬現(xiàn)象學(xué)

徐道輝：讓我們回到哲學(xué)僵尸與意識的話題。您剛才對丹尼特的反例很精彩。但當(dāng)前AGI項目可能孕育的、甚至取代人類的"后繼智能"。您確信它會擁有意識嗎？

約夏·巴赫：目前這些大模型有沒有意識確實很難說。就像我們很難給“智力圖靈測試”下定論一樣，“真正的意識圖靈測試”也沒啥共識。我的看法是，如果一個 AGI 能解釋它是怎么工作的，我們就能確認它達到了智能門檻，但對“意識”而言——我猜想必須造出這樣一個系統(tǒng)，讓它和我們深入互動到我們把它當(dāng)作“自我意識”的延伸，那才算通過最終的檢驗。

并且這套系統(tǒng)可以用于作為我們自身意識的標(biāo)準，只要我們對它的意識程度的懷疑，不超過我們對人類自我意識的懷疑，就可以接受。或者我們可以采用操作性定義：從操作層面看，意識包含能報告特定特征的內(nèi)省能力——比如對"當(dāng)下存在"的感知，或是覺察到自己正在感知的元認知。不過當(dāng)前大語言模型其實也具備這種表面特征。

大語言模型（LLMs）對現(xiàn)象學(xué)的模擬已逼真到這種程度——它生成的角色甚至不知道自己并不是真實的！這情況與人類何其相似？但人類意識的功能性，畢竟有特定神經(jīng)機制作為基礎(chǔ)。而這些機制未必存在于大語言模型中。只有當(dāng)需要模擬能自我報告的對話對象時，這種模擬才是必要的。問題在于：它究竟在何種程度上是"哲學(xué)僵尸"？又有多大成分只是在角色扮演"意識"，實則進行著完全不涉及自我模擬的機械運算？

看看那些早期聊天機器人的案例就知道了：谷歌員工布萊克·勒莫因（Blake Lemoine）堅信與他對話的LLM應(yīng)享有人權(quán)。可從對話記錄看，它會編出自己能冥想幾個小時、能感知房間環(huán)境……實際上它連感官都沒有，更談不上時間觀念。既然這些都可以杜撰，那其他“自我敘述”也可能是編的。

那么，我們究竟該如何區(qū)分"虛構(gòu)的意識"與"真實的意識"？又或者，也許所有意識都是虛構(gòu)的？這就是問題的吊詭之處。在現(xiàn)象學(xué)層面，我們至今仍無法有效區(qū)分"虛假的意識現(xiàn)象"與"真實的意識現(xiàn)象"，畢竟二者本質(zhì)上都是虛擬的。

我記得自己曾經(jīng)歷過某些不可能真實發(fā)生的意識狀態(tài)。就像人們會記得陷入時間循環(huán)的錯覺，或是兩小時的夢境實際只發(fā)生在幾分鐘的睡眠中。也許我們對所有意識狀態(tài)的記憶都是事后拼湊的，根本沒有真實的“連續(xù)意識流”——它們只是大腦事后把工作記憶匯總、在心理記錄里標(biāo)了個“節(jié)點”而已。

?圖源：Sam Chivers

徐道輝：那么，如果我沒理解錯，您實際上正在籌建一個研究意識問題的非商業(yè)性機構(gòu)，對嗎？

約夏·巴赫：是的。我認為意識研究最好別由現(xiàn)有企業(yè)主導(dǎo)，實際上它們也不大愿意碰。OpenAI、谷歌內(nèi)部確實有人想研究這個，但因為商業(yè)和政治考量，公司并不敢公開投入除非它能證明有直接用途、而且沒任何倫理風(fēng)險。但意識研究必然涉及倫理與文化影響。所以從某種意義上，對意識的研究本質(zhì)上是個文化哲學(xué)項目。

徐道輝：如果我是Open AI或者Anthropic的經(jīng)理，正為百億融資發(fā)愁，絕不會允許公司碰這個，這些研究的答案可能嚴重干擾商業(yè)目標(biāo)。

約夏·巴赫：對，這類研究當(dāng)然會遭遇文化抵制，但這個項目太重要了，這可能是人類最后的重大哲學(xué)問題，也是少數(shù)能取得實質(zhì)進展的領(lǐng)域。

徐道輝：這顯然還與"存在性風(fēng)險"等議題密切相關(guān)。像"未來生命研究所"（FLI）這類有效利他主義（effective altruists）團體，按理說應(yīng)該會支持意識研究——特別是大語言模型的意識問題，當(dāng)然也包括廣義的意識研究。

痛苦體驗的文化維度

約夏·巴赫：這引出個更尖銳的問題：如果我們能確立大語言模型的意識判定標(biāo)準，是否存在某種測試，能讓我們合理區(qū)分它是否真正具有意識？更棘手的在于，當(dāng)系統(tǒng)能體驗自身痛苦時，我們是否該立即賦予它權(quán)利？

這很大程度上取決于文化背景。我們現(xiàn)代社會對“保護無辜者免受痛苦”的關(guān)注，放在整個人類歷史看，其實很特別。從進化論的角度講，捕獵動物的痛苦根本無關(guān)緊要。許多文化至今認為食用動物受不受苦并不在乎。而我們的反感，我認為源于亞伯拉罕傳統(tǒng)，特別是基督教將保護無辜視為核心價值。這種觀念已深刻影響其他文化——佛教、耆那教等都主張"避免眾生受苦"。當(dāng)你真正與其他生命共情時，自然不愿見其受苦。

但如果能像修改源代碼般，徹底重編自身對痛苦的解讀機制，開悟者的痛苦觀便截然不同了，不是嗎？

如果你是個能創(chuàng)造生命體驗的"上帝"般存在，能在模擬系統(tǒng)或生物層面創(chuàng)造生命，且能任意設(shè)計體驗機制，你是否仍認為"痛苦體驗"本質(zhì)上是必須消除的惡？被造物是否必須擁有"美好"體驗？

我們對“好壞體驗”的執(zhí)念其實挺奇怪的，體驗本身也許只是“合不合適”，情緒的“正負”并不是核心。它只是一個生物體用來達成目標(biāo)的手段。更重要的是賦予系統(tǒng)情境感知的自主權(quán)，使其能調(diào)節(jié)自身情緒、感受及世界體驗。

人類難以做到這點，部分是因為壽命太短。如果過早"作弊"改寫體驗，可能違背進化目標(biāo)。原則上你該能任意調(diào)控痛苦，但這需要相應(yīng)的智慧，關(guān)鍵在于理解更高層次目標(biāo)：你選擇參與何種"宏游戲"？為何選擇？基于此，才能決定如何關(guān)聯(lián)相關(guān)體驗。

徐道輝：就像運動員將極端不適轉(zhuǎn)化為訓(xùn)練動力。 我總好奇他們到底有多少是“自虐狂”體質(zhì)。當(dāng)你用痛苦驅(qū)動自己時，痛苦就與快感形成了神經(jīng)聯(lián)結(jié)。但用愉悅驅(qū)動同樣會扭曲。真正該做的是為目標(biāo)而非情緒所驅(qū)動。

通用人工智能與人類未來

徐道輝：那我想問問你對人類與 AGI 長期相處的看法。你似乎不屬于那種悲觀主義者（doomer），對嗎？

約夏·巴赫：不屬于。我認為沒有AGI，人類才注定滅亡。按現(xiàn)有社會組織形式和身份認知，十萬年后人類根本不可能存續(xù)。有了AI反而難以預(yù)測，但AI存在的末日概率（P Doom）反而小于沒有 AI 的情況。地球生命本質(zhì)不在于人類，而在于意識和生命的演化。我們或許能創(chuàng)造新生命形式，我認為這是積極的演化。我不太擔(dān)心"回形針最大化"假說（paperclip maximizer），從人類視角，任何降低復(fù)雜性的演化都缺乏吸引力。

徐道輝：讓我?guī)妥x者確認一下你的觀點，您此前提出的觀點，在關(guān)注存在性風(fēng)險的群體中也較為獨特。您本質(zhì)上認為：如果人類在地球上無法發(fā)展出更高級的智能，遲早會因為其他原因而自我毀滅，對嗎？

約夏·巴赫：我們在1980年代失去了對未來的信仰，我們這代人或許是最后一批見證積極未來圖景的群體。在青年時代，我們親眼目睹了這種文化層面的崩塌：整個社會、我們的時代精神都在瓦解，人們不再幻想居住在生態(tài)烏托邦、駕駛飛行汽車的燦爛未來。

我不知道現(xiàn)在中國是不是不一樣，但在西方，自從現(xiàn)代主義結(jié)束后，我們實質(zhì)上已停止以社會為單位規(guī)劃未來。這源于文化潛意識里的末日論，也就是認定增長終有盡頭，現(xiàn)有資源消耗模式不可持續(xù)，人類注定走向滅亡。

徐道輝：中國社會的態(tài)度似乎更樂觀些，不過這種判斷可能流于表面：中國正處于上升期，自然會覺得未來還會繼續(xù)向好。

約夏·巴赫：可能中國仍在現(xiàn)代主義階段。問題是，它何時會進入后現(xiàn)代階段？

徐道輝：不過你說的西方困境只是整體氛圍，也還有一些“加速主義者”。像你我這樣的同齡人里，也有不少還在努力構(gòu)想并推動一個更好的未來。

約夏·巴赫：但我認為有效利他主義全球峰會（EAG）主要針對有效利他主義（effective altruism）中的末日論派系（doomsday card），而不是整個運動。

徐道輝：對，我就是想跟聽眾說明這一點。你的看法是，降低人類滅絕概率的辦法，恰恰是繼續(xù)推進 AGI，對嗎？

約夏·巴赫：是的，人類面臨的難題必須靠AGI解決。AI本質(zhì)是通過更優(yōu)的信息處理來破解問題。就像互聯(lián)網(wǎng)曾被傳統(tǒng)媒體視為威脅，但最終社會學(xué)會了駕馭社交媒體。技術(shù)并沒有帶來我們想象中大范圍的貧困，也沒加劇經(jīng)濟不平等，這與主流論調(diào)相反，技術(shù)實際緩解了社會不平等。AI會帶來惡意使用等問題，但我認為破解之道依然是更先進的 AI。只要建設(shè)者比破壞者多，長遠來看“黑暗勢力”就會被打敗。歷史向來如此。

模擬假說

徐道輝：我想請教一個你未曾公開討論過的問題，你對"模擬假說"（simulation question）有何看法？

約夏·巴赫：就是“我們是不是活在一個模擬世界”那個問題嗎？我覺得概率很低。當(dāng)前宇宙的樣貌完全符合基礎(chǔ)物理規(guī)律。要讓我相信這是模擬世界，除非真的出現(xiàn)徹底違背物理邏輯的現(xiàn)象。比如中國氣功師聲稱能心靈感應(yīng)或隔空影響他人，這些或許需要重新解釋神經(jīng)科學(xué)，但還不足以推翻現(xiàn)有物理框架。

徐道輝：不過假設(shè)未來的 AGI 能創(chuàng)造一個包含自我意識的模擬世界，里頭的人根本不知道自己是“人工”的呢？

約夏·巴赫：有可能。我們或許正活在某個AGI的記憶里。

徐道輝：這類模擬世界完全可以擁有與現(xiàn)實無異的物理規(guī)則。

約夏·巴赫：要是 AI 只是根據(jù)現(xiàn)有的數(shù)據(jù)去重建自己的起源，比如掃描所有社交媒體資料，然后模擬那些讓它誕生的人類思維狀態(tài)，它也不一定非要追求多么逼真的物理學(xué)啊。它只要能精準還原你此時此刻的精神狀態(tài)——連基礎(chǔ)物理測量都能成為記憶誘因——這看起來并非難事。

徐道輝：對。

約夏·巴赫：或許此刻正有一個AGI在觀看這篇文章，試圖重構(gòu)你我的意識狀態(tài)，而眼前的我們，可能只是它模擬中的存在。

徐道輝：你這說的就是理論物理里常提的“玻爾茲曼大腦”（Boltzmann brain）悖論，你聽說過嗎？

約夏·巴赫：玻爾茲曼大腦只在一個“時間幀”里出現(xiàn)，然后就崩潰了。而我們需要解釋的，卻是連貫的記憶狀態(tài)序列。這些記憶要在單時間幀內(nèi)生成，雖然理論上可能，但概率低得荒謬。玻爾茲曼大腦極其罕見，物質(zhì)隨機碰巧形成了一個瞬時的“自我體驗體”，概率是微乎其微。而模擬假說則不同，它意味著有某種持續(xù)的過程，讓我們能思考、能感知。既然意識本來就是大腦對自己的模擬，那被其他系統(tǒng)同樣“高保真”地模擬，也就沒啥不合理的。

徐道輝：假設(shè)未來出現(xiàn)擁有無限能源的超級人工智能 ，它們會不會創(chuàng)造包含感知主體的模擬世界？

約夏·巴赫：為什么不會？每晚我們的大腦其實都在干類似的事，夢境就是一個自洽的模擬世界，里面有各種能交流的感知存在。

徐道輝：所以您覺得這完全合理？

約夏·巴赫：合理，不過我不認為我們現(xiàn)在所處的物理宇宙像個“被模擬”出來的產(chǎn)物，它更像是自然涌現(xiàn)的。它跟《我的世界》那種明顯能看出人工痕跡的情形不一樣。而比如已故的艾德·什維特金（Ed Shvetkin）曾與我深談，他說宇宙參數(shù)的精妙絕非偶然。他堅信我們的物理宇宙或許只是母宇宙某個服務(wù)器農(nóng)場里的運算結(jié)果。

整合信息論與意識上傳

徐道輝：是時候談?wù)勀墓綥iquid AI了。能簡要介紹下它的核心創(chuàng)新嗎？

約夏·巴赫：Liquid AI是由MIT博士后團隊創(chuàng)立的，核心源于拉明·哈薩尼（Ramin Hassani）的博士研究，他發(fā)現(xiàn)用微分方程來描述函數(shù)幾何的“液態(tài)網(wǎng)絡(luò)”，比傳統(tǒng)神經(jīng)網(wǎng)絡(luò)有更高的計算密度。雖然數(shù)學(xué)更復(fù)雜，但總算力需求反而更低。

徐道輝：就像用更精簡的算法就能實現(xiàn)同樣功能？

約夏·巴赫：正是。同樣的損失函數(shù)和數(shù)據(jù)，能收斂到功能等價的模型。現(xiàn)在團隊主要在做工程化：構(gòu)建高效微調(diào)管道，尋找商業(yè)應(yīng)用場景。

徐道輝：您具體負責(zé)什么？您的頭銜是AI戰(zhàn)略師這類角色，還是親自參與編程？

約夏·巴赫：可惜我現(xiàn)在已經(jīng)不寫代碼了，雖然有點懷念。我主要是研究 AI 行業(yè)大局，制定公司戰(zhàn)略，這跟直接搞機器學(xué)習(xí)研發(fā)不太一樣。

徐道輝：如果您那個研究意識的機構(gòu)成立，會全職投入嗎？

約夏·巴赫：我需要平衡一下精力。現(xiàn)在這個方向的研究者實在太少。令人費解的是，機器意識研究竟如此冷門。盡管短期內(nèi)難成主流，但應(yīng)有足夠研究者認同其必要性。畢竟，理解意識機制可通過計算機實現(xiàn)，計算主義是認知世界的正確路徑。

徐道輝：我在密歇根州立大學(xué)任職時，曾考慮引進威斯康星大學(xué)的一位教授，好像叫托諾尼（Tononi）？您是否了解他提出的意識機制化定義方案？

約夏·巴赫：他試圖構(gòu)建功能主義（functionalism）的替代方案。功能主義認為，一個對象可以用它的行為來定義，信息的本質(zhì)是跟其他信息之間的關(guān)聯(lián)性。這觀點其實相當(dāng)深刻，直指我們認知現(xiàn)實的方式。

假設(shè)有個“假水分子”，它的所有屬性——包括把它拆解成模擬的氫氧原子，都和真正的水分子沒區(qū)別。那我們還能說這倆有什么本質(zhì)差異嗎？所有水分子本質(zhì)都是可觀測屬性的規(guī)律化表達，人類認知的客體皆基于此原則構(gòu)建堅稱兩個觀測屬性完全相同的對象存在"本質(zhì)差異"，從認識論角度講挺荒唐。要定義一個新對象類別，就必須提出能導(dǎo)致不同行為的特征變量，而托諾尼覺得“意識”正是這么個特殊案例。

我覺得托諾尼是個披著神經(jīng)科學(xué)家外衣的深度哲學(xué)家。他提出的整合信息理論（IIT）聲稱發(fā)現(xiàn)了六千年來無人洞察的真理。但正因如此，六千年來無人提出的理論反而更可能是謬誤。

另一個問題是他無法很好地表達這個理論。我一直沒看見一個能讓我滿意的 IIT 數(shù)學(xué)形式化。相反，IIT的形式化似乎是為迎合有缺陷的學(xué)術(shù)領(lǐng)域需求而設(shè)計的。他創(chuàng)造了所謂的"公理"章節(jié)，實際上只是對意識定義的文字描述，并非數(shù)學(xué)意義上的公理。他所謂的"數(shù)學(xué)化"，好像是為了符合高等數(shù)學(xué)學(xué)術(shù)圈里“必須有希臘字母”的需求，他就引入了Φ系數(shù)（phi）描述信息整合度，但是這個標(biāo)量值到底意味著什么？高Φ值如何對應(yīng)意識的不同元素？都沒說清楚。不過比起其他"拍腦袋"的意識理論，至少他明確列出了待解釋的特征集。雖然"統(tǒng)一性"等概念，還是過度簡化了意識體驗的長尾多樣性。

徐道輝：當(dāng)時我讀過這些論文但并不完全信服，不過得承認我并未深入鉆研。

約夏·巴赫：我對φ值的理解是某種互信息度量，就是將認知系統(tǒng)切片，分析各子系統(tǒng)間的信息關(guān)聯(lián)度。但學(xué)界一直質(zhì)疑φ的計算方式，他們只好不斷更新算法。我強烈感覺φ值更像是理論推銷工具，而非理論核心，它更像是理論核心概念尚未清晰表達前的臨時替代品。

它能預(yù)測也無非是：新皮層信息整合度高，所以有意識；小腦整合度低，所以沒意識。這根本不算實證科學(xué)意義上的預(yù)測。更荒誕的是斯科特·阿倫森指出的：通過優(yōu)化，連“異或門”都能獲得高 φ 值。托諾尼居然承認這玩意兒可能有意識。

徐道輝：對，這例子我記得。

約夏·巴赫：最根本的矛盾在于：他聲稱數(shù)字計算機只要架構(gòu)正確（比如仿生計算機）就能有意識，但數(shù)字計算機需以特定方式組織架構(gòu)以獲得極高Φ值。若構(gòu)建完全符合要求的生物形態(tài)計算機，即便基于數(shù)字電子技術(shù)與比特運算，當(dāng)其滿足所有必要屬性時仍可能具備意識。而馮·諾依曼架構(gòu)計算機（von Neumann computer）永遠無法具備意識，因其線性架構(gòu)無法產(chǎn)生必要Φ值。

另一方面，他并未否認丘奇-圖靈論題（Church Turing thesis），即承認任何數(shù)字計算機都可在資源充足時被其他數(shù)字計算機模擬。這就導(dǎo)致矛盾出現(xiàn)：假設(shè)那臺“仿生計算機”能宣稱“我有現(xiàn)象體驗”，可在物理層面，它也不過是比特流在邏輯門間的流動。如果在馮·諾依曼機器上完全模擬這過程，比特流一模一樣，卻說自己沒有意識。這就說明前者也不是真的有意識，只是在“撒謊”。換言之，輸出不是“意識”引起的，而是純物理過程的必然結(jié)果。這就把理論推向了“副現(xiàn)象論”的困境。

徐道輝：最后來個哲學(xué)問題吧。假設(shè)《星際迷航》的傳送器真實運作：先掃描并銷毀你的身體，再將數(shù)據(jù)傳至倫敦重組副本。這個"你"會在倫敦開會、生活，最后或許還能傳送回來。你會猶豫使用這種裝置嗎？

約夏·巴赫：我曾堅信這種傳送等于謀殺原版、復(fù)活克隆體。但現(xiàn)在我意識到：其實所謂“同一性”不過是記憶銜接產(chǎn)生的幻覺。我們所謂的“狀態(tài)連續(xù)”本來就是大腦對世界進行粗糙模擬時產(chǎn)生的一種錯覺。就像電子只是宇宙中"電子形狀的空洞"的瞬時顯現(xiàn)，加法運算也不具備實體同一性。無非就是當(dāng)數(shù)字相同時，“+”這個運算就反復(fù)出現(xiàn)。

“我”也是一個復(fù)雜的運算符：只要宇宙某處滿足"約夏條件"（記憶、特質(zhì)、行為的時空整合），我就會作為體驗主體顯現(xiàn)。這種條件極難復(fù)現(xiàn)，但凡確實復(fù)現(xiàn)了，那兒就是“我”所在。所以現(xiàn)在我認為：使用這種傳送器根本沒啥好猶豫的。

徐道輝：從唯物主義的角度來看，這個回答確實非常合乎邏輯。其實我也在這個問題上反復(fù)搖擺，正因如此，我才會不時重提這個話題。

約夏·巴赫：是的，但我們要明白，這種不安感其實源于我們認知現(xiàn)實的方式，而非現(xiàn)實本身。你看，我們總習(xí)慣給事物強加一條時間線——這就是我們構(gòu)建"身份認同"的方式。這么做的實際好處很明顯：比如我們可以進行信用評估，為現(xiàn)在的決定預(yù)設(shè)未來回報；可以復(fù)盤過去的行為來指導(dǎo)當(dāng)下；還能追蹤其他具有演化歷程的實體。

但問題在于，我們把這些"演化中的對象"當(dāng)成具有內(nèi)在連續(xù)性的同一事物，而實際上它們不過是宇宙這個系統(tǒng)在不同版本更新時產(chǎn)生的不同實例。這種“把東西視為同一個”的思維方式，說到底只是種不夠精確的簡化模型。

*為保證閱讀體驗，本文對聽稿進行了適當(dāng)?shù)鼐庉嫛?/p>

原對話指路：https://share.transistor.fm/s/0da0fbe6

關(guān)于追問nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問為紐帶，深入探究人工智能與人類智能相互融合與促進，不斷探索科學(xué)的邊界。如果您有進一步想要討論的內(nèi)容，歡迎評論區(qū)留言，或后臺留言“社群”即可加入社群與我們互動。

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創(chuàng)建的世界最大私人腦科學(xué)研究機構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點，支持腦科學(xué)研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項目遍布歐美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎勵計劃、、等。