教皇4萬(wàn)字10個(gè)觀點(diǎn)，說(shuō)透了人類(lèi)最大的焦慮

2026 年 5 月 15 日，教宗良十四世在一份長(zhǎng)達(dá)四萬(wàn)余字的文件上簽下了自己的名字。那一天，恰好是教宗良十三世發(fā)布《新事》通諭整整 135 周年，1891 年簽署的那份文件，是天主教會(huì)第一次正式回應(yīng)工業(yè)革命對(duì)勞動(dòng)秩序的沖擊。

十天后，也就是 2026 年的 5 月 25 日，良十四世親自出席發(fā)布會(huì)，正式向世界頒布這份題為《Magnifica Humanitas》的通諭，這是天主教會(huì)有史以來(lái)，第一次以人工智能為核心議題發(fā)布通諭。在這個(gè)發(fā)布會(huì)現(xiàn)場(chǎng)，除了樞機(jī)主教與神學(xué)教授之外，還有 Anthropic 聯(lián)合創(chuàng)始人 Chris Olah。

（圖源：梵蒂岡新聞）

很多人只覺(jué)得荒謬，AI 是科學(xué)，教會(huì)是神學(xué)，兩個(gè)學(xué)派雖有各自的道德關(guān)切，但似乎從來(lái)不在同一張桌子上吃飯，讓梵蒂岡來(lái)談算法，就好像讓氣象局來(lái)審判哲學(xué)，毫不相關(guān)。

但細(xì)讀這份《Magnifica Humanitas》通諭之后，雷科技發(fā)現(xiàn)，這一次梵蒂岡沒(méi)有高高在上地用“上帝”去解讀 AI，反倒是更加接地氣地去探討戰(zhàn)爭(zhēng)、就業(yè)、教育、醫(yī)療和公共決策這些公眾難以深入去談的話題。我們從中提煉了十個(gè)核心觀點(diǎn)，逐一來(lái)看教宗到底說(shuō)了什么，又意味著什么。

通諭的十個(gè)觀點(diǎn)，擊中人們對(duì) AI 最大的焦慮

《崇高的人性》（Magnifica Humanitas）全文超過(guò)四萬(wàn)字，涉及戰(zhàn)爭(zhēng)、就業(yè)、教育、醫(yī)療、信息和公共決策，幾乎把當(dāng)下所有 AI 爭(zhēng)議走了一遍。不過(guò)，它本質(zhì)上不是技術(shù)文件，而是一份道德清單，它不告訴你模型怎么訓(xùn)練，而是在追問(wèn)：AI 正在為誰(shuí)服務(wù)，誰(shuí)來(lái)負(fù)責(zé)，誰(shuí)被落下。我們從通諭里提煉了十個(gè)和國(guó)內(nèi)現(xiàn)實(shí)最直接相關(guān)的觀點(diǎn)，并進(jìn)行了詳細(xì)的解讀。

1、AI 不是敵人，但已經(jīng)進(jìn)入日常決策系統(tǒng)

技術(shù)本身并不是人類(lèi)的敵人，但新興技術(shù)已經(jīng)嵌入日常生活，并開(kāi)始影響決策過(guò)程和社會(huì)想象力。

良十四世的態(tài)度正如他所寫(xiě)到的，他并不想要給AI 扣一頂「危險(xiǎn)技術(shù)」的帽子，而是在描述一個(gè)已經(jīng)發(fā)生的變化：AI 不再只是一個(gè)工具，而是逐漸變成了環(huán)境。

過(guò)去你主動(dòng)打開(kāi)一個(gè)軟件，才算在使用某項(xiàng)技術(shù)；現(xiàn)在很多 AI 決策發(fā)生在后臺(tái)，用戶甚至不知道自己已經(jīng)被系統(tǒng)判斷過(guò)了。在中國(guó)，短視頻平臺(tái)用算法決定內(nèi)容分發(fā)，電商平臺(tái)用算法決定商品排序，招聘平臺(tái)做崗位匹配，辦公軟件總結(jié)會(huì)議、生成文檔，教育平臺(tái)批改作業(yè)、分析學(xué)情。普通人以為自己只是偶爾問(wèn)問(wèn)大模型，但真正的變化是，AI 早在你做選擇之前，已經(jīng)介入了。

（圖源：雷科技制圖）

很多人或許還在思考，或者以從自己不用 AI 開(kāi)始「反抗」人工智能浪潮的來(lái)襲，但實(shí)際上 AI 大模型已經(jīng)深入到我們的生活中，幾乎沒(méi)有人能真正逃脫。

2、AI 問(wèn)題不只是監(jiān)管，而是誰(shuí)掌握技術(shù)權(quán)力

問(wèn)題并不只限于監(jiān)管。今天推動(dòng)技術(shù)發(fā)展的許多關(guān)鍵主體，是擁有跨國(guó)能力和巨大資源的私營(yíng)機(jī)構(gòu)。

很多 AI 討論會(huì)停在「要不要監(jiān)管」，但通諭往問(wèn)得更加深入：到底是誰(shuí)掌握了技術(shù)權(quán)力。這個(gè)觀點(diǎn)我認(rèn)為是這個(gè)通諭 4 萬(wàn)多字里，提到最尖銳的一個(gè)觀點(diǎn)，也是幾乎整個(gè)行業(yè)都很難給出完美回答的問(wèn)題。

AI 時(shí)代，權(quán)力不只來(lái)自模型參數(shù)，還來(lái)自算力、數(shù)據(jù)、云平臺(tái)、入口和工作流。比如說(shuō)百度有搜索和智能云，阿里有云和通義體系，騰訊有微信、企業(yè)微信和辦公協(xié)同，字節(jié)有內(nèi)容分發(fā)和飛書(shū)，釘釘、WPS 也都在把 AI 嵌進(jìn)企業(yè)流程。一個(gè)中小企業(yè)想做 AI 應(yīng)用，往往繞不開(kāi) API、云服務(wù)、模型授權(quán)和平臺(tái)規(guī)則。

（圖源：雷科技制圖）

在我看來(lái)，AI 產(chǎn)業(yè)競(jìng)爭(zhēng)表面上是模型能力，底層其實(shí)是基礎(chǔ)設(shè)施控制權(quán)。誰(shuí)能把 AI 放進(jìn)辦公、搜索、內(nèi)容、交易和企業(yè)管理流程，誰(shuí)就不只是在賣(mài)工具，而是在重塑下一代數(shù)字基礎(chǔ)設(shè)施。所以這才是「監(jiān)管誰(shuí)」這個(gè)問(wèn)題真正難回答的地方。

3、AI 很強(qiáng)，但連開(kāi)發(fā)者也不能完全解釋它

AI 提供了許多令人驚嘆的可能性，但即便是設(shè)計(jì)者，對(duì)生成式 AI 系統(tǒng)內(nèi)部運(yùn)行機(jī)制的理解也是有限的。

過(guò)去一年，國(guó)內(nèi)企業(yè)對(duì)大模型的態(tài)度已經(jīng)從「必須上 AI」變成「哪些環(huán)節(jié)能放心交給 AI」。客服、營(yíng)銷(xiāo)文案、會(huì)議紀(jì)要、代碼輔助、知識(shí)庫(kù)問(wèn)答比較容易落地，因?yàn)槌鲥e(cuò)成本可控，也方便人工修改。但金融風(fēng)控、醫(yī)療診斷、法律審核、政務(wù)服務(wù)就不一樣了，這些場(chǎng)景里，AI 不能只是給一個(gè)看起來(lái)正確的答案，還要說(shuō)明依據(jù)，保留日志，支持審計(jì)，必要時(shí)能人工接管。

（圖源：雷科技制圖）

現(xiàn)在很多企業(yè)采購(gòu) AI 產(chǎn)品，已經(jīng)不只看模型多強(qiáng)，而是看數(shù)據(jù)隔離、權(quán)限體系、私有化部署和審計(jì)追蹤能力。這個(gè)變化說(shuō)明一件事，企業(yè)級(jí) AI 的下一道門(mén)檻，不是會(huì)不會(huì)生成，而是能不能負(fù)責(zé)。模型越像專(zhuān)家，用戶越需要知道它什么時(shí)候可能不可靠。

4、AI 不能被當(dāng)成人類(lèi)智能，更不能被當(dāng)成道德主體

AI不是一堆數(shù)據(jù)，而是擁有自由、關(guān)系和道德責(zé)任的主體。

現(xiàn)在很多 AI 產(chǎn)品都在努力變得「更像人」，它們會(huì)安慰、會(huì)撒嬌、會(huì)記住偏好，會(huì)和用戶維持長(zhǎng)期關(guān)系。央視網(wǎng)報(bào)道過(guò)江蘇省消保委的提醒，AI 伴侶存在隱私泄露、消費(fèi)陷阱和情感依賴等風(fēng)險(xiǎn)；新快報(bào)也報(bào)道過(guò)「星野」「貓箱」等平臺(tái)上，年輕人為獲得虛擬戀人的「獨(dú)占權(quán)」付費(fèi)買(mǎi)斷 AI 角色，熱門(mén)角色被買(mǎi)斷后，其他用戶集體「失戀」。

（圖源：雷科技制圖）

這其實(shí)說(shuō)明，用戶不是在購(gòu)買(mǎi)一段代碼，而是在投入真實(shí)情感。AI 陪伴不是不能做，它確實(shí)滿足了孤獨(dú)和陪伴的需求，但產(chǎn)品必須把邊界說(shuō)清楚。AI 可以模擬關(guān)系，卻不能承擔(dān)真實(shí)關(guān)系里的責(zé)任。這不是道德說(shuō)教，而是產(chǎn)品設(shè)計(jì)層面該認(rèn)真考慮的邊界，尤其是面向未成年人、老人和情緒脆弱人群時(shí)。

5、AI 決策正在影響就業(yè)、醫(yī)療、福利和司法

就業(yè)、福利、司法和醫(yī)療等敏感決策可能受到數(shù)據(jù)系統(tǒng)影響，因此必須有透明機(jī)制、問(wèn)責(zé)機(jī)制和人工監(jiān)督。

招聘是最容易讓普通人感受到 AI 決策壓力的場(chǎng)景。第一財(cái)經(jīng)曾報(bào)道，BOSS 直聘內(nèi)測(cè)全鏈路 AI 招聘 Agent「DeepHire」，覆蓋 AI 簡(jiǎn)歷潤(rùn)色、自動(dòng)投遞、企業(yè)端批量解析簡(jiǎn)歷、自動(dòng)回復(fù)和智能約面。AI 進(jìn)入招聘流程當(dāng)然能提效，HR 不再被海量簡(jiǎn)歷淹沒(méi)，求職者也能更好表達(dá)經(jīng)歷。但問(wèn)題也在這里，如果簡(jiǎn)歷先被 AI 批量解析、評(píng)分、排序，求職者可能還沒(méi)被真人看見(jiàn)，就已經(jīng)被系統(tǒng)過(guò)濾掉了。

我的看法是，AI 可以輔助篩選，但不能讓求職者面對(duì)一個(gè)完全黑箱的拒絕。至少在影響錄用和面試機(jī)會(huì)時(shí)，平臺(tái)應(yīng)該保留人工判斷、AI 生成標(biāo)識(shí)和必要的申訴空間。這不是在限制 AI，而是在給那些被系統(tǒng)拒絕的人留一扇門(mén)，包括福利機(jī)構(gòu)的受益人決策、司法判定的違法行為等，都面臨同樣的難題。

6、少數(shù)人定義的道德 AI 不夠，AI 資源應(yīng)服務(wù)共同利益

如果道德標(biāo)準(zhǔn)只由少數(shù)人定義，那么更道德的 AI 仍然不夠。數(shù)據(jù)、知識(shí)、科學(xué)和技術(shù)應(yīng)服務(wù)共同利益。

AI 公共化，不是要求所有模型免費(fèi)，也不是把商業(yè)公司排除出去，而是不能讓 AI 的定義權(quán)、使用權(quán)和受益權(quán)過(guò)度集中，這其實(shí)和我們從前一直在討論的模型開(kāi)源與閉源很類(lèi)似。

通義千問(wèn)、DeepSeek 等模型持續(xù)開(kāi)放部分能力，各地智算中心、國(guó)家超算互聯(lián)網(wǎng)核心節(jié)點(diǎn)也在強(qiáng)調(diào)普惠算力和開(kāi)源模型生態(tài)。國(guó)外有 NAIRR 這樣的國(guó)家 AI 研究資源計(jì)劃，目標(biāo)是讓高校、科研機(jī)構(gòu)和中小團(tuán)隊(duì)獲得算力、數(shù)據(jù)和模型資源。

我認(rèn)為，如果只有少數(shù)公司能訓(xùn)練模型、調(diào)用算力、掌握高質(zhì)量數(shù)據(jù)，普通創(chuàng)業(yè)者、中小企業(yè)和高校團(tuán)隊(duì)只能做外圍應(yīng)用，AI 反而會(huì)制造新的數(shù)字鴻溝。真正健康的 AI 生態(tài)，應(yīng)該讓更多人有機(jī)會(huì)參與，而不是只能等待大廠開(kāi)放一點(diǎn)接口，這一點(diǎn)其實(shí)中國(guó)目前的 AI 環(huán)境還是相對(duì)更加開(kāi)放，也有像阿里、深度求索這些公司為高校和中小企業(yè)提供幫助。

7、真相是公共品，AI 會(huì)放大虛假信息和認(rèn)知操控

虛假信息并不是 AI 才帶來(lái)的，但 AI 會(huì)讓虛假信息更大規(guī)模、更有說(shuō)服力，也更難與真實(shí)傳播區(qū)分。

這其實(shí)是一個(gè)老生常談的問(wèn)題，可歸根結(jié)底倒也不是 AI 會(huì)不會(huì)產(chǎn)生幻覺(jué)，而是背后 用 AI 造假的成本已經(jīng)變得非常低。

央視網(wǎng)報(bào)道，有人利用 AI 編造「湖北宜昌游船側(cè)翻」假新聞，配上 AI 處理的虛假圖片；云南大理出現(xiàn)利用 AI 編造交通事故現(xiàn)場(chǎng)視頻的網(wǎng)絡(luò)謠言；新疆庫(kù)車(chē)地震后，有自媒體用 AI 生成不符合真實(shí)災(zāi)情的圖片和音視頻，發(fā)布「房屋倒塌」等虛假信息。圖片、視頻、所謂現(xiàn)場(chǎng)描述都能一起生成，普通人更難分辨。

（圖源：雷科技制圖）

國(guó)家已經(jīng)出臺(tái)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求標(biāo)識(shí)生成合成內(nèi)容，平臺(tái)也在提高鑒偽能力。但我認(rèn)為這不是終點(diǎn)，AI 時(shí)代真正稀缺的不是內(nèi)容，而是可信內(nèi)容，內(nèi)容越泛濫，來(lái)源就越重要。

8、AI 教育不能只教工具使用，更要保留提問(wèn)和判斷

AI 教育不能被簡(jiǎn)化為技術(shù)培訓(xùn)。學(xué)校仍應(yīng)培養(yǎng)提問(wèn)能力、關(guān)系能力和批判性思維。

對(duì)于這部分，其實(shí)中國(guó)還是跑在了世界的前沿。比如2025 年，教育部發(fā)布了《中小學(xué)人工智能通識(shí)教育指南》和《中小學(xué)生成式人工智能使用指南》，前者強(qiáng)調(diào)分層遞進(jìn)的 AI 通識(shí)教育體系，后者明確各學(xué)段使用規(guī)范和安全邊界。

但如果 AI 教育只是教學(xué)生寫(xiě)提示詞、讓模型給答案，那培養(yǎng)的不是智能社會(huì)能力，而是更熟練的依賴。現(xiàn)在學(xué)生用 AI 寫(xiě)作文、解題、做 PPT，老師用 AI 生成教案、試題和評(píng)語(yǔ)，效率提高了，但思考過(guò)程可能也被壓縮了。

所以我也認(rèn)可通諭里的這個(gè)觀點(diǎn)，教育場(chǎng)景里的 AI 應(yīng)該是工具，不是代筆人。真正好的 AI 教育，不是讓學(xué)生更快拿到答案，而是讓他們更會(huì)提問(wèn)、驗(yàn)證、比較和表達(dá)，也就是說(shuō)，學(xué)習(xí)思考過(guò)程，比學(xué)會(huì)如何讓 AI 直接給解決辦法更重要。

9、 AI 會(huì)重塑勞動(dòng)，但工作不只是效率問(wèn)題

AI 可以通過(guò)接管日常重復(fù)任務(wù)來(lái)提升生產(chǎn)率，但工作也是人發(fā)展能力、參與社會(huì)的重要場(chǎng)所。

目前全球企業(yè)對(duì)待 AI 部署這件事的態(tài)度都很統(tǒng)一，那就是「降本增效」，這已經(jīng)成了幾乎所有行業(yè)的慣用招數(shù)。但問(wèn)題在于，AI 到底是在增強(qiáng)人，還是在替代人，這一直都是人們對(duì) AI 感到焦慮的原因。如果 AI 辦公只是讓員工更快完成報(bào)表和會(huì)議紀(jì)要，那它可以提升工作的效率，員工也能在完成工作后擁有更多自由的時(shí)間完成私人的活動(dòng)；而如果企業(yè)只是用 AI 壓縮崗位、降低薪酬、強(qiáng)化監(jiān)控，它就會(huì)制造新的不安全感。

事實(shí)上，一個(gè)健康的 AI 工作流，應(yīng)該讓員工轉(zhuǎn)向判斷、溝通、創(chuàng)造和復(fù)雜問(wèn)題處理，而不是讓人變成模型輸出的修補(bǔ)工。

10、不可逆的生死決定不能交給 AI

致命或其他不可逆的決定不應(yīng)交給自動(dòng)化系統(tǒng)。人的判斷和道德責(zé)任不能被簡(jiǎn)化為計(jì)算。

這條表面上講的是軍事 AI，但它同樣適用于智能駕駛、醫(yī)療急救、工業(yè)機(jī)器人、安防系統(tǒng)等一切高風(fēng)險(xiǎn)場(chǎng)景。

國(guó)內(nèi)智能駕駛商業(yè)化很快，自動(dòng)泊車(chē)、無(wú)人配送、無(wú)人礦卡都在加速落地，用戶關(guān)心體驗(yàn)，企業(yè)在意的是成本和規(guī)模化，但一旦發(fā)生事故，問(wèn)題馬上會(huì)變成是用戶沒(méi)有及時(shí)接管，還是系統(tǒng)誤判？是算法問(wèn)題，還是傳感器問(wèn)題？是車(chē)企責(zé)任，還是駕駛員責(zé)任？醫(yī)療 AI 也是這樣，它確實(shí)可以輔助看片、分診、生成病歷，但不能在沒(méi)有醫(yī)生負(fù)責(zé)的情況下做不可逆判斷。

高風(fēng)險(xiǎn)場(chǎng)景不能只強(qiáng)調(diào)智能化水平，還要明確人類(lèi)監(jiān)督、應(yīng)急接管、事故復(fù)盤(pán)和責(zé)任鏈。所謂「解除 AI 武裝」，落到產(chǎn)業(yè)里，就是不能讓技術(shù)能力越過(guò)責(zé)任邊界。

4 萬(wàn)字、10 個(gè)觀點(diǎn)，教宗只想說(shuō)一件事

拆解完這份 4 萬(wàn)字的通諭，雷科技認(rèn)為教宗其實(shí)從頭到尾只想講清楚一件事，那就是技術(shù)不是中立的。

簡(jiǎn)單來(lái)說(shuō)，AIAI 長(zhǎng)什么樣，取決于誰(shuí)在造它，OpenAI 設(shè)計(jì)的 ChatGPT、Google 創(chuàng)造的 Gemini、字節(jié)打造的豆包，它們各自都有自己的「取向偏好」。而誰(shuí)的價(jià)值觀進(jìn)了訓(xùn)練數(shù)據(jù)，誰(shuí)的利益決定了產(chǎn)品方向，誰(shuí)掌握了算力和入口，誰(shuí)制定了所謂的「道德框架」，都在變成我們每天和 AI 交互時(shí)感受到的體驗(yàn)。

比如 AI 進(jìn)入招聘，篩選的邏輯由平臺(tái)定義，求職者不知道自己被什么標(biāo)準(zhǔn)過(guò)濾；AI 進(jìn)入教育，什么算「好答案」由模型決定，學(xué)生的思維逐漸向模型靠攏；AI 生成內(nèi)容，什么算「可信」由算法分發(fā)，虛假信息以真實(shí)信息的面目流通。每一個(gè)場(chǎng)景背后，都是同一個(gè)問(wèn)題：是誰(shuí)在定義這套規(guī)則，這套規(guī)則又在塑造誰(shuí)。

通諭沒(méi)有點(diǎn)名任何公司，但它說(shuō)的是所有公司。教宗想點(diǎn)明的其實(shí)是，你使用的每一個(gè) AI 工具，都不只是工具，而是某種價(jià)值判斷的產(chǎn)物，有時(shí)候你認(rèn)為一個(gè) AI 足夠好用，也可能是它足夠「聽(tīng)你的話」。

良十四世在文件里用了一個(gè)在 AI 討論里幾乎從不出現(xiàn)的詞：「人類(lèi)學(xué)」。他說(shuō)，AI 帶來(lái)的挑戰(zhàn)，本質(zhì)上不是技術(shù)挑戰(zhàn)，而是人類(lèi)學(xué)挑戰(zhàn)。

AI 能寫(xiě)作，能創(chuàng)作音樂(lè)，能生成圖像，能模擬對(duì)話，能做出看起來(lái)合理的判斷，當(dāng)機(jī)器能做到所有這些，人類(lèi)就被迫要回答一個(gè)一直以來(lái)可以回避的問(wèn)題，我們做這些事，意義在哪里？如果 AI 寫(xiě)的文章更流暢，AI 生成的音樂(lè)更悅耳，AI 給出的建議更高效，那「人來(lái)做這件事」的價(jià)值，到底是什么？

通諭里有這樣一段話：

AI 可以模擬關(guān)系，但不能承擔(dān)關(guān)系里的責(zé)任；AI 可以模擬創(chuàng)造，但不能擁有創(chuàng)造背后的意志；AI 可以模擬判斷，但不能對(duì)判斷的后果負(fù)責(zé)。它能做到表面，但表面之下那些讓「人做這件事」有意義的東西，比如脆弱、承擔(dān)、真實(shí)的代價(jià)，它都沒(méi)有。

這讓我們想到 1891 年天主教會(huì)簽署《新事》通諭時(shí)，工業(yè)革命來(lái)臨，人類(lèi)也在經(jīng)歷同樣的艱難時(shí)刻，機(jī)器取代了大量體力勞動(dòng)，但沒(méi)有取代人。人重新定義了自己的位置，找到了機(jī)器做不了的事。這一次不一樣的地方在于：AI 進(jìn)入的是認(rèn)知領(lǐng)域，是創(chuàng)造，是判斷。這些曾經(jīng)被認(rèn)為是「人類(lèi)專(zhuān)屬」的部分，正在被系統(tǒng)性地模擬。

（圖源：雷科技制圖）

良十四世把這個(gè)過(guò)程叫做「人類(lèi)感的日蝕」，如果我們不認(rèn)真回答「人是什么」，AI 就會(huì)替我們回答，而它的回答來(lái)自訓(xùn)練數(shù)據(jù)，至于是誰(shuí)給的訓(xùn)練數(shù)據(jù)，那就要看誰(shuí)掌握了大模型的主動(dòng)權(quán)。

通諭里那句「技術(shù)永遠(yuǎn)不中立」是對(duì)的，但緊跟著這句話的問(wèn)題是：誰(shuí)有能力讓「中立」的期待變成「約束」的現(xiàn)實(shí)？良十四世沒(méi)有回答這個(gè)問(wèn)題，他也回答不了。他能做的，是把一套道德語(yǔ)言放進(jìn)公共討論的池子里，讓它流通，讓它影響那些制定規(guī)則、部署技術(shù)、使用產(chǎn)品的人，事實(shí)上，這一直都是教會(huì)做的事情。

所以，這其實(shí)并不荒誕，在技術(shù)公司、政府、國(guó)際機(jī)構(gòu)和社會(huì)都還沒(méi)找到答案的今天，一個(gè)兩千年歷史的機(jī)構(gòu)先開(kāi)口了。