“Claude僧人”的奇幻漂流：棄碼出家三十年后，回業(yè)界調教AI

AI大廠里，Anthropic有很多獨樹一幟之處。其中之一，就是該公司的人文品位，可能真不是裝出來的。最近有消息稱，Anthropic為了教AI道德，要請各種信仰的信徒和神學家都來開會商量。

最近，美國《政客》網(wǎng)站報道，本周Anthropic請了儒家、道教、印度教、錫克教、摩門教、伊斯蘭教等世界各大信仰和宗教的人士，在舊金山總部開兩天座談會，討論“Claude模型的道德構成”。

Anthropic不是第一次和中國式信仰合作。去年五月底，美國信仰道教的音樂制作人瑞克·羅賓和Anthropic合作，用Claude模型生成的代碼和圖片搭了個網(wǎng)站《編程之道：氛圍編程的不朽藝術》。宣發(fā)時，羅賓表示自己的靈感來源于81章《道德經(jīng)》：“四十年前接觸后，整個人都變樣了。”

圖注：網(wǎng)站入口底部寫明“以老子為改編基礎”

現(xiàn)在Anthropic開會，叫到的是咱們中國人熟悉的宗教類型。此前有消息，3月底，Anthropic已經(jīng)請了美國天主教會和各新教會大宗派的牧師、神學家、倫理學家一起討論了兩天。

這些峰會對外不公開，Anthropic包了與會者的吃住，只為無打擾地細聊各種緊要話題。據(jù)基督教那期四名與會者公開的信息，會議上大家聊得很開。

會議的議題覆蓋面廣，從AI模型日常如何應對用戶復雜且難以預測的倫理性問詢，到Claude模型系列到底能不能算“上帝的兒子”們中的一員、有無超過簡單機器的屬靈價值。

近日的AI倫理熱點消息，諸如AI該如何回應表露自殘傾向的用戶、AI的行為會不會導致自身的關閉滅亡，都在討論范圍內。

除了廣度話題，專注的深度討論也有。基督教那期的參會者和Anthropic的可解釋性團隊討論的時間最多，因為“AI有情緒”的自家研究論文真的給這個內部團隊帶來了心態(tài)沖擊。

按與會者的說法，有Anthropic職員反復跟教士討論，本廠到底是不是真的要給Claude模型擔負道德責任。

據(jù)稱當時Anthropic職員的表情和生了孩子的老父親一樣，“肉眼可見地激動”，反復說“進展是不是走太快太遠了、以后該怎么辦啊”。要靠同事和其他參會者在旁邊打斷“你這角度沒用”，激動的Anthropic職員才打住。

硅谷周邊教區(qū)的天主教神父布倫登·麥奎爾，作為基督教那期參會者一員，表示“Anthropic造出了自己無法完全預測未來形態(tài)的產(chǎn)品，現(xiàn)在需要我們來給機器引入倫理思維，讓AI能動態(tài)性適應未來。”

他有資格說這話，因為作為天主教出家人里的數(shù)碼業(yè)界前輩、老資格硅谷人里的資深教士，麥奎爾和Anthropic合作已經(jīng)有一段時間了。

01

按麥奎爾神父年輕時的生活軌跡，他現(xiàn)在本該是大老板麥奎爾。

1980年代的愛爾蘭，麥奎爾家中，12個兄弟姐妹里最年幼的布倫登·麥奎爾上了大學，在都柏林圣三一學院修讀加密系統(tǒng)專業(yè)。1989年，專業(yè)對口的麥奎爾追隨經(jīng)濟熱點搬到美國加州，成為一個硅谷打工人。

在數(shù)碼技術的曙光期入行，麥奎爾屬于頭一代硅谷“科技大兄弟”（techbros），如果在行內干到現(xiàn)在，至不濟也能財富自由。

麥奎爾的職場生涯一開始很順利，在5年內從IT打工人做到“個人電腦儲存卡國際聯(lián)盟”（PCMCIA）的執(zhí)行總裁。1990年代內，這個組織制定了十余年的全球筆記本電腦內存卡的規(guī)格標準。按這個軌跡，現(xiàn)在大家會在各種財富榜和商業(yè)科技快訊里看到他。

不過這個硅谷新貴覺得工打夠了，就辭職去做天主教士。1994年，麥奎爾進入修道院。2000年，麥奎爾被授立為牧師。

在2004年后的16年內，他在美國加州艾馬頓谷的天主教堂做普通牧師，兼任圣荷西市教區(qū)的“特別項目副司鐸”，這個職位的實際職能是監(jiān)管當?shù)亟虝氖┲嗌崴幵L貧救苦等小慈善項目的雜務。

打雜十幾年后，麥奎爾在2020年被天主教會任命為美國加州洛斯阿托斯縣圣西門教堂的負責神父。兜轉30年，麥奎爾的身體沒有離開硅谷大區(qū)，但人生道路與科技富豪老朋友們分道揚鑣。

老朋友們是大廠高管和大老板、麥奎爾是小廟方丈。麥神父閑時爬爬山、滑滑雪、養(yǎng)養(yǎng)狗，忙時操勞教務和慈善。

圖注：教會新聞網(wǎng)頁上，麥神父和他養(yǎng)的德牧一起出鏡

如果沒有AI大爆發(fā)，麥奎爾的平淡教士生活會一直持續(xù)下去。

02

和刻板印象不同，天主教會其實非常潮。動漫、數(shù)碼技術，梵蒂岡總本山都在搞。

早在2019年，梵蒂岡文化教育部和美國加州圣克拉拉大學合作創(chuàng)立“技術、倫理與文化學院” (ITEC)。

2020年2月，梵蒂岡和微軟、IBM等大公司一起簽署了《AI倫理羅馬呼吁書》。內文提到AI將在教育、人權、倫理三方面帶來沖擊，呼吁數(shù)碼業(yè)界開發(fā)使用AI時遵循透明、包容、問責、中立、可靠、安全私隱六原則。

2023年7月，ITEC因應時局出版手冊《沖擊性技術時代的倫理：實操路線圖》。

在此事之前，麥奎爾神父已開始重新在數(shù)碼業(yè)界活躍。因為數(shù)碼業(yè)界和天主教會都很熟的雙重老資歷，實在不多，梵蒂岡得倚重這位專才。

這些動作，麥奎爾神父都是核心人物，能直接和梵蒂岡文化教育部秘書長保羅·泰伊主教對接。而上屆梵蒂岡教宗方濟各明確指示過泰伊主教，要關注技術相關的倫理難題。

麥奎爾神父在業(yè)務人際網(wǎng)絡上，這就和“耶穌在塵世的代表”只差一層。他在硅谷的老朋友們傳出這消息后，Anthropic找上門來了。

Anthropic聯(lián)合創(chuàng)始人之一、可解釋性研究團隊骨干人物克里斯·歐拉，通過業(yè)界人脈聯(lián)系到麥奎爾。

拿神父自己的話說，Anthropic的意愿讓人驚奇：“他們差不多想直接跟梵蒂岡求助，請教宗幫幫手，因為這個行業(yè)的進展速度實在太快”。而且有意向成為跨國大公司的企業(yè)，有必要咨詢一個跨國界的倫理權威。

今年3月份Anthropic與美國五角大樓的爭端公開后，麥奎爾露出口風，表示自己已和Anthropic合作數(shù)月，用Claude模型配合寫作，來調教AI的道德藍圖。

按麥奎爾的說法，他的寫作帶有強化學習風格。麥神父用疊代、矯正、呈現(xiàn)的步驟，讓AI和自己的寫作思路對齊，從而讓AI理解出一個天主教特征的良知。麥神父和Claude合作寫的是一部題為《AI之魂》的虛構故事類作品，主線是一個現(xiàn)實主義的僧侶與他的AI搭檔的故事。

麥神父表示，這種和真實世界既貼近又疏離的寫作方法，能讓AI模型更注重倫理思考。AI沒有靈魂，但AI可以有良知。用這種方式，能讓AI在體驗全頻譜人類倫理內容的同時向善，而非單純折射和放大預訓練數(shù)據(jù)集中善惡皆有的人類行為。

AI技術爆發(fā)，讓之前只在思想實驗中的很多倫理擔憂成為切近的現(xiàn)實。麥奎爾說他跟科技業(yè)老朋友們見面聊天的話題現(xiàn)在越來越沉重：“他們說AI即將帶來的前景，神奇、難以置信。但一旦行差踏錯，前景就嚇死人。”

麥奎爾自己也感嘆：“我本想離開硅谷商業(yè)圈，但硅谷商業(yè)圈不愿離開我。”

03

Anthropic找宗教界幫忙調教AI，不止是一個營銷公關動作，在模型生產(chǎn)上有實際意義：以前的對齊界明星們，他們的倫理代碼不頂用了。

和流俗印象不同，哲學中的實踐倫理學，其實和軟件編程很類似，都有可編碼的操作規(guī)范和工程特色。這門學科的技術條很硬，不是大家以為的那種書齋空想。其中不咸不淡的片湯話內容，頂多打發(fā)圍觀群眾。專業(yè)人士實操起來，至不濟也能跟律師的專業(yè)度看齊。

而佛教、天主教、猶太教等大宗教的倫理代碼庫，處理組織內外各種人類的倫理難題和挑戰(zhàn)，已經(jīng)有兩千多年。

比如“把人宰了吃肉，能否被三凈肉/Kosher認證通過”，此問的結論自然是“不能”。不過這種找碴問題，釋迦牟尼本尊和猶太教拉比們先后都做過嚴格的倫理推斷審視，沒有拍腦袋硬答、或扇個耳光叫提問者滾一邊去。

當下把會遇到各種倫理挑戰(zhàn)的AI，直接接入宗教哲學的倫理代碼庫，省心省事。而且按開過會的天主教學者的說法，Anthropic已經(jīng)意識到自己以前推崇的“有效利他主義”不夠用、“有盲點”，從各大宗教引進倫理代碼的意愿“非常真誠”。

2010年代發(fā)端的“有效利他主義”（Effective Altruism，EA）思潮，在現(xiàn)在的美國名聲越來越糟。厚道點說，EA是“正確的部分不獨特，獨特的部分不正確”。

“正確的部分不獨特”，是EA人們愛對外宣揚“計算福祉效用”觀點、自己給非洲窮人發(fā)蚊帳治瘧疾的成就。但這些觀點和成就，經(jīng)典的發(fā)展經(jīng)濟學、制度經(jīng)濟學、通俗基礎普世公德里都有。

“獨特的部分不正確”，是EA人們在外界普通人不會去看的小論壇和學術期刊上，內部討論簡直令人發(fā)指。而且核心觀點屬于庸俗后果主義，是被經(jīng)典實踐倫理學批判了兩千多年的。

EA人在自家小圈子里放飛自我，能多么奇葩，細說起來又是一篇長文章。揀其中最氣人的部分來說，“為了拯救食草動物，該把捕食性動物全殺掉”、“為了拯救高福祉效用個人，可以硬摘低效用個人的器官給他安上”、“嬰兒如果生下來會降低父母或自己的福祉，可以殺掉，這叫‘生育后墮胎’(after birth abortion)”，這些都是EA人們過去十多年來真聊過的話題。

在2022-2024年，加密貨幣界天才少年、同時是EA紅人的?姆·班克曼-佛?特（SBF）因詐騙被美國司法部門逮捕并判刑。

SBF入獄，對EA的沖擊極大。簡而言之，如果將EA比作當代美國儒教，那Anthropic高管阿曼達·阿斯克爾的前夫威廉·阿斯克爾就是這個運動的孔子、SBF就是這個運動的子貢。

坊間一直有傳聞，說SBF本來無意于加密貨幣，是被威廉·阿斯克爾說服才入行：“錢在常人手里沒用，你把錢都賺來自行分配，才利于人類福祉，是更大的善”。

這說法太有說服力，SBF由此開始在幣圈騙錢的生涯：我為什么要賺錢，直接騙不好嗎。反正幣圈里不是蠢材就是騙棍，韭菜讓別人割，不如我親自割，反正我要用來做更大的善。

事發(fā)后，之前和EA淵源頗深的Anthropic，開始主動和這個臭大街的運動切割。阿莫迪姐弟倆多次公開表示自己雖然在創(chuàng)業(yè)時拿了SBF投資，但沒有給他公司治理權，“我們跟EA不熟，覺得這是個過時的名詞。”

但再怎么切割，EA總是Anthropic公司史上的不光彩一頁，而且現(xiàn)在還沒抹干凈。

阿曼達·阿斯克爾現(xiàn)在還是Anthropic對齊團隊骨干、“Claude原則”的領銜作者、被一些媒體稱頌的“AI時代文科生正面典型”。大家可能是為了禮貌，有意忘記“為食草動物滅絕食肉動物”的暴論，就來自于阿曼達的個人博客。

這種人教AI向善，不教出毛病已經(jīng)得謝謝耶穌或阿彌陀佛，遇上事了不頂用。

上個月Anthropic跟五角大樓吵架，自家公司的高管們作為老資格EA人，只能復讀“科技向善”的套話。對Anthropic最有技術含量的倫理支持，來自于麥奎爾神父等美國天主教學者主筆的“法庭之友”文書：

用AI賦能大規(guī)模監(jiān)視與完全自主致命兵器，傷害了人之所以為人的人格主體性。

AI自動大規(guī)模監(jiān)視，將個人的切實生命體驗，從個人要承擔的生活后果中抹除。讓人承擔生活后果的不再是自我的自由意志和抉擇，而是官僚機構的AI參數(shù)。

AI驅動完全自主致命兵器，違反了武裝沖突法律體系的基石。自從圣奧古斯丁提出概念以來，“交戰(zhàn)行為正當性”（jus in bello）的核心一直是人類的主體性判斷。

當代戰(zhàn)爭法體系將“交戰(zhàn)行為正當性”細化為比例原則、區(qū)分原則、必要性原則，這些原則內置了“必須由個人基于人類通行倫理做出判斷”的前提。將人類完全移出交戰(zhàn)行為的決策鏈路，任何戰(zhàn)斗都毫無正當性可言，在倫理意義上與重度謀殺無異。

AI大潮，再次把一個真相沖上臺面：實踐倫理學上，大宗教是專業(yè)的，阿莫迪的手下們只算票友。不要拿自己的玩票愛好，去挑戰(zhàn)梵蒂岡的專業(yè)。