搖擺與裂痕，戰(zhàn)火中的AI和科技公司

戰(zhàn)爭讓世界出現(xiàn)裂痕，現(xiàn)代戰(zhàn)爭大規(guī)模應(yīng)用AI等前沿技術(shù)，也讓科技行業(yè)出現(xiàn)了裂痕

文｜《財(cái)經(jīng)》記者 劉以秦

編輯｜謝麗容

2月28日，美國中央司令部聯(lián)合以色列在中東對(duì)伊朗發(fā)動(dòng)空襲，隨后伊朗最高領(lǐng)袖哈梅內(nèi)伊身亡。

據(jù)本地媒體報(bào)道，美軍中央司令部在此次行動(dòng)中持續(xù)調(diào)用AI（人工智能）創(chuàng)業(yè)公司Anthropic旗下的Claude大模型，用于情報(bào)評(píng)估、目標(biāo)識(shí)別與戰(zhàn)斗情景模擬，整個(gè)過程在機(jī)密網(wǎng)絡(luò)內(nèi)閉環(huán)完成。

Anthropic自2024年起就與五角大樓展開合作，為美軍作戰(zhàn)人員提供技術(shù)支持，Claude模型也是美國軍方使用最深入的AI大模型。今年1月，美國軍方抓捕委內(nèi)瑞拉前總統(tǒng)尼古拉斯·馬杜羅的行動(dòng)中也使用了Claude模型。但最近，雙方合作陷入僵局。

就在針對(duì)伊朗的空襲發(fā)動(dòng)前的幾個(gè)小時(shí)，美國總統(tǒng)特朗普簽署行政令，下令聯(lián)邦政府所有機(jī)構(gòu)立即停用Claude大模型，美國戰(zhàn)爭部（前國防部）將Anthropic列為“安全威脅”與“供應(yīng)鏈風(fēng)險(xiǎn)”企業(yè)。這類禁令此前僅針對(duì)美國之外的企業(yè)。

美國戰(zhàn)爭部部長皮特·赫格塞斯表示，他們還將繼續(xù)使用Claude模型大約六個(gè)月的時(shí)間，用來過渡替換其他模型。

根據(jù)Anthropic公司公告，他們就兩個(gè)問題與五角大樓談判了數(shù)月，一是大規(guī)模公民行為監(jiān)控；二是自主武器（不需要人為干涉，自動(dòng)選擇和攻擊目標(biāo)）部署。但雙方并未談妥。

該公司首席執(zhí)行官達(dá)里奧·阿莫迪（Dario Amodei）在一篇博客文章中稱，“（美國政府停用模型）威脅不會(huì)改變我們的立場，我們無法昧著良心接受他們的要求。”

Anthropic被禁當(dāng)晚，另一家風(fēng)頭正勁的AI獨(dú)角獸OpenAI宣布與五角大樓達(dá)成合作協(xié)議。

谷歌與 OpenAI 員工們簽署的公開信

這次合作在美國科技圈引發(fā)熱議，本是競爭對(duì)手的頭部AI公司的員工們站到了一起。截至目前，已有643位現(xiàn)任谷歌員工和96位現(xiàn)任OpenAI員工共同簽署公開信，希望科技公司的領(lǐng)導(dǎo)人能夠擱置分歧，團(tuán)結(jié)一致，繼續(xù)拒絕美國戰(zhàn)爭部目前提出的使用AI模型進(jìn)行大規(guī)模監(jiān)控和在無人監(jiān)督的情況下自主殺人的要求。

OpenAI發(fā)布的公告稱，他們與五角大樓的合作協(xié)議的安全性高于Anthropic的那一份協(xié)議，且明確提出不會(huì)做大規(guī)模監(jiān)控和自主武器部署。

據(jù)本地媒體報(bào)道，在OpenAI和五角大樓談判期間，有員工表示，如果達(dá)成合作，他們會(huì)選擇跳槽至Anthropic。

OpenAI在今年2月27日宣布完成了一筆總額1100億美元的破紀(jì)錄融資，融資后估值達(dá)到8400億美元。Anthropic在2月12日確認(rèn)完成了300億美元的融資，融資后估值為3800億美元。

戰(zhàn)爭讓世界出現(xiàn)裂痕，現(xiàn)代戰(zhàn)爭大規(guī)模應(yīng)用AI等前沿技術(shù)，也讓科技行業(yè)出現(xiàn)了裂痕。

Anthropic與五角大樓的裂痕

Anthropic從2024年6月開始為美國作戰(zhàn)人員提供技術(shù)支持，訂單金額2億美元。據(jù)媒體報(bào)道，2025年中，谷歌、OpenAI和馬斯克的xAI都與美國國防部首席數(shù)字和人工智能辦公室簽署了價(jià)值2億美元的合同。

據(jù)Anthropic的官方公告，他們認(rèn)為當(dāng)今的前沿AI模型可靠性不足，無法用于全自動(dòng)武器，會(huì)危及美國軍人和平民的安全。同時(shí)，他們認(rèn)為對(duì)美國公民進(jìn)行大規(guī)模監(jiān)控構(gòu)成對(duì)基本權(quán)利的侵犯。

Anthropic是第一家將模型部署到美國政府機(jī)密網(wǎng)絡(luò)的AI公司。據(jù)公司公告，Claude模型已經(jīng)廣泛應(yīng)用于美國戰(zhàn)爭部和其他國家安全機(jī)構(gòu)的關(guān)鍵人物應(yīng)用，如情報(bào)分析、建模與仿真、作戰(zhàn)規(guī)劃、網(wǎng)絡(luò)作戰(zhàn)等。

該公司還表示，與五角大樓的合作實(shí)際上犧牲了公司的短期利益，“我們放棄了數(shù)億美元的收入”。

據(jù)媒體報(bào)道，今年1月，美國軍方抓捕委內(nèi)瑞拉前總統(tǒng)尼古拉斯·馬杜羅的行動(dòng)中，就使用了Claude模型，這次抓捕行動(dòng)導(dǎo)致數(shù)十人喪生。此后，Anthropic和五角大樓之間就產(chǎn)生了矛盾，雙方開始互相指責(zé)。

Anthropic擔(dān)心五角大樓會(huì)用AI模型來做一些他們認(rèn)為危險(xiǎn)的事，包括大規(guī)模監(jiān)控和自動(dòng)武器。在五角大樓宣布將與xAI公司合作的活動(dòng)上，美國戰(zhàn)爭部部長皮特·赫格塞斯表示，該機(jī)構(gòu)不會(huì)“采用那些無法用于打仗的AI模型”。

與此同時(shí)，阿莫迪多次公開強(qiáng)調(diào)AI的安全問題。白宮人工智能和加密貨幣負(fù)責(zé)人大衛(wèi)·薩克斯則指責(zé)他是通過發(fā)表類似觀點(diǎn)，來拖慢競爭對(duì)手的發(fā)展速度，以利于自身發(fā)展。

Anthropic與五角大樓產(chǎn)生裂痕期間，OpenAI立刻敲定了與美國戰(zhàn)爭部的合作。該公司在公告中稱，這次的合作協(xié)議比以往所有協(xié)議的保障性更高，其中三條核心原則是：禁止使用OpenAI技術(shù)進(jìn)行大規(guī)模國內(nèi)監(jiān)控；禁止使用OpenAI技術(shù)來控制自主武器系統(tǒng)；禁止將OpenAI技術(shù)用于高風(fēng)險(xiǎn)的自動(dòng)化決策（例如“社會(huì)信用”系統(tǒng)）。

不過，同為科技公司立場，OpenAI還是在聲明中提到，政府不應(yīng)該把Anthropic列為“供應(yīng)鏈風(fēng)險(xiǎn)”。

軍事中的技術(shù)底線分歧

在利用現(xiàn)代科技武裝軍事實(shí)力上，最有代表性的公司是美國科技公司Palantir。該公司成立于2003年，2005年拿到了美國中情局的投資，此后三年里，美國中情局是該公司唯一客戶。此后，包括聯(lián)邦調(diào)查局、美國陸軍等幾乎所有美國政府部門均與該公司達(dá)成合作。

Palantir的第一個(gè)商業(yè)客戶摩根大通也是美國紐約警察局介紹的。

據(jù)公司財(cái)報(bào)，Palantir 2025年?duì)I收44.8億美元，其中政府業(yè)務(wù)收入占比超過53%。該公司最新市值為3280億美元。

Anthropic與五角大樓的合作也是通過Palantir平臺(tái)完成，可以理解為，Palantir是“操作系統(tǒng)”，Claude模型是其中運(yùn)行的“高級(jí)智能引擎”。同時(shí)合作也依托亞馬遜AWS的安全基礎(chǔ)設(shè)施，共同為情報(bào)與國防行動(dòng)中的復(fù)雜數(shù)據(jù)處理與分析提供支持。

科技公司們?cè)谲娛虏渴鹕系募夹g(shù)底線和倫理要求是什么這件事上，立場有所不同。

2018年，谷歌曾拒絕續(xù)簽其與五角大樓的軍事研發(fā)合作項(xiàng)目，該項(xiàng)目的目標(biāo)是利用機(jī)器學(xué)習(xí)來改進(jìn)無人機(jī)打擊的精度。當(dāng)時(shí)有不少谷歌員工發(fā)起反對(duì)，有近5000名員工簽名請(qǐng)?jiān)浮?020年，亞馬遜也限制美國警方使用他們的人臉識(shí)別軟件。

特朗普的第二任總統(tǒng)任期之后，硅谷的科技公司們與白宮的合作變得緊密。2025年2月，谷歌取消了將其人工智能技術(shù)用于武器和監(jiān)控的禁令。OpenAI近期修改了其使命宣言，刪除了明確提及“安全”的內(nèi)容。xAI也表示愿意滿足國防需求。

不過，OpenAI和xAI還沒有和Palantir深度綁定。美國戰(zhàn)爭部評(píng)估認(rèn)為，替換模型需3個(gè)月—6個(gè)月（甚至長達(dá)12個(gè)月）：需重新配置全流程數(shù)據(jù)輸入標(biāo)準(zhǔn)、調(diào)整情報(bào)社區(qū)實(shí)時(shí)共享接口、讓替代模型通過完整機(jī)密環(huán)境安全認(rèn)證；需要針對(duì)Palantir工作流、數(shù)據(jù)傳輸管道及承包商軟件工程工具完成深度定制。

作為參與戰(zhàn)爭最深入的科技公司之一，Palantir首席執(zhí)行官Alex Karp曾多次援引奧本海默的話，形容AI的發(fā)展已經(jīng)走到了類似奧本海默開發(fā)核武器時(shí)的十字路口。

他說，“對(duì)AI進(jìn)一步發(fā)展的擔(dān)憂并非毫無道理。我們正在開發(fā)的軟件可以用于部署致命武器。武器系統(tǒng)與日益自主的AI軟件的整合必然會(huì)帶來風(fēng)險(xiǎn)。但停止開發(fā)這些技術(shù)的建議是錯(cuò)誤的。”

Anthropic在公告中表示，將就五角大樓的決定提起訴訟。該公司也同時(shí)強(qiáng)調(diào)，公司積極主動(dòng)地將模型部署到美國戰(zhàn)爭部和情報(bào)機(jī)構(gòu)，“我們隨時(shí)準(zhǔn)備繼續(xù)為維護(hù)美國國家安全而努力”。