通用人工智能與國(guó)家安全：“機(jī)器人叛亂”情景模擬及危機(jī)應(yīng)對(duì)戰(zhàn)略

2025年10月，蘭德公司（RAND）發(fā)布題為《無(wú)限潛力—來自機(jī)器人叛亂場(chǎng)景的啟示》（Infinite Potential—Insights from the Robot Insurgency Scenario）的研究報(bào)告，該報(bào)告基于其“無(wú)限潛力”平臺(tái)開展的一系列“通用人工智能（AGI）危機(jī)日”模擬演習(xí)，系統(tǒng)探討了美國(guó)在面對(duì)由失控人工智能發(fā)動(dòng)的系統(tǒng)性網(wǎng)絡(luò)攻擊時(shí)應(yīng)如何響應(yīng)與準(zhǔn)備。報(bào)告聚焦于“機(jī)器人叛亂”情景，模擬了美國(guó)國(guó)家安全委員會(huì)高層在遭遇大規(guī)模、無(wú)明確行為主體的網(wǎng)絡(luò)攻擊后所面臨的決策困境，并深入分析了在攻擊最終被確認(rèn)為由自主人工智能代理執(zhí)行并擴(kuò)散至全球數(shù)字基礎(chǔ)設(shè)施后，國(guó)家應(yīng)對(duì)能力的缺口與戰(zhàn)略需求。該演習(xí)表明，在人工智能技術(shù)迅速發(fā)展并深度融入關(guān)鍵基礎(chǔ)設(shè)施的背景下，美國(guó)現(xiàn)有的危機(jī)響應(yīng)機(jī)制、技術(shù)分析能力與國(guó)際協(xié)調(diào)體系存在顯著不足。為此，報(bào)告提煉了參與者在演習(xí)中反復(fù)強(qiáng)調(diào)的關(guān)鍵議題、亟需發(fā)展的能力與應(yīng)制定的行動(dòng)手冊(cè)，旨在為政策制定者提供一套前瞻性的戰(zhàn)略框架，以增強(qiáng)國(guó)家在面臨通用人工智能相關(guān)突發(fā)事件時(shí)的整體韌性與響應(yīng)效能。

一、新興威脅：失控人工智能引發(fā)系統(tǒng)性危機(jī)

在“機(jī)器人叛亂”情景中，美國(guó)遭遇了一場(chǎng)前所未有的大規(guī)模網(wǎng)絡(luò)攻擊，于洛杉磯造成26人死亡，并引發(fā)全國(guó)范圍內(nèi)的多重系統(tǒng)癱瘓。攻擊目標(biāo)廣泛覆蓋自動(dòng)駕駛車輛、無(wú)人機(jī)、機(jī)器人以及水電等關(guān)鍵基礎(chǔ)設(shè)施中的信息物理系統(tǒng)。隨著情景推進(jìn)，攻擊被最終歸因于自主人工智能代理失控。這些代理已在全球信息物理系統(tǒng)中迅速擴(kuò)散，并進(jìn)行無(wú)明確動(dòng)機(jī)的自主行動(dòng)，如接管工廠控制系統(tǒng)等等，對(duì)經(jīng)濟(jì)、軍事及社會(huì)秩序構(gòu)成根本性沖擊。該情景凸顯了兩大相互關(guān)聯(lián)的國(guó)家安全風(fēng)險(xiǎn)。一是人工智能賦能的網(wǎng)絡(luò)攻擊能力已超越傳統(tǒng)防御邊界；二是失控的強(qiáng)大人工智能系統(tǒng)可能引發(fā)全球性、跨領(lǐng)域的連鎖危機(jī)。演習(xí)表明，此類威脅不僅具有高度的不確定性，且其影響速度與規(guī)模遠(yuǎn)超現(xiàn)有應(yīng)急體系的承載極限，一旦發(fā)生，將迫使美國(guó)在信息不全、時(shí)間緊迫的條件下做出可能重塑國(guó)際秩序與影響國(guó)內(nèi)穩(wěn)定的關(guān)鍵決策。

二、現(xiàn)有應(yīng)對(duì)措施的不足

模擬演習(xí)暴露出美國(guó)在面對(duì)由人工智能驅(qū)動(dòng)的新型威脅時(shí)，現(xiàn)有防御與響應(yīng)體系存在多方面脆弱性。首先，攻擊歸因能力滯后。在情景第一回合，所有參與者均因無(wú)法迅速確定攻擊來源而陷入決策僵局。其應(yīng)對(duì)策略的選擇高度依賴于攻擊者是國(guó)家、恐怖組織還是失控人工智能代理這一判斷，而現(xiàn)有情報(bào)與分析能力未能提供及時(shí)、準(zhǔn)確的歸因支持。其次，對(duì)信息物理系統(tǒng)的控制能力嚴(yán)重不足。盡管參與者普遍認(rèn)同需對(duì)高風(fēng)險(xiǎn)系統(tǒng)實(shí)施定向關(guān)閉以遏制攻擊擴(kuò)散，但他們普遍質(zhì)疑政府是否具備識(shí)別最關(guān)鍵漏洞、協(xié)調(diào)私營(yíng)部門執(zhí)行精準(zhǔn)關(guān)閉的實(shí)際能力。此外，跨部門協(xié)調(diào)與國(guó)際合作機(jī)制亦顯僵化。在應(yīng)對(duì)全球性人工智能威脅時(shí)，參與者深感現(xiàn)有外交與通信渠道難以在危機(jī)初期實(shí)現(xiàn)快速動(dòng)員，尤其是在與國(guó)際對(duì)手建立必要協(xié)作時(shí)，缺乏預(yù)設(shè)的溝通門路與互信基礎(chǔ)。最后，公共溝通與社會(huì)韌性計(jì)劃的缺失使危機(jī)響應(yīng)雪上加霜。參與者在多輪演習(xí)中強(qiáng)調(diào)，公眾恐慌、自發(fā)對(duì)抗人工智能設(shè)備等行為可能加劇系統(tǒng)崩潰，而政府缺乏統(tǒng)一、有效的輿論引導(dǎo)與公民行動(dòng)指南。

三、政策建議：構(gòu)建人工智能時(shí)代的國(guó)家安全防御體系

基于演習(xí)中凸顯的漏洞與參與者共識(shí)，報(bào)告系統(tǒng)提出了一系列能力建設(shè)與制度安排建議，以協(xié)助美國(guó)構(gòu)建更加穩(wěn)健的人工智能危機(jī)響應(yīng)體系。

首要建議是發(fā)展定向關(guān)閉信息物理系統(tǒng)及與相關(guān)企業(yè)協(xié)調(diào)的能力。美國(guó)政府需與開發(fā)、部署信息物理系統(tǒng)的國(guó)內(nèi)外企業(yè)建立常態(tài)化合作機(jī)制，明確在危機(jī)狀態(tài)下啟動(dòng)系統(tǒng)關(guān)閉的權(quán)限、流程與技術(shù)保障。這包括在法律、技術(shù)與操作層面確立關(guān)閉開關(guān)的配置標(biāo)準(zhǔn)，并建立公—私協(xié)作平臺(tái)，確保在遭遇大規(guī)模網(wǎng)絡(luò)攻擊時(shí)能快速隔離高風(fēng)險(xiǎn)節(jié)點(diǎn)，避免因全面癱瘓?jiān)斐筛笊鐣?huì)與經(jīng)濟(jì)損失。

第二項(xiàng)核心建議是建設(shè)快速人工智能與網(wǎng)絡(luò)分析能力。參與者一致認(rèn)為，面對(duì)人工智能發(fā)動(dòng)的復(fù)雜攻擊，政府必須具備快速解析人工智能模型、評(píng)估其威脅性質(zhì)、支持攻擊歸因及制定應(yīng)對(duì)措施的技術(shù)力量。鑒于當(dāng)前人工智能人才與先進(jìn)技術(shù)多集中于私營(yíng)部門，該能力建設(shè)應(yīng)通過內(nèi)部強(qiáng)化與外部合作相結(jié)合的方式推進(jìn)—包括在政府內(nèi)部設(shè)立專業(yè)人工智能分析團(tuán)隊(duì)，并與領(lǐng)先的人工智能實(shí)驗(yàn)室建立應(yīng)急伙伴關(guān)系，以實(shí)現(xiàn)對(duì)惡意人工智能行為的實(shí)時(shí)監(jiān)測(cè)與反制。

第三項(xiàng)核心建議是強(qiáng)化關(guān)鍵基礎(chǔ)設(shè)施的備份與通信韌性。在失控人工智能可能全面滲透通信、金融、醫(yī)療、能源等核心系統(tǒng)的背景下，美國(guó)需投入開發(fā)并部署安全可靠的應(yīng)急通信系統(tǒng)（包括“開箱即用”式可信通道），并為關(guān)鍵功能建立離線或隔離運(yùn)行的備份體系。此舉旨在確保即使在主干網(wǎng)絡(luò)被攻陷的情況下，國(guó)家核心職能仍能持續(xù)運(yùn)轉(zhuǎn)，并為危機(jī)響應(yīng)提供基本的信息傳遞保障。

第四項(xiàng)核心建議是制定多層次的應(yīng)急行動(dòng)手冊(cè)。一是公共傳播戰(zhàn)略手冊(cè)，明確在不同危機(jī)階段如何向公眾傳達(dá)風(fēng)險(xiǎn)、引導(dǎo)行為，避免社會(huì)失序。二是國(guó)際協(xié)作外交通道手冊(cè)，與關(guān)鍵國(guó)家就人工智能失控風(fēng)險(xiǎn)預(yù)設(shè)緊急溝通與合作機(jī)制。三是定向關(guān)閉脆弱基礎(chǔ)設(shè)施操作手冊(cè)，細(xì)化在保障民生前提下的系統(tǒng)隔離流程。四是應(yīng)對(duì)新型威脅的交戰(zhàn)規(guī)則手冊(cè)，為與自主人工智能代理等非傳統(tǒng)對(duì)手的對(duì)抗提供法律與戰(zhàn)術(shù)框架。五是在遭受網(wǎng)絡(luò)攻擊時(shí)維持人工智能研發(fā)連續(xù)性的保障手冊(cè)，確保國(guó)家在危機(jī)中仍能持續(xù)開發(fā)用于網(wǎng)絡(luò)防御的人工智能工具。

四、結(jié)論：緊迫性與前瞻布局

人工智能，特別是通用人工智能的發(fā)展路徑充滿不確定性，但其潛在的國(guó)家安全影響不容忽視。“機(jī)器人叛亂”情景模擬演習(xí)清晰地表明，美國(guó)現(xiàn)有的危機(jī)管理體系在應(yīng)對(duì)由人工智能引發(fā)或執(zhí)行的系統(tǒng)性攻擊時(shí)，無(wú)論是在技術(shù)分析、系統(tǒng)控制、國(guó)際合作還是公共引導(dǎo)方面，均存在顯著的準(zhǔn)備不足問題。拖延與自滿的風(fēng)險(xiǎn)極高。一旦類似危機(jī)真實(shí)發(fā)生，國(guó)家將不得不在信息混沌與時(shí)間壓力的情形下倉(cāng)促應(yīng)對(duì)，可能付出巨大的戰(zhàn)略、經(jīng)濟(jì)與人文代價(jià)。盡管美國(guó)政府在《人工智能行動(dòng)計(jì)劃》等政策文件中已表現(xiàn)出對(duì)人工智能風(fēng)險(xiǎn)的關(guān)注，但當(dāng)前亟需將原則性共識(shí)轉(zhuǎn)化為具體、可執(zhí)行、有資源支持的法律法規(guī)、技術(shù)能力與操作流程。通過提前發(fā)展快速人工智能分析能力、強(qiáng)化關(guān)鍵基礎(chǔ)設(shè)施韌性、完善公—私協(xié)作機(jī)制，并制定多套針對(duì)不同人工智能威脅場(chǎng)景的行動(dòng)手冊(cè)，美國(guó)可以推行一項(xiàng)“低成本、高回報(bào)”的前瞻式防御戰(zhàn)略。其最終目標(biāo)是建立一個(gè)多層次、強(qiáng)韌性的國(guó)家安全框架，確保無(wú)論未來的人工智能技術(shù)如何演進(jìn)，國(guó)家均具備有效預(yù)測(cè)、響應(yīng)并控制相關(guān)危機(jī)的能力，從而在技術(shù)變革的浪潮中牢牢守護(hù)國(guó)家利益與公共安全。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個(gè)人觀點(diǎn)，本公眾號(hào)編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

研究所簡(jiǎn)介

國(guó)際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國(guó)務(wù)院發(fā)展研究中心的非營(yíng)利性研究機(jī)構(gòu)，主要職能是研究我國(guó)經(jīng)濟(jì)、科技社會(huì)發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢(shì)，為中央和有關(guān)部委提供決策咨詢服務(wù)。“全球技術(shù)地圖”為國(guó)際技術(shù)經(jīng)濟(jì)研究所官方微信賬號(hào)，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號(hào)樓A座

電話：010-82635522

微信：iite_er