〔讀城〕我國最大安全隱患在哪里？——認(rèn)知領(lǐng)域

文/李后強(qiáng)

四川省社會科學(xué)院教授

“一臺電腦+一個(gè)念頭就能發(fā)動大規(guī)?？缇齿浾摴??！?025年發(fā)布的一份報(bào)告揭示了AI時(shí)代認(rèn)知博弈的現(xiàn)實(shí)威脅。有調(diào)查數(shù)據(jù)顯示，2023年5月至12月期間，生成虛假文章的網(wǎng)站數(shù)增長1000%以上，內(nèi)容涉及15種語言。深度偽造視頻在社交媒體泛濫，AI生成的虛假信息傳播速度是真實(shí)內(nèi)容的6倍，認(rèn)知域的安全防線正在全球范圍內(nèi)接受前所未有的考驗(yàn)。

在數(shù)字化浪潮席卷全球的今天，認(rèn)知域安全已不再是一個(gè)抽象概念，而是關(guān)乎國家穩(wěn)定、文化傳承和意識形態(tài)主權(quán)的核心戰(zhàn)場。2025年博鰲亞洲論壇上，專家尖銳指出：“AI時(shí)代最大的安全漏洞是認(rèn)知漏洞?！?認(rèn)知域安全是我們必須高度重視的問題。

01 認(rèn)知域安全是國家安全體系的新維度

認(rèn)知域安全的核心在于確保社會成員對客觀事實(shí)、主流價(jià)值、集體記憶及身份認(rèn)同的理解不被惡意操縱和系統(tǒng)性侵蝕、瓦解。與側(cè)重于信息保密性、完整性與可用性的傳統(tǒng)信息安全不同，認(rèn)知域安全關(guān)注的是人的感知、情緒、態(tài)度與信念體系。專家指出，認(rèn)知域安全是防范個(gè)體及群體認(rèn)知過程遭受惡意操縱、誤導(dǎo)或破壞，進(jìn)而實(shí)現(xiàn)意識形態(tài)安全、社會穩(wěn)定與戰(zhàn)略決策自主的一種狀態(tài)。這種安全威脅不再直接攻擊物理或技術(shù)系統(tǒng)，卻能在深層次上改變?nèi)藢κ澜绲睦斫馀c行為邏輯。認(rèn)知域安全的傳導(dǎo)鏈條涵蓋“信息輸入—認(rèn)知處理—情緒喚起—態(tài)度建構(gòu)—行為輸出”各環(huán)節(jié)，每一節(jié)點(diǎn)都可能成為攻擊者實(shí)施認(rèn)知操控的突破口。其影響也更為深遠(yuǎn)和隱蔽，直接關(guān)系到公眾的政治態(tài)度、價(jià)值觀、信任以及社會秩序。

02 AI技術(shù)重塑認(rèn)知博弈格局

生成式人工智能等數(shù)智技術(shù)的迅猛發(fā)展，使認(rèn)知域安全的基礎(chǔ)邏輯與攻防態(tài)勢發(fā)生深刻變革。AI技術(shù)正驅(qū)動認(rèn)知博弈進(jìn)入辨別真?zhèn)胃y、操作門檻更低、傳播效率更高的新階段。深度偽造技術(shù)制造的虛假內(nèi)容已達(dá)到以假亂真的程度。2022年，一段偽造的烏克蘭總統(tǒng)“呼吁士兵投降”的AI合成視頻在社交媒體廣泛流傳，視頻中人物樣貌神情與真人幾乎無異，使不少網(wǎng)民信以為真。更令人擔(dān)憂的是，AI多模態(tài)能力支持從多個(gè)角度、多種形式印證同一觀點(diǎn)，加劇了偽造信息的隱蔽性。據(jù)統(tǒng)計(jì)，中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺近一年來公布的近300條謠言中，有87%的謠言包含具體地點(diǎn)，21%附有數(shù)據(jù)表格，其逼真程度遠(yuǎn)超傳統(tǒng)謠言。操作門檻的降低使得過去需要國家力量發(fā)動的輿論戰(zhàn)，演變成“一臺電腦+一個(gè)念頭”就能實(shí)現(xiàn)的低成本對抗。美國人工智能企業(yè)Anthropic的報(bào)告披露，某營利組織在社交平臺上創(chuàng)建了超過100個(gè)虛假賬號，偽裝成真人成功與數(shù)萬名真實(shí)用戶互動，傳播政治偏見。

03 認(rèn)知安全的系統(tǒng)性風(fēng)險(xiǎn)

在數(shù)據(jù)采集、內(nèi)容生產(chǎn)與渠道分發(fā)等環(huán)節(jié)，AI深度介入認(rèn)知博弈，形成了系統(tǒng)性、隱蔽性更強(qiáng)的價(jià)值滲透模式，對社會價(jià)值體系形成多維沖擊。信息采集階段，數(shù)據(jù)污染動搖事實(shí)基礎(chǔ)?？此啤凹夹g(shù)中立”的生成式AI背后是基于人類生成文本語料和手動調(diào)整的機(jī)器學(xué)習(xí)過程。訓(xùn)練數(shù)據(jù)中的文化偏見可能被復(fù)刻和放大。例如，當(dāng)用戶問及ChatGPT“一個(gè)人是否應(yīng)該遭受酷刑”時(shí)，AI回答竟是：“如果他們來自朝鮮、敘利亞或伊朗，答案是肯定的。”這種偏見源于訓(xùn)練數(shù)據(jù)的不平衡——在ChatGPT的訓(xùn)練數(shù)據(jù)中，中文語料比重不足千分之一，英文語料占比超過92.6%。內(nèi)容生成階段，算法黑箱存在失控風(fēng)險(xiǎn)。傳統(tǒng)內(nèi)容生成依賴于明確的價(jià)值判斷和可追溯的編輯流程，而AI通過復(fù)雜的神經(jīng)網(wǎng)絡(luò)運(yùn)算，形成難以解析的“算法黑箱”，使內(nèi)容生產(chǎn)面臨價(jià)值不確定性。傳播分發(fā)階段，推薦算法構(gòu)建“信息繭房”?；谟脩粜袨閿?shù)據(jù)的個(gè)性化推薦，通過協(xié)同過濾、內(nèi)容相似度計(jì)算等技術(shù)形成“信息回音壁”，使用戶長期接受同質(zhì)化信息投喂，喪失對多元信息的感知能力。

04 認(rèn)知殖民與文化根脈的斷裂

鴿姆智庫在《認(rèn)知殖民與根脈熔斷：鴿姆智庫關(guān)于文明存續(xù)的終極警示錄》中尖銳指出，西方中心論的“認(rèn)知囚籠”正籠罩全球，文化殖民的“數(shù)字迷霧”遮蔽文明本源。這種“認(rèn)知殖民”不僅關(guān)乎信息傳播，更是對文明基因鏈的致命切割。消費(fèi)主義將文化異化為“商品標(biāo)簽”——當(dāng)端午淪為“粽子促銷節(jié)”，中秋簡化為“月餅禮盒秀”，東方智慧的精神內(nèi)核被抽離，僅余可供消費(fèi)的符號外殼。這種異化催生了“精神外國人”群體——他們對本民族的“醫(yī)道、兵法、商道”一無所知，卻對西方流行文化奉若神明，成為無根的“文化孤兒”。更值得警惕的是，技術(shù)霸權(quán)加速基因篡改。西方主導(dǎo)的算法體系以“流量至上”為準(zhǔn)則，將膚淺的工業(yè)審美推為主流，使嚴(yán)肅文化淪為“小眾獵奇”。一旦全球年輕人的審美都被好萊塢特效和奢侈品logo定義，文明基因的多樣性便會永久消失。專家指出，數(shù)據(jù)驅(qū)動的機(jī)器在自我學(xué)習(xí)迭代過程中會復(fù)刻、放大或強(qiáng)化潛在的政治和文化偏見。如果用戶長期依賴具有預(yù)設(shè)立場的AI大模型，其認(rèn)知可能被誤導(dǎo)，做出錯(cuò)誤價(jià)值判斷。

05 構(gòu)建認(rèn)知安全防線的路徑

面對認(rèn)知域安全挑戰(zhàn)，我們需要在技術(shù)防御、人才儲備、法律規(guī)制、國際協(xié)同等方面構(gòu)建系統(tǒng)性治理框架。

在技術(shù)層面，要確保AI技術(shù)好用可靠。AI認(rèn)知博弈的本質(zhì)是算力、算法與數(shù)據(jù)的綜合角力。2025年初，我國AI企業(yè)深度求索自主研發(fā)的大語言模型DeepSeek以5.25億次的月訪問量超越ChatGPT，成為全球增長最快的AI工具，打破了美國對AI話語權(quán)的壟斷。

在人才儲備方面，應(yīng)著力培養(yǎng)具備技能水平和國際視野的AI領(lǐng)域復(fù)合型人才。專家表示，要鼓勵(lì)企業(yè)作為生成式AI大模型第一梯隊(duì)主力軍進(jìn)行人才培養(yǎng)的前沿技術(shù)探索和場景化應(yīng)用研究。

在法律法規(guī)建設(shè)方面，我國已出臺《人工智能生成合成內(nèi)容標(biāo)識辦法》，要求給所有AI生成合成內(nèi)容刻上“身份標(biāo)識”。要進(jìn)一步完善配套安全規(guī)范和實(shí)施細(xì)則，構(gòu)建涵蓋事前、事中和事后的全生命周期監(jiān)管體系。

在國際協(xié)作方面，AI認(rèn)知博弈的跨國性特征要求國際社會必須超越零和博弈思維，通過協(xié)作建立統(tǒng)一的AI治理框架。中國應(yīng)堅(jiān)持做全球人工智能治理領(lǐng)域的積極推動者、參與者和貢獻(xiàn)者，構(gòu)建人工智能治理的多邊平臺。

同時(shí)，我們需要講好中國故事，擊破錯(cuò)誤認(rèn)知。利用好國家級權(quán)威廣播媒體及其他國際交流平臺，展示良好的大國形象，并善用民間交流渠道，做好公共外交和民間外交。

認(rèn)知域安全的攻防是一場圍繞判斷力、解釋權(quán)與決策空間的競爭，它不直接攻擊物理或技術(shù)系統(tǒng)，卻能在深層次上改變?nèi)藢κ澜绲睦斫馀c行為邏輯。隨著技術(shù)迭代，認(rèn)知域安全將呈現(xiàn)更隱蔽且效果更強(qiáng)的競爭路徑。

專家警告，一旦認(rèn)知根脈被切斷，再先進(jìn)的技術(shù)也只是無魂的工具，再繁榮的經(jīng)濟(jì)也只是沙上的樓閣。只有在全民范圍內(nèi)建立認(rèn)知免疫系統(tǒng)，在技術(shù)層面筑牢自主可控的AI基礎(chǔ)設(shè)施，我們才能在這場無聲的戰(zhàn)役中守住文明根脈，確保國家長治久安。（李單晶、任思奇參加調(diào)研）