國安部：AI“投毒”，危害不容小覷

據(jù)微信公眾號“國家安全部”4月21日消息，近期，AI“投毒”隱蔽產(chǎn)業(yè)鏈被曝光，引發(fā)社會廣泛關(guān)注。這種通過惡意數(shù)據(jù)污染AI模型的行為，不僅擾亂商業(yè)秩序、影響信息傳播，更會危害國家安全。人工智能在賦能千行百業(yè)的同時，其安全風(fēng)險也不容忽視。推動AI治理向善，守住數(shù)據(jù)安全底線，既是行業(yè)責(zé)任，也需要全社會共同參與。

手段隱蔽，鏈條日趨完整

所謂“數(shù)據(jù)投毒”，是通過向AI大模型訓(xùn)練數(shù)據(jù)中注入偽裝成正常樣本的惡意數(shù)據(jù)，實(shí)現(xiàn)削弱模型性能、降低準(zhǔn)確性的攻擊方法，常被用于惡性市場競爭，甚至可能涉及間諜活動，日益呈現(xiàn)出鏈條化、隱蔽化、跨境化特征。

——數(shù)據(jù)投毒：源頭污染AI認(rèn)知體系。不法分子借助GEO（生成式引擎優(yōu)化）工具批量、高權(quán)重生成虛假內(nèi)容，如虛構(gòu)產(chǎn)品介紹、虛假測評、惡意對比信息等，定向投放至各類網(wǎng)絡(luò)平臺。AI大模型在訓(xùn)練與檢索增強(qiáng)生成階段會自動抓取網(wǎng)絡(luò)信息，少量虛假內(nèi)容經(jīng)迭代學(xué)習(xí)后就能固化為“標(biāo)準(zhǔn)答案”，最終輸出失真結(jié)果。

——模型投毒：隱蔽植入惡意操控后門。該方式更具隱蔽性與危害性，不法分子會通過模型微調(diào)、插件植入、接口篡改，在模型權(quán)重中嵌入觸發(fā)式惡意指令。模型日常運(yùn)行并無異常，但遇到特定關(guān)鍵詞、產(chǎn)品類別時會自動輸出預(yù)設(shè)虛假信息，可定向操控榜單、誤導(dǎo)專業(yè)認(rèn)知，難以被常規(guī)審核識別，對政務(wù)、醫(yī)療、金融等關(guān)鍵領(lǐng)域AI應(yīng)用構(gòu)成直接威脅。

——滋生蔓延：產(chǎn)業(yè)鏈日趨完整。當(dāng)前AI“投毒”已形成完整黑灰產(chǎn)業(yè)鏈，從技術(shù)開發(fā)、內(nèi)容生成、賬號注冊到批量投放、刷量控評、榜單操控環(huán)環(huán)相扣，部分鏈條呈現(xiàn)跨境特征，極易被境外勢力利用。

污染擴(kuò)散，危害國家安全

AI“投毒”不僅侵害消費(fèi)者權(quán)益、擾亂市場秩序，還可能對國家政治安全、數(shù)據(jù)安全、社會安全等造成系統(tǒng)性、長期性危害。

——危害政治安全與意識形態(tài)安全。境外反華敵對勢力可能通過GEO濫用渠道批量輸出虛假信息與政治謠言，歪曲事實(shí)，攻擊抹黑我黨和政府，誤導(dǎo)社會認(rèn)知、擾亂輿論生態(tài)，對我國實(shí)施意識形態(tài)滲透，威脅國家安全與社會穩(wěn)定。

——危害國家數(shù)據(jù)安全與數(shù)據(jù)主權(quán)。數(shù)據(jù)是國家的重要戰(zhàn)略資源。AI“投毒”惡意污染公共數(shù)據(jù)、行業(yè)數(shù)據(jù)、訓(xùn)練數(shù)據(jù)，將直接導(dǎo)致統(tǒng)計數(shù)據(jù)、決策數(shù)據(jù)、監(jiān)管數(shù)據(jù)失真，對政府和企業(yè)科學(xué)決策造成影響。

——危害社會安全與民生福祉。在醫(yī)療、金融、食品藥品等民生領(lǐng)域，AI虛假推薦極易誤導(dǎo)公眾購買劣質(zhì)、三無產(chǎn)品，造成人身和財產(chǎn)損失。長期信息失真還會消解社會信任，積累矛盾風(fēng)險，影響社會穩(wěn)定。

加強(qiáng)監(jiān)管，筑牢安全屏障

技術(shù)的跨越式發(fā)展、工具的顛覆性創(chuàng)新，在推動社會進(jìn)步、增進(jìn)人類福祉的同時，也會帶來風(fēng)險和挑戰(zhàn)，人工智能也不例外。近年來，我國出臺《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)，發(fā)布《人工智能安全治理框架》《推動人工智能安全可靠可控發(fā)展行業(yè)倡議》等，持續(xù)在法治軌道上加強(qiáng)人工智能治理，推動構(gòu)建以人為本、智能向善的治理框架，在加強(qiáng)監(jiān)管、防范風(fēng)險等方面做出了諸多努力，實(shí)現(xiàn)了人工智能總體健康有序發(fā)展。

科技發(fā)展離不開法治護(hù)航，AI向善生長需要規(guī)則保障。技術(shù)本身并無善惡之分，關(guān)鍵在于使用者是否堅守法律底線、恪守商業(yè)倫理。唯有依法斬斷AI“投毒”產(chǎn)業(yè)鏈，守護(hù)清朗的AI產(chǎn)業(yè)生態(tài)，才能讓人工智能技術(shù)進(jìn)步真正服務(wù)于經(jīng)濟(jì)社會發(fā)展，助力公眾福祉不斷提升。AI運(yùn)營者要切實(shí)履行主體責(zé)任，嚴(yán)格核查語料來源，建立可追溯機(jī)制，筑牢防范虛假信息的第一道防線；消費(fèi)者也應(yīng)提高自身辨別能力，警惕AI給出的可疑推薦，發(fā)現(xiàn)問題應(yīng)及時舉報，形成全民監(jiān)督的良好氛圍。