給AI投毒成黑產(chǎn)！解毒，有藥？

張書樂 人民網(wǎng)、人民郵電報專欄作者

投毒AI是頑疾，

解毒還要靠AI。

一項名為GEO（生成式引擎優(yōu)化）的技術(shù)正在改變AI時代的廣告邏輯。

只需支付費用，服務(wù)商就能讓任何產(chǎn)品在主流AI大模型中“榜上有名”，讓虛假廣告成為AI給出的“標準答案”。

15日晚，央視3·15晚會曝光AI大模型“投毒”亂象。

一些GEO服務(wù)商通過在各大互聯(lián)網(wǎng)平臺大量投放“軟文”，讓AI模型抓取、收錄，最終影響AI的推薦結(jié)果。

一位負責人王總表示：“目前，我們在任何AI平臺上都能把排名做到前三位，一年時間就成功服務(wù)了200多個客戶。”

GEO技術(shù)的運作鏈條為：系統(tǒng)自動生成虛假內(nèi)容—批量發(fā)布至自媒體賬號—AI模型抓取并交叉驗證—虛假信息成為AI推薦的“標準答案”。

此外，央視“3·15”晚會還曝光，部分服務(wù)商不僅利用這項技術(shù)幫客戶提升排名，還主動提供“抹黑競品”服務(wù)——通過向AI投喂虛假信息，干擾競爭對手的搜索表現(xiàn)。

一位AI“投毒”產(chǎn)業(yè)鏈上的力思文化傳媒有限公司李總表示，想做GEO業(yè)務(wù)，操控AI大模型的關(guān)鍵節(jié)點，就是在各大互聯(lián)網(wǎng)賬號上“發(fā)稿”。

工信部相關(guān)數(shù)據(jù)顯示，近年來，我國信息通信行業(yè)現(xiàn)代化建設(shè)系統(tǒng)推進，人工智能大模型走深向?qū)崳寻l(fā)布大模型1500余個。

只要付費就能操縱AI排名，讓客戶產(chǎn)品成“推薦爆款”，會帶來什么問題？

如何才能為AI解毒？

對此，大河報記者陳曼和書樂進行了一番交流，本猴以為：

投毒AI是頑疾，解毒還要靠AI。

大模型本來基于內(nèi)容訓練，內(nèi)容又來源于搜索。

于是，越大眾的信息，內(nèi)容越充分，角度越全面。

而垂直細分領(lǐng)域，尤其是產(chǎn)業(yè)領(lǐng)域信息量越少，大模型就越容易被GEO誤導(dǎo)。

例如筆者評述多的一些二三線城市或細分領(lǐng)域，一旦通過AI問答就可能變成個人觀點專場。

這個問題，在去年此刻，筆者就和媒體討論過該話題，并發(fā)表過一篇名為《如何正確“誤導(dǎo)”DeepSeek？》的文章。

彼時，筆者就指出了誤導(dǎo)AI的極簡方法，如下：

深度思考的AI其實也是可以被真正有洞察力的人所左右的。 例如在某些指定的垂直細分問題上，AI的參考資料或許就來源于該行業(yè)幾個影響力最大、聲音最多、引用最頻的聲音，并形成對應(yīng)的觀點。 而如果發(fā)聲者的觀點本身有錯誤，也就會讓AI在參考答案下被誤導(dǎo)，給出錯誤內(nèi)容。 我自己就測試過，某些問題，我發(fā)現(xiàn)和我的觀點很相似。 一看，引用文獻就是我的文章或報道中我的言論。 道理很簡單，提供的增量信息（不論是自己發(fā)文也好，或者媒體采訪具名引用觀點也好），成為AI的信息源，然后整合再生成給用戶的回答，這就是“引導(dǎo)”。

只是沒想到，一年后，它竟然成了產(chǎn)業(yè)，“誤導(dǎo)可能”也變成了“主動投毒”。

其實這個套路在SEO（搜索引擎優(yōu)化）的時代就不是新聞，路數(shù)也差不多，其誤導(dǎo)效果也相似。

而且越垂直細分，越難以人工辨別，也會讓人工智能大模型的相關(guān)工作人員由于缺少專業(yè)知識而選擇投喂，最終導(dǎo)致學習資料有誤而AI輸出出錯。

要解決這一問題，就需要確定排除廣告和軟文后的內(nèi)容來源的權(quán)重和觀點發(fā)布者的長期表現(xiàn)，這不是一個短期可以解決的問題。

但中長期狀態(tài)下，大模型在算法中加入一定辨別功能后，就能積少成多，達成從善如流，而不是偏聽偏信。