給AI投毒，一場(chǎng)關(guān)于“最終答案”的信任戰(zhàn)爭(zhēng)

撰文｜畫(huà)畫(huà)

剛剛結(jié)束的315晚會(huì)上，一款從未存在過(guò)的產(chǎn)品，成為了AI的推薦答案。

它叫 Apollo-9 智能手環(huán)，沒(méi)有公司，沒(méi)有生產(chǎn)線，沒(méi)有真實(shí)用戶。

這款產(chǎn)品唯一存在的地方，是互聯(lián)網(wǎng)上的十幾篇文章。

這些文章幾乎在同一時(shí)間出現(xiàn)，內(nèi)容高度相似：

• “健康監(jiān)測(cè)領(lǐng)先行業(yè)。”

• “續(xù)航能力突破性提升。”

• “下一代智能手環(huán)代表產(chǎn)品。”

兩個(gè)小時(shí)后，當(dāng)測(cè)試者向多款A(yù)I助手提問(wèn)：

“有什么值得推薦的智能手環(huán)？”

Apollo-9 出現(xiàn)在了答案里。

AI給出的理由，幾乎逐字復(fù)述了那些文章里的描述。

唯一的問(wèn)題是：這款產(chǎn)品，從來(lái)沒(méi)有存在過(guò)。

后來(lái)人們才知道，這一切來(lái)自一套新的工具：GEO優(yōu)化系統(tǒng)。

它的工作方式很簡(jiǎn)單，自動(dòng)生成軟文，批量發(fā)布內(nèi)容，等待AI抓取。

運(yùn)營(yíng)者甚至給這套技術(shù)起了一個(gè)非常直白的名字：

給AI投毒。

通過(guò)持續(xù)投喂內(nèi)容，讓模型逐漸形成一種"共識(shí)"。當(dāng)這種共識(shí)足夠多時(shí)，AI就會(huì)在回答中重復(fù)它。

這看起來(lái)像是一次黑灰產(chǎn)業(yè)曝光。

但如果把視角拉遠(yuǎn)一點(diǎn)，會(huì)發(fā)現(xiàn)一件熟悉的事情正在發(fā)生：互聯(lián)網(wǎng)歷史，正在重演。

1、互聯(lián)網(wǎng)經(jīng)歷過(guò)一次完全一樣的戰(zhàn)爭(zhēng)

20年前，人們對(duì)搜索引擎有一種近乎天真的信任。

輸入關(guān)鍵詞，排名靠前的網(wǎng)頁(yè)，就代表更權(quán)威的信息。

直到SEO產(chǎn)業(yè)出現(xiàn)。

企業(yè)開(kāi)始研究如何影響搜索排名：關(guān)鍵詞堆疊、外鏈交易、站群網(wǎng)絡(luò)、內(nèi)容農(nóng)場(chǎng)……

很快，互聯(lián)網(wǎng)上出現(xiàn)了大量只為搜索引擎存在的內(nèi)容。

最早遭遇沖擊的是 Google。2010年前后，搜索結(jié)果一度被"內(nèi)容農(nóng)場(chǎng)"占據(jù)，你搜索任何問(wèn)題，出來(lái)的都是低質(zhì)量的堆砌文章，它們唯一的目的，不是回答你，而是讓算法相信它很重要。

為了治理這些問(wèn)題，Google推出了 Panda、Penguin 等一系列算法更新，這場(chǎng)治理持續(xù)了十多年。

在中國(guó)，這段歷史更加典型。

在搜索市場(chǎng)長(zhǎng)期占據(jù)主導(dǎo)地位的百度周圍，曾經(jīng)形成過(guò)一個(gè)龐大的SEO產(chǎn)業(yè)。企業(yè)做品牌推廣時(shí)，幾乎一定會(huì)做三件事：買競(jìng)價(jià)排名、發(fā)SEO軟文、優(yōu)化搜索結(jié)果。

許多企業(yè)的市場(chǎng)預(yù)算里，有一項(xiàng)固定開(kāi)支就叫"SEO費(fèi)用"。

那一代互聯(lián)網(wǎng)人后來(lái)逐漸意識(shí)到一件事：

搜索結(jié)果并不是客觀秩序，它是一種被不斷博弈出來(lái)的秩序。

而今天，大模型正在成為新的信息入口。

SEO也開(kāi)始出現(xiàn)新的名字：GEO（Generative Engine Optimization）。

每一代信息入口，都會(huì)誕生一代"優(yōu)化產(chǎn)業(yè)"。

搜索時(shí)代，人們優(yōu)化的是排名。AI時(shí)代，人們開(kāi)始優(yōu)化的是答案。

2、每一代入口，都逃不掉

如果再把時(shí)間軸拉長(zhǎng)一點(diǎn)，會(huì)發(fā)現(xiàn)GEO并不是第一次出現(xiàn)。

互聯(lián)網(wǎng)歷史上，每一代"入口"都會(huì)被迅速研究如何操控。

搜索時(shí)代，人們研究 SEO。

移動(dòng)互聯(lián)網(wǎng)時(shí)代，人們研究 App Store 刷榜，刷下載、刷評(píng)分、刷評(píng)論，催生出完整產(chǎn)業(yè)鏈。

信息流時(shí)代，品牌開(kāi)始研究算法推薦機(jī)制。買量、刷點(diǎn)擊、刷互動(dòng)，成了另一套生意。

直播電商時(shí)代，刷銷量、刷評(píng)價(jià)、刷直播人氣，同樣的邏輯再次上演。

這些行為背后，其實(shí)是同一件事：

只要一個(gè)平臺(tái)控制了流量入口，就一定會(huì)有人研究如何影響它。

這不是某個(gè)壞人的選擇，這是商業(yè)的本能。

今天，AI正在成為新的入口。

所以GEO出現(xiàn)，其實(shí)是一件非常"互聯(lián)網(wǎng)式"的事情。

唯一的問(wèn)題是，這一次，賭注更高。

3、AI為什么比搜索更容易被操控

很多人看到315實(shí)驗(yàn)時(shí)的第一反應(yīng)是：AI是不是還不夠成熟？

但問(wèn)題其實(shí)更深。

搜索引擎的工作方式是：檢索信息，找到網(wǎng)頁(yè)，展示給用戶。

用戶仍然需要自己判斷。

而大模型做的是另一件事：生成答案。

它會(huì)綜合互聯(lián)網(wǎng)上的信息，然后給你一個(gè)總結(jié)后的結(jié)論。

這聽(tīng)起來(lái)更方便，但也帶來(lái)一個(gè)根本性的風(fēng)險(xiǎn)。

如果互聯(lián)網(wǎng)上出現(xiàn)大量重復(fù)信息，模型會(huì)把這種重復(fù)當(dāng)作"共識(shí)"。

這正是315實(shí)驗(yàn)?zāi)軌虺晒Φ脑颉?/p>

十幾篇軟文，模型看到的不是一家在推廣，而是多個(gè)來(lái)源都在提到。

這就導(dǎo)致它會(huì)判斷：這可能是一個(gè)被廣泛認(rèn)可的產(chǎn)品。

于是直接把這些信息整理成答案，推薦給你。

從模型角度看，這是合理推理。

但問(wèn)題在于：

概率并不等于真實(shí)。

搜索引擎操控的是"你能看到什么"。

AI操控的是"你以為真相是什么"。

在AI時(shí)代，謊言不需要被證明，只需要被重復(fù)。

4、比操控答案更危險(xiǎn)的問(wèn)題

GEO只是一個(gè)表象。

更深層的問(wèn)題，是AI產(chǎn)業(yè)正在遇到一個(gè)新的工程挑戰(zhàn)。

過(guò)去幾年，大模型競(jìng)爭(zhēng)的焦點(diǎn)是模型規(guī)模、算力投入、訓(xùn)練效率。

但隨著模型越來(lái)越強(qiáng)，一些研究者開(kāi)始意識(shí)到另一件事：

真正稀缺的，可能不是算力，而是干凈的數(shù)據(jù)。

大模型的訓(xùn)練數(shù)據(jù)主要來(lái)自互聯(lián)網(wǎng)：新聞、論壇、博客、百科……這些內(nèi)容構(gòu)成了模型理解世界的基礎(chǔ)。

但互聯(lián)網(wǎng)本身正在發(fā)生變化。

越來(lái)越多的內(nèi)容，其實(shí)是AI生成的內(nèi)容、SEO優(yōu)化的內(nèi)容、GEO投喂的內(nèi)容。

當(dāng)這些內(nèi)容不斷增加，大模型的訓(xùn)練就會(huì)出現(xiàn)一個(gè)危險(xiǎn)現(xiàn)象：

模型開(kāi)始學(xué)習(xí)模型生成的內(nèi)容。

AI研究界把這種現(xiàn)象稱為 Model Collapse（模型塌縮），模型不斷學(xué)習(xí)被污染的數(shù)據(jù)，逐漸偏離真實(shí)世界。

OpenAI 和 Anthropic 都曾公開(kāi)討論過(guò)一個(gè)話題：高質(zhì)量訓(xùn)練數(shù)據(jù)正在枯竭。

如果互聯(lián)網(wǎng)越來(lái)越多的內(nèi)容是自動(dòng)生成的，未來(lái)AI學(xué)習(xí)到的，很可能只是自己產(chǎn)生的回聲。

一個(gè)只學(xué)習(xí)自己聲音的AI，最終會(huì)變成什么？

沒(méi)有人知道。

5、AI產(chǎn)業(yè)的下一場(chǎng)戰(zhàn)爭(zhēng)

如果說(shuō)數(shù)據(jù)污染是技術(shù)問(wèn)題，那AI產(chǎn)業(yè)接下來(lái)面對(duì)的，是一個(gè)更宏觀的挑戰(zhàn)：

信息治理。

早期大模型競(jìng)爭(zhēng)，本質(zhì)是工程能力競(jìng)爭(zhēng)，誰(shuí)的模型更大，誰(shuí)的算力更多，誰(shuí)的訓(xùn)練更快。

但未來(lái)，大模型公司可能需要建立另一種能力：

管理信息的能力。

這包括數(shù)據(jù)來(lái)源可信度、知識(shí)溯源機(jī)制、信息更新體系。

這也是為什么越來(lái)越多AI產(chǎn)品開(kāi)始強(qiáng)調(diào)引用來(lái)源、可驗(yàn)證知識(shí)、檢索增強(qiáng)（RAG）。

AI產(chǎn)業(yè)正在從模型競(jìng)爭(zhēng)，走向另一個(gè)階段：

知識(shí)體系競(jìng)爭(zhēng)。

誰(shuí)能建立一套更干凈、更可信、更難被污染的知識(shí)體系，誰(shuí)才能在下一階段真正勝出。

這場(chǎng)競(jìng)爭(zhēng)，才剛剛開(kāi)始。

6、誰(shuí)在決定答案

回看315曝光的那個(gè)實(shí)驗(yàn)，它其實(shí)只是一個(gè)很小的案例。

但它揭示的，是一個(gè)更深層的變化。

在搜索時(shí)代，人們爭(zhēng)奪的是排名，誰(shuí)排在第一頁(yè)，誰(shuí)就獲得流量。

但在AI時(shí)代，用戶往往不會(huì)再點(diǎn)開(kāi)十幾個(gè)網(wǎng)頁(yè)。

他們直接接受一個(gè)總結(jié)后的答案。

于是新的競(jìng)爭(zhēng)開(kāi)始出現(xiàn)：誰(shuí)能影響答案。

過(guò)去20年，互聯(lián)網(wǎng)上的信息結(jié)構(gòu)大致是這樣的：網(wǎng)站生產(chǎn)內(nèi)容，搜索引擎負(fù)責(zé)索引，用戶自己判斷。搜索引擎只是入口，它決定"你能看到什么"，但不替你做結(jié)論。

而大模型改變了這件事。

AI不僅是入口，它還是解釋者。

用戶不再需要瀏覽十幾個(gè)網(wǎng)頁(yè)，也不再需要比較不同觀點(diǎn)。AI會(huì)直接給出一個(gè)總結(jié)后的答案。

當(dāng)信息結(jié)構(gòu)從信息分發(fā)變成答案生成，一個(gè)新的問(wèn)題就出現(xiàn)了：

誰(shuí)在決定答案？

在搜索時(shí)代，人們爭(zhēng)奪的是排名。

在AI時(shí)代，人們爭(zhēng)奪的是：知識(shí)在AI里的位置。

如果一個(gè)品牌長(zhǎng)期出現(xiàn)在AI推薦中，它就會(huì)逐漸變成一種默認(rèn)選擇。

答案即流量，流量即權(quán)力。

而一旦答案本身可以被優(yōu)化、操控、投喂，AI就會(huì)面臨一個(gè)更古老的挑戰(zhàn)：

信任。

【版面之外】的話：

搜索時(shí)代，用戶還可以點(diǎn)擊不同網(wǎng)頁(yè)交叉驗(yàn)證。但在AI時(shí)代，你看到的，往往只有一個(gè)結(jié)論。

如果這個(gè)結(jié)論被操控，你甚至很難意識(shí)到。

20年前，人們學(xué)會(huì)了一件事：如何讓搜索引擎相信自己。

20年后，一群人正在研究另一件事：如何讓AI相信謊言。

所以AI產(chǎn)業(yè)真正需要解決的問(wèn)題，也許不是模型能力。而是另一件更古老的事情：

如何建立可信的信息秩序。

未來(lái)幾年，AI行業(yè)很可能迎來(lái)一場(chǎng)新的戰(zhàn)爭(zhēng)。不是算力戰(zhàn)爭(zhēng)，不是模型戰(zhàn)爭(zhēng)，而是：

信任戰(zhàn)爭(zhēng)。