小紅書封禁AI托管賬號，平臺開始為“真人分享”設(shè)防

文 ｜Saltie

編輯 ｜ Wen

3月10日，小紅書官方賬號“薯管家”發(fā)布《關(guān)于打擊AI托管運營賬號的治理公告》，宣布即日起對“純AI托管賬號”開展專項治理。

根據(jù)規(guī)則，平臺將對不同類型的違規(guī)行為采取分級處理：

1.若普通賬號偶發(fā)使用AI托管進行代寫、代發(fā)或虛假互動，將根據(jù)情節(jié)給予警告、限制分發(fā)等處罰；

2.通過AI工具完成注冊、發(fā)布、互動等全流程運營，或主頁公開筆記全部由AI代發(fā)的賬號，則將被直接封禁。

這一治理標準與國家《人工智能生成合成內(nèi)容標識辦法》中 “禁止機器冒充真人運營” 的核心要求一致。

內(nèi)容平臺進入“AI運營監(jiān)管”時代

從平臺表態(tài)來看，此次治理直指近期快速蔓延的“AI托管”產(chǎn)業(yè)鏈。

平臺監(jiān)測發(fā)現(xiàn)，一些用戶借助OpenClaw（俗稱“龍蝦”）等AI工具，將賬號注冊、內(nèi)容生成到評論互動實現(xiàn)自動化運營，并以批量生產(chǎn)“偽體驗”筆記的方式進行種草引流，甚至通過私信導(dǎo)流、虛假互動等方式變現(xiàn)。

這類賬號通常呈現(xiàn)出明顯的模板化特征：語氣統(tǒng)一、配圖模式相似、評論互動高度機械化。

短期來看，這種批量生產(chǎn)模式會迅速占據(jù)內(nèi)容分發(fā)空間；但從平臺生態(tài)角度看，其對“真實分享”的社區(qū)基礎(chǔ)構(gòu)成了直接沖擊，甚至已經(jīng)出現(xiàn)用戶因AI筆記誤導(dǎo)消費而產(chǎn)生權(quán)益糾紛的情況。

為配合此次治理，小紅書同步開放了專項舉報入口。用戶可在筆記頁面通過“分享-舉報-對他人造成困擾或危害-AI 造假”進行反饋，也可以在賬號頁通過“右上角（···）標識”進行舉報，發(fā)起投訴。平臺同時強調(diào)，本輪治理的重點并非限制AI技術(shù)使用，而是劃清邊界：AI可以作為內(nèi)容生產(chǎn)工具參與創(chuàng)作，但不能替代真人進行賬號運營與互動。

據(jù)悉，公告發(fā)布后，部分從事批量“養(yǎng)號”的灰產(chǎn)團隊已經(jīng)開始刪除內(nèi)容、注銷賬號，而真人創(chuàng)作者普遍表達支持，認為平臺正在重新保護真實創(chuàng)作的流量空間。

業(yè)內(nèi)人士分析認為，小紅書對“AI托管”的明確禁令，或?qū)⒊蔀槠脚_治理AI內(nèi)容的重要分水嶺。隨著 AI 深度參與內(nèi)容生產(chǎn)，平臺需要在鼓勵技術(shù)效率與維護生態(tài)秩序之間尋找平衡。一方面，AI 已經(jīng)成為創(chuàng)作者的重要工具，可以用于選題、寫作、剪輯甚至數(shù)據(jù)分析；另一方面，如果 AI 可以完全替代真人進行賬號運營，內(nèi)容生產(chǎn)的規(guī)模與速度將遠超平臺生態(tài)能夠承受的范圍。

目前抖音、快手已經(jīng)開始整治AI虛擬人帶貨和低質(zhì)批量視頻，B站、知乎也在強化AI內(nèi)容標識機制。隨著生成式AI深度進入內(nèi)容生產(chǎn)環(huán)節(jié)，“允許AI輔助創(chuàng)作、禁止AI替代真人運營”很可能逐漸成為平臺之間形成共識的治理原則。與此同時，這一政策也將直接沖擊“AI起號”“批量賣號”等灰色產(chǎn)業(yè)鏈，推動內(nèi)容平臺重新強調(diào)真實體驗與真實表達的價值。

AI時代，

真人社區(qū)成為平臺價值的護城河

更進一步講，我們也能從此次事件中觀察到更加深刻的行業(yè)走向變化：隨著AI內(nèi)容的日漸泛濫，社群反而成為當今最稀缺的資源。

這聽起來像是一個悖論，技術(shù)正在變得越來越先進，為什么還要關(guān)注原來這些低效率的內(nèi)容生產(chǎn)方式？但如果我們把目光投向海外，就會發(fā)現(xiàn)類似的做法并不罕見。在海外大模型發(fā)展如火如荼的今天，Open AI、Google等公司，都在將目光投向Reddit等論壇平臺，尋求與這些有著大量真人產(chǎn)生的文本內(nèi)容的平臺合作。

合作的直接原因，是大公司希望這些有著真人語料的平臺能夠為大語言模型的訓練提供支持。大語言模型的訓練，本質(zhì)上是一個統(tǒng)計規(guī)律提取的過程。模型通過海量文本學習詞語共現(xiàn)的概率、句法結(jié)構(gòu)的模式、語義關(guān)聯(lián)的規(guī)則。從這一底層邏輯出發(fā)，可以說，想要訓練一個優(yōu)秀的大語言模型，需要兩種類型的數(shù)據(jù)：

• 通用文本數(shù)據(jù)：包括網(wǎng)頁、圖書、新聞報道等，這類數(shù)據(jù)規(guī)模大、覆蓋面廣，主要提升模型的泛化能力；

• 專用文本數(shù)據(jù)：包括多語言內(nèi)容、科學論文、代碼等，提升模型完成專項任務(wù)的能力。

而社群語言恰恰處在這兩者的中點。它既有通用文本的多樣性，又在特定話題上具有深度。更重要的是，社群數(shù)據(jù)包含了一種AI生成內(nèi)容永遠無法提供的東西，也就是互動中的語境。

一篇Reddit帖子或者小紅書筆記之所以有價值，不僅在于主貼內(nèi)容，還在于評論區(qū)里的追問、反駁、補充。這種多輪互動中蘊含的”對話邏輯“，用戶之間如何澄清歧義、如何回應(yīng)質(zhì)疑、如何基于上下文推進話題，這些都是訓練模型理解真實對話的核心素材。

同時，有研究嘗試用RAG（檢索增強生成）框架分析Reddit社區(qū)，發(fā)現(xiàn)結(jié)合真實社群數(shù)據(jù)的模型在分類任務(wù)上F1分數(shù)達到0.99以上，顯著優(yōu)于傳統(tǒng)基線模型。這說明，真實社群的對話結(jié)構(gòu)本身，就是一種高質(zhì)量的”訓練教材“。而另一方面，也有研究指出，AI生成文本可以作為數(shù)據(jù)稀缺時的補充，但絕對無法替代真實數(shù)據(jù)。當訓練集中AI生成內(nèi)容占比過高時，模型就會出現(xiàn)崩潰的風險。

但是，如果僅僅是為了有利于大模型的訓練，顯然不足以成為小紅書大力整治AI的理由。更關(guān)鍵的問題在于社群自身。試想，如果小紅書的平臺上充斥著AI生成內(nèi)容，那么用戶有什么理由停留在小紅書而不是去直接與AI大模型互動呢？而這一潛在的風險正在隨著大語言模型帶來的內(nèi)容爆炸式增長而不斷提高。而這也根本性的扭轉(zhuǎn)了過去十年移動互聯(lián)網(wǎng)時代內(nèi)容平臺的競爭邏輯。在過去十年里，哪個平臺的內(nèi)容多，就能讓用戶在平臺上消耗更多的用戶時長，平臺也因此可以從這些數(shù)據(jù)中獲益。

但這種模式正在隨著內(nèi)容的泛濫而失效。在AI內(nèi)容大量充斥平臺的情況下，當用戶發(fā)現(xiàn)自己關(guān)注的“寶藏博主”其實是一個AI賬號，當評論區(qū)里的“熱心網(wǎng)友”其實是自動回復(fù)的程序，當種草筆記里的“親身體驗”全是AI編造，平臺與用戶之間的信任基礎(chǔ)就會崩塌。而這種信任，一旦崩塌就極難重建。

小紅書的治理，標志著平臺競爭從“流量邏輯”轉(zhuǎn)向“信任邏輯”。流量可以靠技術(shù)堆砌，信任只能靠時間沉淀。一個平臺上如果全是AI，它可以在短期內(nèi)產(chǎn)出海量內(nèi)容，但長期來看，它只是一座數(shù)據(jù)工廠，而不是一個社區(qū)。社區(qū)的價值，不在于“產(chǎn)出”，而在于“連接”。 而連接的前提，是雙方都知道自己在和真人對話，而這也是小紅書得以在過去幾年中快速崛起的關(guān)鍵。

總而言之，小紅書的策略絕非是過度反應(yīng)。AI可以是工具，可以是助手，可以輔助創(chuàng)作、提升效率；但它不能成為替身，不能冒充真人，不能侵蝕社群最核心的信任資產(chǎn)。

展望未來，AI與真人社群的關(guān)系不是取代，而是互補。AI將承擔越來越多的內(nèi)容生產(chǎn)任務(wù)，釋放人類的創(chuàng)造力；但真正的社群價值，將越來越聚焦于那些AI無法復(fù)制的東西。正是這些看似“低效”的連接，構(gòu)成了人類社會的底色。而能夠承載這種連接的平臺，將在AI時代找到新的成長方向。