小紅書如何預防AI內容爆發帶來的「信任風險」

當AI已經全面進入普通人的生活時，內容平臺的姿態不能是被動的，而是要與用戶站在一起，嘗試建立一套能夠覆蓋復雜生態的規則。

作者 | 張嘉琦（北京）

AI對小紅書的影響究竟有多大？

在4月27日小紅書舉辦的「AI治理開放日」上，平臺公布了一組數據：2026年以來，小紅書已經累計處置AI不良行為超百萬例，其中AI托管賬號超過80萬個、AI造假筆記近15萬篇。

數據背后，是小紅書自年初開始逐漸加大的管控AI的力度，包括升級社區公約、倡導用戶自主標識AI的公告、打擊AI托管賬號的專項治理活動等等。在所有社交平臺中，小紅書對AI內容的整治速度明顯更快，處理力度也極強。

小紅書對AI的態度之所以如此審慎，是基于平臺本身的特殊性質，它并非靠算法推薦驅動的信息流平臺，而是靠「真實分享」建立起來的社區。無論是用戶的種草決策和消費信任，還是把小紅書當成「搜索引擎」的習慣，全都建立在「這里有真人在分享真實體驗」這個前提之上。

因此，當AI可以批量生成筆記、模擬真人互動時，小紅書面臨的沖擊，自然會比其他內容平臺更直接。

但與此同時，也不能忽視AI對內容創作帶來的正面影響。隨著技術的發展，已經有大量AI領域的創作者活躍在平臺上，形成了一個垂類的內容圈層，其中既有知識科普類的，也有繪畫、視頻等創作類的內容。在如此復雜的內容生態下，小紅書對AI內容的治理，更加需要謹慎與平衡。

在AI治理開放日上，小紅書分層闡明了平臺對AI的態度：一刀切地反對并不可取，重要的是劃清邊界，既能釋放AI作為生產力工具的潛能，同時又守住「真實分享」這條底線。

AI的「能與不能」

在治理開放日現場，央美國畫畢業生@一方畫貓呢 分享了AI對自己創作的幫助經驗。

一方主要繪制宋代工筆畫，因為繪畫過程繁復，也不熟悉動畫軟件，過去每張畫作都只能以靜態呈現。如今在AI的幫助下，她能讓自己的畫「動起來」，畫面豐富程度和可觀賞性也有所提升。「我好像擁有了一個動畫團隊，以前做不到的現在可以嘗試了。」

目前，小紅書已經涌現了一批像一方這樣優質的AI領域創作者。比如去年爆火的「AI萌寵」賽道中，@橙子的橙啦 憑借分享自己創作的AI貓咪圖片和視頻，已經有了超過6萬的粉絲，還被《中國日報》采訪報道；科普類內容也很有價值，如分享AI制作PPT、DeepSeek使用技巧，從專業角度解讀AI前沿發展方向等等。

這些正是小紅書鼓勵的AI內容：將AI作為創意實現和視覺表達的輔助工具，或是產出對相關從業者和對AI感興趣的用戶有價值的知識分享。

而另一方面，小紅書也在開放日上明確了自己對于AI內容的管控底線，包括AI造假、AI托管賬戶、AI低質內容和AI侵權。

其中，AI造假是團隊內部最初討論治理主張時的第一個共識。今年4月，ChatGPT Image-2正式上線后，一張庫克在華為直播間帶貨的截圖就傳遍全網，還有網友制作了小米汽車官宣庫克出任CEO的假圖片，連帶著小米也登上各平臺熱搜。

隨著AI技術的廣泛應用，造假的形式更加多樣，也更逼真，會產生更嚴重的社會影響。在官方賬號@薯管家 上，每天都會發布辟謠榜，其中就包含AI造假的謠言。而平臺的任務，是幫助用戶完成AI假信息的識別，并做到從源頭開始監控。

AI托管賬號目前也是平臺打擊的重心。小紅書是最早鮮明表達對AI托管賬號態度的平臺。從社區基因來說，即便托管賬戶背后仍然有真人運營，但如果其發布和互動行為都是借助AI來實現，仍然是與小紅書「真誠分享、友好互動」這一主張完全違背的。

相較來看，AI侵權和AI低質內容，目前仍然存在各自的模糊地帶。

侵權方面，相關法律法規尚不明確，普通用戶在使用AI工具時，很難自發意識到生成的內容是否侵犯了他人的肖像權或著作權。比如上述庫克直播截圖的案例，既涉及造假，也涉及侵權，但平臺目前主要從造假角度治理，侵權部分的判定還需要更清晰的法律依據。

至于低質內容，平臺判斷重復度比較高、內容質量較低的AI內容，會影響用戶的使用體驗，也不利于創作生態，但判斷的維度并不是「是否能熟練使用AI工具」，而是站在消費用戶的視角，如果這條內容能從審美、信息、情緒等方面為用戶帶來價值，那么它就有可取之處，不會被簡單歸為低質。

社區氛圍需要共建

小紅書面臨一個所有平臺都繞不開的現實：AI模型的迭代速度，遠快于平臺識別能力提升的速度。

吉吉在開放日現場坦承，「不是所有的AI生成內容，平臺都能第一時間識別出來。越是經過多輪傳播、反復轉發的內容，識別難度越高。」因此，純粹靠算法去分辨AI內容，很難沒有漏網之魚。這不僅是小紅書的困境，也是整個行業的共同難題。

在實際執行層面，也有很多更具體的問題。比如，在問答環節，有商家提問道，「關于AI內容的界定，有沒有比較具體的范圍？比如封面是AI生成的，正文是自己寫的，這算不算AI筆記？」

平臺的回答也很誠實，「邊界確實不清晰，需要具體情況具體判斷。」在具體內容的判斷上，目前更多還是基于原則和價值傾向，假設筆記中出現了涉及真人形象的內容，管控力度會更大，如果沒有真人和真實場景，只是純商品信息的內容，會適當放寬標準，但目前還很難做到「一勞永逸」。

小紅書的識別技術，結合了多個不同維度。在內容方面，最基礎的是對AI內容本身的特征進行識別，當AI痕跡越來越淺、難以判斷時，就要回到平臺本身的價值去思考，從筆記傳達信息的角度去判斷，重點關注人物、金融、健康等垂類，并增加專項治理的技術鏈路；此外，小紅書也在推薦流中增加了攔截體系，避免發生某個AI工具爆發后，大量相似AI內容出現在用戶主頁的情況。

AI賬號的識別也分為兩種情況。對于主動在個人頁聲明自己是AI或虛擬人的賬號，會對其進行全模態的大模型識別，包括個人資料、發布內容、評論互動等；對沒有明確表示AI、實則由AI全面托管的賬號，判斷方式就更加復雜，主要是通過端側用戶行為的監控，比如是否設備綁定了多賬號、是否能完成普通人無法完成的操作等等。

而技術存在偏差的部分，比如沒能被識別出來的AI內容，或是被誤判為AI的原創內容，則由用戶來完成「補齊」。

平臺倡導用戶在上傳內容時主動標識，同時也上線了申訴通道，被誤判的內容可以進行申訴，平臺會二次研判，再根據研判結果修改標識。標識的意義也并非「區別對待」，而是為了保障大家的「知情權」。

這是一種生態的「共創」，只有在用戶與平臺對AI的態度達成共識，這套方法才行得通。當AI已經全面進入普通人的生活時，內容平臺的姿態不能是被動的，而是要與用戶站在一起，嘗試建立一套能夠覆蓋復雜生態的規則。

守住「真實」的底線

AI對社區的影響不是一夜之間發生的。在治理開放日的問答環節中，相關負責人提到，早在2025年底，小紅書團隊就通過大量用戶反饋和內部監測，感受到了AI內容對社區生態的加速侵蝕。虛假人設、批量同質化內容開始侵占原本屬于真實分享者的流量空間。

經過幾輪的用戶調研和定向溝通，團隊發現小紅書平臺用戶對于AI的情感傾向也更加復雜，「有相當一部分用戶希望能夠將AI的內容做區分，他們不是排斥AI，但對小紅書的預期不是希望看到大量AI內容，這部分用戶的比例可能相較于其他平臺更高。」

這些反饋的背后，是一種被使用習慣塑造的「社區期待」，根據小紅書官方發布的數據，2025年1月到11月，平臺每天產生超過7000萬條評論，有超過3000個活躍圈層，每個月約有2億用戶在小紅書尋求購買建議。

大家之所以喜歡在小紅書瀏覽和分享內容，正是因為它的「活人感」。因此，用戶內部已經形成了自發性的生態共識，即小紅書不是由算法和效率主導的內容平臺，而是由真實的分享者們所建立的生活世界。

小紅書的流量分發邏輯也與一般的信息流平臺不同，它采用的是「去中心化分發」機制，以UGC內容為主體，沿用「關注+發現」的雙列信息流模式。這也決定了平臺和用戶都更依賴真實的UGC內容，吉吉也在開放日上提到，「希望用戶來到小紅書，看到的是跟自己相似的普通人分享出來的內容，以及能從這些普通人分享的內容里有所收獲。」

這套流量邏輯，決定了平臺必須優先保護真實內容的生存空間，而非放任AI批量內容淹沒社區。「AI治理開放日」所公開的這套治理框架，正是為AI的使用劃下清晰的邊界：標識讓用戶擁有知情權；反對造假和托管是為了保護真實創作者的生存空間；流量向優質內容傾斜，是為了保護那些有審美、有信息量、真情實感的內容。

正如吉吉所說，「AI治理不是限制創作，而是守護公平。AI托管、批量造假、低質灌水等行為，本質上是對真誠分享者的不公平，是對社區價值觀的背離。」小紅書打擊AI濫用的最終目的，是為了讓用心分享的人被看見，讓有價值的內容不被淹沒，也讓整個社區在技術洪流中，依然能保持用戶對真實的信任。