今日頭條發(fā)布2025年治理白皮書，處置涉網(wǎng)暴違規(guī)評論3.6億條

3 月 18 日，今日頭條舉辦2025 年度平臺治理媒體開放日，發(fā)布《今日頭條2025年度平臺治理白皮書》。

白皮書圍繞網(wǎng)絡(luò)詐騙、暴力、水軍、謠言、低質(zhì)AI內(nèi)容等核心議題，公布平臺治理行動和成效。數(shù)據(jù)顯示，2025年全年，今日頭條共向用戶推送300余萬條涉詐風(fēng)險提醒、處置網(wǎng)暴相關(guān)違規(guī)評論3.6億條，為70萬賬號啟用了一鍵防網(wǎng)暴功能。

活動現(xiàn)場，今日頭條安全運營和內(nèi)容治理運營相關(guān)負責(zé)人，分別做了業(yè)務(wù)分享 ，對外傳遞“以安全為底線，以真實為核心”的治理理念。

推送風(fēng)險提醒 300 余萬條，打擊網(wǎng)騙、網(wǎng)暴、水軍內(nèi)容

今日頭條安全運營負責(zé)人閆夢茹表示，安全是平臺不可逾越的底線，2025 年平臺聚焦反詐、網(wǎng)暴、水軍三大領(lǐng)域，以務(wù)實舉措守護用戶安全感。在反詐治理上，平臺構(gòu)建注冊登錄、行為特征、內(nèi)容識別、團伙打擊四維全鏈路體系，全年處置涉詐內(nèi)容 135 萬條、封禁涉詐賬號 18 萬個，推送風(fēng)險提醒 300 余萬次。此外，平臺通過創(chuàng)新動畫、短劇等科普形式，加大反詐宣傳，提高用戶防范意識。

今日頭條安全運營負責(zé)人 閆夢茹

針對網(wǎng)絡(luò)暴力與體育 “飯圈” 亂象，平臺建立內(nèi)容與賬號雙線治理機制，精準(zhǔn)識別辱罵攻擊、拉踩引戰(zhàn)內(nèi)容，分級處置違規(guī)賬號，主動為用戶開啟防護功能，全年處置違規(guī)評論 3.6 億余條，為 70 余萬個賬號啟用一鍵防網(wǎng)暴。平臺同時對網(wǎng)絡(luò)水軍堅持零容忍，對團伙化行為特征進行總結(jié)、實施階梯式處罰，全年封禁賬號13.9萬個。

中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長李懷勝在現(xiàn)場指出，網(wǎng)絡(luò)詐騙已形成系統(tǒng)化犯罪鏈條，治理需堅持法律引領(lǐng)、多元共治、公眾參與。其中，提高公眾參與度是反詐的重要一環(huán)。“今日頭條的平臺治理報告中有兩組數(shù)據(jù)值得深思：一是平臺通過私信對高危風(fēng)險進行了300余萬條提醒，二是部分用戶對反詐提示存在抵觸情緒。這兩組數(shù)據(jù)恰恰說明，沒有公眾的主動參與，再嚴密的技術(shù)防線、再完善的法律制度都可能被突破。”李懷勝表示。

中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長李懷勝

實現(xiàn)1小時內(nèi)存量謠言回掃，持續(xù)提升平臺生態(tài)健康

今日頭條內(nèi)容治理運營負責(zé)人鄭子龍介紹，AIGC 技術(shù)普及帶來內(nèi)容生產(chǎn)便利，也催生低質(zhì) AI內(nèi)容 、虛假謠言批量傳播等問題。過去一年，平臺以 “守護真實” 為核心，強化技術(shù)與規(guī)則雙重治理。

內(nèi)容層面，平臺通過敏捷監(jiān)控聚類發(fā)文和用戶負評等方式不斷挖掘新的低質(zhì)AI內(nèi)容特征，持續(xù)迭代管控標(biāo)準(zhǔn)，并反哺模型訓(xùn)練增強對低質(zhì)AI問題的識別與處置；在賬號層面，對持續(xù)發(fā)布低質(zhì)AI內(nèi)容的作者打壓甚至禁言處罰，同時通過發(fā)布治理公告，引導(dǎo)創(chuàng)作者自覺抵制低質(zhì) AI 內(nèi)容，提升內(nèi)容創(chuàng)作質(zhì)量，共同維護健康的網(wǎng)絡(luò)生態(tài)。針對低質(zhì) AIGC 內(nèi)容，全年處置相關(guān)內(nèi)容超 260 萬條，對違規(guī)賬號實施流量限制、禁言等處罰。

在網(wǎng)絡(luò)謠言治理方面，平臺搭建全鏈路處置體系，依托權(quán)威信源比對、大模型識別能力，實現(xiàn) 1 小時內(nèi)存量謠言回掃清理，全年清理虛假內(nèi)容 700 余萬條，處置違規(guī)賬號 3.3 萬個。同時，平臺通過 “頭條治序” 科普欄目，持續(xù)提升用戶辨識能力。

今日頭條內(nèi)容治理運營負責(zé)人 鄭子龍

同時，平臺展開創(chuàng)作者認知治理、低成本創(chuàng)作者治理等專項，清退2萬多低質(zhì)認證作者，嚴厲打擊套路化低質(zhì)內(nèi)容和短時高密度發(fā)文行為，處置60多萬投機賬號。

中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春認為，低質(zhì) AI 內(nèi)容治理需明確標(biāo)準(zhǔn)、技術(shù)賦能、多方協(xié)同。平臺應(yīng)完善 AI 內(nèi)容標(biāo)識與審核機制，強化技術(shù)檢測與創(chuàng)作者引導(dǎo)，推動形成監(jiān)管、平臺、用戶共治格局，從源頭遏制虛假誤導(dǎo)內(nèi)容蔓延。

中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春

持續(xù)打擊網(wǎng)絡(luò)黑灰產(chǎn)，保護用戶權(quán)益、推動生態(tài)向好

作為通用信息分發(fā)與創(chuàng)作平臺，內(nèi)容安全與內(nèi)容生態(tài)是今日頭條的核心組成部分。活動現(xiàn)場，今日頭條安全運營負責(zé)人閆夢茹、內(nèi)容治理運營負責(zé)人鄭子龍，就如何提升用戶防范意識、虛假謠言治理核心機制等關(guān)鍵問題作出詳細解答。

閆夢茹介紹，當(dāng)平臺監(jiān)測到網(wǎng)絡(luò)詐騙等相關(guān)風(fēng)險時，會通過私信提醒方式警示用戶，“若平臺在對話框中提示‘該對話可能涉及交易轉(zhuǎn)賬、個人隱私等敏感信息，謹防詐騙、遵守國家法律法規(guī)’等內(nèi)容，請用戶務(wù)必高度關(guān)注相關(guān)風(fēng)險，提高警惕。”

“生態(tài)治理同樣也離不開公眾的參與，提高用戶對于生態(tài)治理的認知對構(gòu)建一個健康、多元、清朗的平臺生態(tài)非常重要。”鄭子龍表示。

2025 年，今日頭條通過系列專項行動、技術(shù)升級、規(guī)則完善和生態(tài)治理，持續(xù)打擊網(wǎng)絡(luò)黑灰產(chǎn)、清理不良信息、保護用戶權(quán)益，推動平臺生態(tài)不斷向好。治理沒有終點，用戶的安全感與對優(yōu)質(zhì)內(nèi)容的期待，是平臺持續(xù)前行的動力。