北京
Hany Farid，這位被《紐約時報》稱為“世界領先的深度偽造專家”的人，最近講了一句讓人心里發毛的話。他說，他已經不再相信自己的眼睛了。
不是修辭，不是夸張。在AI生成的視頻、圖片已經泛濫到一個臨界點之后，連專門研究如何分辨真假的人，都放棄了用肉眼判斷。這背后是一個更令人不安的現實：AI垃圾——英文里叫“slop”——正在以遠超我們想象的速度，吞噬著全球用戶每天刷到的內容。
舊金山視頻編輯公司Kapwing 發布了一份新報告，數據讓整個行業倒吸一口涼氣。在TikTok 的算法推薦頁“For You”上，推送給新用戶的視頻里，有將近60% 是 AI 生成的垃圾內容。作為對比，新用戶在YouTube 上被推到的 AI 垃圾比例，只有 TikTok 的三分之一。注意，是新用戶。這意味著，一個剛下載 TikTok 的人，幾乎每刷三條視頻，就有兩條是低質、怪異甚至令人不適的 AI 生成影像，而人類創作者的真實內容被擠到了邊緣。
更讓人揪心的是兒童內容。Kapwing 發現，“到目前為止，AI垃圾密度最高的類別是兒童類”。他們檢查了 #cartoonkids 這個標簽下的 100 個視頻，結果只有 3 個是人類制作的。其余 97個，全是 AI 生成的。那些看起來色彩鮮艷、形象可愛的動畫，背后很可能沒有任何一個真人動畫師、編劇或教育者參與，只是一套模型根據熱度標簽自動吐出的視覺糖精。
這件事的危險還在于算法的自我強化。報告指出，一旦一個賬號表現出對 AI 內容的興趣——哪怕只是不小心多看了幾秒——推薦流就會迅速加倍下注，喂給你更多的AI垃圾。一個孩子如果在TikTok 上偶然刷到一條AI 動畫并看完，接下來的整個“For You”都可能變成一條由半成品AI 影像構成的隧道，很難再爬出來。
專家擔心的，不只是審美疲勞或者內容質量下降。年輕且易受影響的大腦，正在被大量半吊子且極具沖擊力的 AI 素材浸泡。這種內容可能對大腦發育構成危險。與此同時，那些照片級真實的深度偽造也在瘋狂助推虛假信息和政治宣傳。當假的可以比真的更像真的，而且生產成本趨近于零，真實本身就開始貶值。
失控的當然不止TikTok。Meta 旗下的 Facebook 和 Instagram 也變成了一片讓人幾乎認不出來的廢土。用戶——很可能還有大量機器人賬號——在互動的內容，荒誕到像是某個糟糕夢境里的場景：失去雙臂的貧困兒童在街頭乞討，或者人形貓不小心把自己的幼崽扔進了絞肉機。這些荒謬圖像在平臺上流動，真假難辨，也看不出到底是誰在做、誰在看。
面對幾乎要溢出來的AI 垃圾，平臺們開始做出看起來像補救的動作。去年11月，TikTok 宣布將允許用戶自行調節信息流中 AI 生成內容的數量，可以調高，也可以調低。TikTok 負責安全與隱私的歐洲公共政策總監 Jade Nester 當時對《衛報》解釋說：“我們從社區了解到，很多人喜歡用 AI 工具創作的內容，比如數字藝術和科學解說，我們想賦予人們權力，讓他們根據自己的偏好，看到更多或更少這類內容。”
YouTube 也動手了。它最近宣布將調整對 AI 生成內容進行標注的方式，試圖在更廣泛的層面遏制 AI 垃圾。但 YouTube 同時劃了一條線：不會改變“視頻如何被推薦，或者它是否有資格賺錢”。也就是說，平臺愿意給AI 內容貼上標簽，但既不把它踢出推薦流，也不影響它繼續賺取廣告分成。這種態度讓標注本身看起來更像是一種免責聲明，而非真正的干預。
根本性的難題在于，沒有人知道一個簡單的解決方法在哪里。技術已經走到了這樣一步：區分現實和 AI 垃圾變得異常困難。就像 Farid 說的，連他都停止相信自己的眼睛了。當一個用數十年來訓練分辨真假的專家都繳械，普通用戶面對的，其實是一道沒有答案的選擇題——而他們每天打開手機，都不得不在幾秒鐘內作出判斷。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
