![]()
回復電商領取《1000份電商運營干貨案例》
作者 | 錢游 報道 | TOP電商
很多人還在驚嘆AI能寫作、畫畫、剪視頻,沒想到另一批人早已把它拖進了更惡心的角落。
5月4日,封面新聞暗訪曝光多個AI制黃群組,記者加入的7個群組成員總數超過6000人,其中最大群組超過3400人。
群里有人賣所謂“焚決”指令,有人賣成品視頻,有人賣工具包,價格從20元到288元不等。
![]()
更離譜的是,有賣家提供真人換臉“定制”服務,一張照片5元,聲稱“什么需求都可以提”。
![]()
從擦邊視頻到付費群AI制黃已經有了產業鏈
一張普通生活照,被從社交平臺偷偷搬走,最后出現在色情群組里。
這個過程聽起來像恐怖故事,現實卻已經被拆成了商品流程。
![]()
上游是賣“鏟子”的人。他們不直接制作最終內容,而是售賣所謂指令、教程、工具包,把高風險內容包裝成“學習資料”“工作流”“會員資源”。
部分群組專門以交流資源為名義吸引用戶,再把人引到其他付費群里。
媒體暗訪顯示,不同群組分工明確,有的售賣指令,有的售賣成品視頻,還有的直接出售工具包。
![]()
中游是加工內容的人。他們拿著明星、網紅,甚至普通人的照片做素材,利用AI生成擦邊或色情化內容,再把成品放進群里售賣。
有賣家聲稱,只要提供照片就能定制,照片越清晰,成品越“逼真”。
下游是引流的人。部分賬號長期在視頻平臺發布AI生成的擦邊視頻,單條播放量超過50萬,再通過評論區把用戶導向付費群。
前臺是擦邊內容,后臺是群組交易,再往深處是工具包、教程、定制服務。
整條鏈路像一間沒有招牌的小作坊,白天在平臺上招客,晚上在群里收錢。
更荒誕的是,這門生意還披了一層“正規交易”的皮。
調查顯示,有賣家通過數字商品銷售平臺發布鏈接,購買時收款方顯示為上海尚億咖網絡科技有限公司。
![]()
企查查信息顯示,該公司成立于2024年4月,注冊資本50萬元。
相關平臺雖然列有“低俗色情服務”等禁售項目,但商家用“工作流”“會員群”等模糊名稱包裝商品,注冊成為商家只需要手機號,不經審核即可上架鏈接。
![]()
真正可怕的不是AI會作惡是作惡成本被打到5元
這件事最刺痛網友的地方,并不只是AI能生成色情內容。
真正讓人后背發涼的,是傷害一個人的成本已經低到離譜。
一張照片,5元。
一套教程,幾十元。
一個群組,幾千人圍觀。
一次傳播,可能永遠清不干凈。
有網友說,以后發自拍都要先把臉擋住。有人說,普通女生的公開照片正在變成高風險素材。
而對受害者來說,傷害完全是真的。
她要面對陌生人的觀看、傳播、羞辱、截圖、二次擴散,還要一遍又一遍解釋那不是自己。現實里的名譽、親密關系、職業處境和安全感,都可能被一段虛假的內容擊穿。
![]()
TOP電商AI制圖
最高人民法院曾指出,未經權利人同意違法應用AI換臉技術,將直接侵害肖像權;如果被惡意應用到色情、暴力、丑化等場景,還可能侵害名譽權、榮譽權和個人信息權益。
這就是AI制黃最惡心的地方,而且,維權成本遠遠高于作惡成本。
作惡者買一份工具包,換一個群,換一個賬號,就能繼續開張。受害者卻要截圖、取證、舉報、聯系平臺、等待處理,甚至尋找律師。
等平臺終于處理完,內容可能早就被存進更多硬盤、更多群聊、更多境外網站。
《生成式人工智能服務管理暫行辦法》明確要求,提供者發現違法內容,應及時采取停止生成、停止傳輸、消除等處置措施,并向有關主管部門報告;發現使用者利用生成式AI從事違法活動,也應依法采取警示、限制功能、暫停或終止服務等措施。
《人工智能生成合成內容標識辦法》也明確,AI生成合成內容包括文本、圖片、音頻、視頻、虛擬場景等信息,并規定顯式標識和隱式標識等要求。
問題在于,規則在鋪路,灰產在狂奔。
![]()
平臺不能繼續裝睡
每次這類事件曝光,平臺總會被推到臺前。
這一次也一樣。
人臉不是普通素材,它背后有一個活生生的人。凡是涉及真人肖像、生物識別信息、親密內容的生成與編輯,都不該被當成普通修圖功能處理。
內容平臺要回答:為什么一些擦邊AI視頻賬號可以長期發布,播放量做到幾十萬,還能通過評論區持續引流?
算法能識別用戶愛看什么,也應該識別什么內容正在把用戶導向灰產。單個視頻也許能說漏審,長期賬號形成穩定引流路徑,就很難再用“沒看到”解釋。
交易平臺也要回答:禁售規則寫了一百多條,為什么換個“會員群”“工作流”的名字就能上架?
如果注冊商家只需手機號,不經審核即可收款,那平臺實際上給灰產提供了一個低門檻收銀臺。
換臉、擦邊、付費群、外鏈、指定對象、工具包、定制服務、會員資源,這些信號已經不是灰色模糊地帶,而是一排排紅旗。
平臺如果還把它們當成普通內容、普通交易、普通工具使用,就等于把治理責任扔給受害者和媒體暗訪。
說到底,AI制黃不是一個獵奇新聞。
AI原本可以幫人創作、學習、工作,甚至照亮很多過去無法完成的想象。
技術越先進,底線越不能落后。
工具越強大,平臺越不能裝睡。
行業資訊、案例資料、運營干貨,精彩不停
【添加備注:進群】
最新電商行業資訊,盡在【Top電商】↓↓↓
![]()
![]()
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.