9.9元買教程，“AI賽道”別走向“造黃邪道”| 新京報快評

AI被異化為“造黃”工具，其危害無疑是系統性的。

▲央視揭秘AI“造黃”產業鏈。圖/央視財經視頻截圖

文| 和生

9.9元，就能買到一套AI“造黃”教程；幾塊錢，就能獲取批量生成擦邊視頻的“提示詞”。近日，央視曝光的AI“造黃”產業鏈，令人觸目驚心。

從兜售制作教程、交易定制化提示詞，到利用AI應用漏洞生成色情內容，再到銷售境外涉黃AI聊天軟件，AI“造黃”已形成一條完整的黑色產業鏈：商家以“AI擦邊賽道日入5位數”為誘餌，在電商平臺公開售賣教程，教用戶使用境外AI軟件或本地部署程序來規避監管；而“提示詞”中的敏感詞匯還被翻譯成英文以逃避審核。

技術本身是中性的，但技術的使用須有邊界。當AI被異化為“造黃”工具，其危害無疑是系統性的。

這首先是對女性權益的嚴重侵害。AI換臉、AI脫衣等技術，讓任何一張普通照片都可能被惡意加工成色情內容，受害者往往毫無察覺，直到謠言滿天、名譽掃地，遭遇社會性死亡。與此同時，這也是對網絡生態的毒化。大量AI生成的擦邊視頻充斥平臺，形成“劣幣驅逐良幣”的惡性循環。

更令人揪心的，是這一亂象對未成年人的潛在危害。如今，AI技術深度參與青少年的日常生活，但“9.9元造黃”的門檻卻如此之低。試想，當境外涉黃AI軟件通過灰色渠道流入國內，就不得不警惕，那些心智尚未成熟的孩子，會否在不經意間接觸到這些內容？

這并非杞人憂天。業內人士透露，那些AI聊天軟件“普遍尺度很大，充斥著色情內容”，而“戀愛的感覺、及時的回復、量身定制的人設”正吸引著越來越多年輕人沉浸其中，其中不乏未成年人。

因此，必須盡早斬斷AI“造黃”產業鏈，這不僅是對法律底線的捍衛，更是在AI時代守護好下一代的必要手段。

值得注意的是，雖然跨境監管的難度給黑產留下可乘之機，但不代表監管部門無能為力：如深化國際執法合作，循線追蹤境內人員參與、境外服務器服務的案件；強化技術封堵，依法切斷涉黃AI應用訪問渠道；對平臺審核失職、灰色渠道引流等行為依法嚴懲。

剛剛公布的《人工智能擬人化互動服務管理暫行辦法》，已明確對未成年人使用擬人化互動服務作出專門規定。這為治理提供了法律依據，關鍵在于執行到位。

此外，AI平臺必須承擔起主體責任，建立更嚴格的內容審核機制，堵住提示詞繞過、英文規避等漏洞。電商平臺更要加強審查，對售賣“造黃”教程、提示詞的店鋪零容忍。

技術向善，應是AI發展的底線。也只有堅決斬斷AI“造黃”產業鏈，才能讓技術真正服務于人，而非異化為傷害人的工具。這不僅是為了當下，更是為了孩子們的未來。

撰稿 / 和生（媒體人）

編輯 / 馬小龍

校對 / 趙琳

歡迎投稿：

新京報評論，歡迎讀者朋友投稿。投稿郵箱：xjbpl2009@sina.com

評論選題須是機構媒體當天報道的新聞。來稿將擇優發表，有稿酬。

投稿請在郵件主題欄寫明文章標題，并在文末按照我們的發稿規范，附上作者署名、身份職業、身份證號碼、電話號碼以及銀行賬戶（包括戶名、開戶行支行名稱）等信息，如用筆名，則需要備注真實姓名，以便發表后支付稿酬。