央視曝光AI“造黃”軟件，一公司回應……

近日，央視曝光“AI涉黃”產業鏈，報道提到，在一款名為哩布哩布AI的AI應用里，記者輸入在網上購買的提示詞后，僅僅幾分鐘，這個AI平臺就生成了一個半裸身體的女性跳舞視頻。

在整個生成過程中，沒有觸發平臺任何限制機制。

4月14日，哩布哩布AI發布 關于加強內容安全管理的說明，經排查平臺存在生成不符合規范內容的情況，已在第一時間完成技術修復，并對風險路徑進行全面封堵。

天眼查App顯示，哩布哩布AI關聯公司北京奇點星宇科技有限公司成立于2023年5月。公司融資歷程顯示，從2023年至2025年，已獲得源碼資本、高榕創投、金沙江創投、明勢創投、巨人網絡等多家基金的投資。

官網稱，截至2024年5月，哩布哩布AI已經積累了近1000萬專業的Al圖像創作者，用戶量位居國內第一，在國內“Al文生圖賽道融資額TOP1”，多家頂級風險投資機構聯合參與，總金額達數億人民幣。

記者在幾大應用市場檢索發現，該應用目前仍可以正常下載。

律師：AI服務提供者

不能以“技術中立”逃避管理義務

今年年初，“AI服務涉黃第一案”曾一度引發社會關注。

有律師表示，AI服務提供者對模型輸出內容具有實質性控制能力時，不能以“技術中立”逃避內容管理義務，提示詞設計與安全機制建設將成為合規關鍵。本案明確AI生成淫穢內容的制作責任歸屬，為同類案件提供裁判參考，強化“技術越界必擔責”的司法導向。生成式AI應用必須嵌入內容審核、倫理對齊機制，避免因提示詞漏洞或模型失控觸碰法律紅線。

2025年4月，國家網信辦開展的“清朗·整治AI技術濫用”專項行動明確指出，將重點整治利用生成式人工智能技術向公眾提供內容服務，但未履行大模型備案或登記程序的違規AI產品。

2026年4月10日，《人工智能擬人化互動服務管理暫行辦法》正式公布，《辦法》中進一步明確了安全評估和算法備案的相關要求，同時還對未成年人和老年人使用擬人化互動服務做出了相關規定。

來源：界面新聞、央視財經、冀時、中青評論等。