最近央視曝光的哩布哩布AI涉黃事件,實在讓人驚掉下巴。記者用網(wǎng)上買的提示詞,幾分鐘就生成了半裸女性跳舞視頻,全程沒觸發(fā)任何限制機制。
這家叫北京奇點星宇的公司,2023年5月成立,注冊資本才100萬,卻敢做AI生成平臺,現(xiàn)在看來安全防線形同虛設(shè)。
這事絕不是個案。現(xiàn)在網(wǎng)上已經(jīng)形成了完整的灰色產(chǎn)業(yè)鏈,有人專門賣規(guī)避審核的提示詞,有人靠生成違規(guī)內(nèi)容牟利。平臺事后道歉說只是個別邊界場景問題,但明眼人都清楚,這根本是審核機制嚴重缺位。
AI技術(shù)發(fā)展快是好事,但安全底線不能丟。《生成式人工智能服務(wù)管理暫行辦法》都實施快三年了,還有公司敢這么敷衍安全責(zé)任。注冊資本100萬,抗風(fēng)險能力本就弱,再把安全當兒戲,出事是遲早的事。
我覺得這事得從三方面解決:一是平臺必須把內(nèi)容安全當核心競爭力,而不是成本負擔(dān);二是監(jiān)管要加大處罰力度,讓違規(guī)成本遠高于收益;三是行業(yè)得盡快建立統(tǒng)一的安全標準。AI不是法外之地,狂奔的同時必須裝好剎車,不然技術(shù)再先進,也只會淪為作惡工具。@營銷頭版
![]()
![]()
![]()
![]()
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.