廣東
最近央視曝光的哩布哩布AI涉黃事件，實在讓人驚掉下巴。記者用網(wǎng)上買的提示詞，幾分鐘就生成了半裸女性跳舞視頻，全程沒觸發(fā)任何限制機制。
這家叫北京奇點星宇的公司，2023年5月成立，注冊資本才100萬，卻敢做AI生成平臺，現(xiàn)在看來安全防線形同虛設(shè)。
這事絕不是個案。現(xiàn)在網(wǎng)上已經(jīng)形成了完整的灰色產(chǎn)業(yè)鏈，有人專門賣規(guī)避審核的提示詞，有人靠生成違規(guī)內(nèi)容牟利。平臺事后道歉說只是個別邊界場景問題，但明眼人都清楚，這根本是審核機制嚴重缺位。
AI技術(shù)發(fā)展快是好事，但安全底線不能丟。《生成式人工智能服務(wù)管理暫行辦法》都實施快三年了，還有公司敢這么敷衍安全責(zé)任。注冊資本100萬，抗風(fēng)險能力本就弱，再把安全當兒戲，出事是遲早的事。
我覺得這事得從三方面解決：一是平臺必須把內(nèi)容安全當核心競爭力，而不是成本負擔(dān)；二是監(jiān)管要加大處罰力度，讓違規(guī)成本遠高于收益；三是行業(yè)得盡快建立統(tǒng)一的安全標準。AI不是法外之地，狂奔的同時必須裝好剎車，不然技術(shù)再先進，也只會淪為作惡工具。@營銷頭版
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
