同一時間,一個和她長得一模一樣的數字人正在直播間賣力喊單:“家人們,這款產品真的好用。”兩副面孔,一個被授權,一個是盜用。
就在這個熱度正高的時間點上,山西大同一個名叫邢某的直播帶貨從業者,動起了歪心思。他的賬號一直處于行業中下游,流量慘淡,正愁找不到突破口。
![]()
質疑聲迅速蔓延。大同網警隨即介入,通過技術溯源、數據核查,全面還原了邢某的違法過程,屬地公安局依據《治安管理處罰法》對其作出行政拘留。
官方定性很清楚:邢某的行為構成“盜用、冒用他人身份名義招搖撞騙”。用大白話說,就是用AI“貍貓換太子”到別人頭上,以此牟利。
![]()
邢某被拘只是一個剖面。真正讓人不安的是,干這種事的技術門檻已經低到了一個不可思議的程度。
2026年5月5日,演員王勁松在社交媒體上親述了一段經歷:他的形象被AI盜用,合成了一條理財推廣視頻,畫面中“他”的口型、聲音、表情幾乎毫無破綻。
![]()
最讓他脊背發涼的是——連他自己的家人都分辨不出來屏幕里的人到底是不是真的。
王勁松的原話直白得令人心驚:“太可怕了,視頻。聲音、口型完全看不出來真假。”
![]()
同樣是5月,馬來西亞藝人阿立夫·蘇克里也公開警告粉絲,詐騙分子正在利用尖端AI技術復制他的面部和聲音,已經導致數千名粉絲遭受金錢損失。
把時間往前推到今年3月,演員溫崢嶸遭遇了堪稱黑色幽默的一幕:她的AI數字分身同時出現在多個直播間賣貨。溫崢嶸本人沖進直播間質問,結果被對方光速拉黑。
![]()
事后她向媒體苦笑著說了一句話:“我很難證明我是我。”
同一個時期,國內外頂流藝人趙露思、王一博、肖戰接連淪為AI技術的受害者,他們的肖像被短劇制作方明目張膽地用于商業劇集,甚至在衛視平臺公開播出。
這一長串名單放在一起看,一個清晰的輪廓浮現出來了:公眾人物的臉已經變成了AI黑產手里可以隨意取用的原材料庫。
![]()
誰火就拿誰的臉來賣誰的貨,賺著流量,把風險全部甩給被盜臉的本尊。
![]()
2026年3月,多地警方接連發布預警:AI冒充熟人、冒充領導的詐騙案件大幅上升。
一家公司的財務人員在工作微信上接到了“老板”的視頻通話,對方從樣貌到聲音、從語氣到習慣性動作,都和老板本人完全一致。
![]()
這條視頻通話的內容是以緊急項目需要資金為由,要求立刻轉賬500萬。沒有二次核實的情況下,這筆錢就出去了。
事后追查發現,這條視頻是用老板此前在公開場合出鏡的視頻資料訓練出來的AI模型。詐騙團伙甚至根據老板的公開行程,精準選擇了財務人員最不會懷疑的時機發起攻擊。
![]()
這已經不單是詐騙了,這是一種對人類社會最基本運轉機制的定向爆破——信任。
王勁松在自己的發聲里提了一個更深層的擔憂:“我擔心的是以后會不會出現更真、性質更惡劣的AI肖像侵權行為,用于詐騙呢?”
![]()
好在這件事觸碰到了監管層的敏感神經,而且反應比很多人預想的都要快。
![]()
5月7日,公安部網安局通報邢某被行拘。
就在同一天,中央網信辦宣布部署開展“清朗·整治AI應用亂象”專項行動,其中明確要求:禁止未經授權利用AI技術提供“換臉擬聲”服務,禁止盜用他人形象通過數字虛擬人技術進行直播、影像創作等活動。
![]()
這還沒完。今年4月,國家互聯網信息辦公室發布了《數字虛擬人信息服務管理辦法(征求意見稿)》,從數據采集、內容標注、實名制等層面給數字人行業劃出了硬杠杠。
![]()
從法律到專項行動,再到行業管理辦法,針對AI濫用問題的監管之網正在收緊,而且收得越來越快。
科技發展從來不缺光怪陸離的案例,但這一次,公安部對AI盜臉的第一記公開重拳,打的絕不只是一個大同的邢某。
![]()
它打碎的是無數人心底那個僥幸的泡泡——以為躲在屏幕后面點幾下鼠標,就能把別人的臉、別人的信譽、別人的公眾形象無償占為己有。
![]()
每個人的面孔、聲音、身份,在AI的沖刷下變得如此脆弱,如此廉價,如此容易被盜取——這才是這場鬧劇中最不堪直視的事實。
貍貓換太子,換的從來不是一只貍貓,也不是一個太子,換的是人與人之間最基本的信任。
![]()
當一個父親接到兒子的求救視頻都不敢轉賬,當一個演員沖進直播間反駁卻被當作冒牌貨拉黑,當公眾人物的話可以被隨時生成、隨時篡改、隨時用于牟利——我們面對的就不是幾起個案,而是一場社會信任體系的塌方。
好在,公安部出手了。這意味著,對那些躲在AI面具后面為所欲為的人,法律已經找到了那把能掀開面具的鑰匙。科技從來不該成為作惡的遮羞布,也終究不會成為任何人逃避責任的擋箭牌。
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.