屏幕里的熟面孔,未必來自真實鏡頭,AI換臉和聲音克隆已經(jīng)把“看見”這件事改寫了,真假交錯之間,受害者往往先被信任牽住,再被話術(shù)帶著走
2026年5月7日,公安部網(wǎng)安局通報,山西網(wǎng)民邢某借助AI仿冒鄭麗文開直播帶貨,已被依法行政拘留,這條消息之所以引發(fā)關(guān)注,不只因為冒用身份本身,也因為它把平臺審核、身份冒充和網(wǎng)絡(luò)交易一起推到臺前
鄭麗文的名字出現(xiàn)在直播間里,帶來的不是授權(quán),而是熱度被借用,賬號名稱、頭像、文案、商品話術(shù)被拼裝在一起,形成一套足以讓人誤判的外殼,外殼之下卻是一次赤裸的牟利
![]()
這類操作并不依賴高深門檻,素材來自公開視頻,工具來自現(xiàn)成軟件,流程來自復(fù)制粘貼,流程一旦順手,冒充一個人就像搭建一間臨時直播間,快得出乎許多人預(yù)料
近兩天圍繞這起通報的轉(zhuǎn)載集中在同一件事上,官方處置已經(jīng)落地,平臺責(zé)任卻仍被反復(fù)討論,原因不難理解,直播間不是單向展示,它連接著交易、信任和付款,一旦入口失守,后面的損失往往接得極快
![]()
靳東案被再次提起,是因為它和鄭麗文案的路徑幾乎一致,都是借名人形象獲取流量,再把流量轉(zhuǎn)化成交易,2022年以來,詐騙團伙利用AI換臉和聲音克隆冒充靳東,在短視頻平臺持續(xù)投放內(nèi)容,目標(biāo)直指中老年女性
上海黃阿姨曾差點貸款200萬元給假靳東拍戲,江西張阿姨被騙走近20萬元養(yǎng)老錢,這些數(shù)字之所以扎眼,是因為它們說明一個事實,AI詐騙不只騙點擊,也騙積蓄,甚至直接動到家庭儲備
2023年10月,靜安區(qū)檢察院對8名犯罪嫌疑人提起公訴,2024年2月,法院作出一審判決,這條司法鏈條走到臺前,說明此類案件已經(jīng)不再停留在個別賬號層面,而是進(jìn)入持續(xù)治理階段
![]()
名人被冒用的范圍,早已不局限于演員和主持人,李梓萌、溫崢嶸、全紅嬋都曾被卷入相似情形,表面上看是內(nèi)容形式不同,底層卻共享同一套邏輯,借身份光環(huán)提高可信度,再把信任變成交易入口
2025年,北京市海淀區(qū)市場監(jiān)管局查處過一起AI虛假廣告案,有人偽造李梓萌形象,在直播間推薦魚油產(chǎn)品,還宣稱可用于多種疾病,調(diào)查結(jié)果顯示,所謂魚油只是一種普通糖果,廣告外殼和商品屬性完全脫節(jié)
溫崢嶸在2025年11月公開表示,自己的AI換臉形象被放進(jìn)多個直播間,推薦不同商品,她沖進(jìn)直播間質(zhì)問,對方立刻拉黑,她后來感嘆一句“我很難證明我是我”,這句話把身份被盜用后的荒誕感說得直接而尖銳
全紅嬋的案例又是另一種路徑,賬號發(fā)布了17條克隆聲音視頻,內(nèi)容指向土雞蛋帶貨,累計點贊量達(dá)到1.1萬,售出4.7萬件,家人隨后明確回應(yīng),她沒有為相關(guān)農(nóng)產(chǎn)品做過代言,這組數(shù)字把“聽上去像”變成了“買的人真的不少”
這些案例放在一起,指向的不是偶發(fā)巧合,而是一條成熟鏈路,先借公眾人物制造關(guān)注,再用AI降低造假成本,隨后以帶貨、私信、投資、借錢等形式完成轉(zhuǎn)化,環(huán)節(jié)不復(fù)雜,收益卻可觀
![]()
近兩天的相關(guān)討論里,另一個被反復(fù)提到的詞是“標(biāo)識”,不少人開始關(guān)注AI生成內(nèi)容是否應(yīng)當(dāng)明確標(biāo)注,平臺是否該在直播、短視頻、私信場景里設(shè)置更嚴(yán)的識別提示,這個話題在鄭麗文事件之后又被推到前排
還有人把目光放在賬號認(rèn)證上,藍(lán)V、實名認(rèn)證、歷史內(nèi)容、日常互動,過去被視作普通信息,如今成了判斷可信度的基礎(chǔ)條件,尤其在交易場景里,認(rèn)證并不代表完全可信,卻能減少一層誤判
![]()
邢某事件之所以值得持續(xù)討論,還在于它把“冒名直播”這件事擺成了一個樣本,樣本里既有技術(shù)濫用,也有話術(shù)包裝,還有對地域、身份和公共認(rèn)知的精準(zhǔn)借勢,直播間里的每個元素都不是隨手拼湊
有網(wǎng)民把這類內(nèi)容稱作“數(shù)字人帶貨”,也有人堅持應(yīng)當(dāng)直接叫“冒用身份”,兩種說法背后站著不同視角,前者強調(diào)技術(shù)形式,后者強調(diào)行為性質(zhì),這種表述差異本身就值得放進(jìn)評論區(qū)討論
圍繞平臺責(zé)任的看法也并不一致,有人認(rèn)為現(xiàn)有審核已經(jīng)不輕松,海量直播和視頻讓人工識別難度增大,也有人認(rèn)為平臺作為流量入口,若不能及時識別冒名賬號,就難以回避管理責(zé)任
![]()
從治理角度看,鄭麗文案提供的線索并不只是一條處罰信息,它還提示出一個事實,名字、頭像、聲音、風(fēng)格,正在被拆分成可交易的素材,身份從整體被拆開后,每一塊都可能成為騙局入口
這意味著反詐不能只盯著轉(zhuǎn)賬環(huán)節(jié),源頭識別同樣重要,誰在發(fā)聲,是否授權(quán),內(nèi)容是否連續(xù),賬號是否長期穩(wěn)定,這些細(xì)節(jié)一旦缺失,外行人就容易把“像”當(dāng)成“真”
中老年用戶之所以容易受影響,不是因為他們天生缺少判斷力,而是因為他們習(xí)慣以熟面孔建立信任,屏幕里的人如果足夠熟、話術(shù)如果足夠順,很多人就會把懷疑暫時放下
![]()
這類直播常把“助力兩岸好物互通”“支持鄉(xiāng)村振興”之類表述放在前面,話術(shù)本身并不稀奇,稀奇的是它們與名人身份綁定后,往往形成一種先天然可信、后再下單的心理路徑
相似的套路在多個案例里都能看到,前端靠形象,中段靠情緒,后端靠交易,三段連接得越順,受害者越難在中途停下,尤其當(dāng)單價不高時,警惕心常常被日常消費的感覺沖淡
2025年以來,圍繞AI換臉的討論開始從“像不像”轉(zhuǎn)向“要不要標(biāo)”,這也是一個明顯變化,過去大家關(guān)注技術(shù)效果,如今更多人關(guān)注責(zé)任邊界,誰來確認(rèn),誰來提示,誰來追責(zé),這些都變成焦點
![]()
還有一個被忽視的層面,是素材來源,許多假視頻并不需要秘密數(shù)據(jù)庫,公開采訪、新聞畫面、活動照片都能成為拼接材料,曝光越高,樣本越多,克隆越容易,風(fēng)險也就越集中
對于公眾人物來說,維權(quán)成本并不輕,查賬號、找平臺、做公證、發(fā)聲明,步驟不少,時間也不短,所以溫崢嶸那句“我很難證明我是我”并不是情緒表達(dá),而是現(xiàn)實處境的直接寫照
如果把這些事件連在一起,就會發(fā)現(xiàn)近兩天被討論得最多的不是單一案件,而是同一類技術(shù)風(fēng)險在不同場景里的反復(fù)上演,直播帶貨、情感私信、虛假廣告、代言偽造,入口不同,路徑卻相近
![]()
這組事件里還藏著一個討論熱區(qū),AI工具到底該不該限制,這個話題常被分成兩邊,一邊強調(diào)技術(shù)能提高內(nèi)容生產(chǎn)效率,一邊強調(diào)門檻下降后,冒用身份的成本也被壓低,雙方都站得住,卻落在不同層面
不少人把爭論落到“工具無罪,使用者有責(zé)”,這個判斷并不粗糙,但也不完整,因為工具的默認(rèn)設(shè)置、平臺的審核機制、傳播鏈的轉(zhuǎn)發(fā)習(xí)慣,都會改變一件事最終呈現(xiàn)出的危險程度
鄭麗文、靳東、李梓萌、溫崢嶸、全紅嬋,這幾個名字在不同時間點被卷入類似場景,看似分散,實則都指向同一條線,公眾人物的身份被拿去換取流量,流量又被轉(zhuǎn)成交易或誤導(dǎo)
與其說這些案例在提醒人們“別輕信”,不如說它們在提醒整個網(wǎng)絡(luò)環(huán)境,真實身份正在被技術(shù)拆解,過去依靠熟人社會建立的信任感,正在進(jìn)入需要重新校準(zhǔn)的階段
有些直播間會把背景板、字幕、口播節(jié)奏做得接近真人賬號,甚至連衣著和燈光都盡量貼近原始風(fēng)格,這種細(xì)節(jié)堆疊的目的只有一個,壓縮觀眾的懷疑時間
當(dāng)懷疑時間被壓縮,判斷就會變慢,付款就會變快,平臺再想追回交易,難度就隨之上升,這也是為什么近兩天關(guān)于“先識別,再交易”的討論始終沒有降溫
如果把這些案例拆開看,會發(fā)現(xiàn)一個共同規(guī)律,受害者并不總是沖動下單的人,很多時候他們只是停留在“先看看”的階段,而這短短幾秒,正是算法和話術(shù)搶占的窗口
對平臺來說,最現(xiàn)實的動作不是一句“請注意辨別”,而是把識別提示放進(jìn)內(nèi)容入口,把異常賬號排查做得更前,把AI生成標(biāo)識做得更顯眼,把投訴處理做得更快
對普通用戶來說,判斷也可以更簡單,認(rèn)證信息是否完整,賬號內(nèi)容是否連續(xù),歷史互動是否自然,語氣是否前后統(tǒng)一,這些因素加起來,往往比單獨看一張臉更有用
近兩天圍繞這件事的轉(zhuǎn)發(fā)里,還有一個有意思的變化,大家開始主動把案例與家中長輩聯(lián)系起來,因為真正容易受影響的往往不是追熱點的人,而是把屏幕內(nèi)容當(dāng)作可靠來源的人
這類場景下,家庭成員的提醒價值并不次于平臺提示,尤其是對直播購物、私信求助、投資邀請這三類入口,先讓家里人知道“名人不在小號里賣貨”,比事后追討更省力
靳東在兩會期間多次呼吁壓實平臺責(zé)任、完善立法、嚴(yán)懲不法分子,這類發(fā)聲放在今天再看,依舊對應(yīng)著現(xiàn)實中的高頻場景,說明社會對AI冒用身份的關(guān)注已經(jīng)從個案轉(zhuǎn)向制度
李梓萌案、溫崢嶸案、全紅嬋相關(guān)視頻,和鄭麗文事件一樣,都不是單點孤例,它們在提醒一個共同方向,公眾人物的姓名、面孔、聲音,正在變成可被反復(fù)復(fù)制的傳播資源
傳播資源一旦進(jìn)入黑灰產(chǎn)鏈條,就會被快速切割、包裝、再分發(fā),今天是帶貨,明天可能是借款,后天可能是虛假公益,場景在變,核心結(jié)構(gòu)卻幾乎沒有變化
有爭論的人常會問,既然視頻是假的,為什么還能賣出去,答案并不玄,原因在于很多人買的不只是商品,還有熟悉面孔帶來的確定感,這種確定感一旦被偽造,就會直接影響決策
![]()
再往前看,AI內(nèi)容識別技術(shù)、平臺水印機制、實名認(rèn)證體系、肖像權(quán)保護(hù)規(guī)則,這些本應(yīng)彼此銜接的環(huán)節(jié),正在被這類案件一層層檢驗,檢驗的結(jié)果并不輕松,但方向已經(jīng)清楚
近兩天的熱議沒有離開“鄭麗文被冒用”這個起點,卻一路牽出了多個場景,說明公眾對這類風(fēng)險的敏感度在上升,討論的重心也從單次通報走向持續(xù)治理
如果說這篇通報提供了一個現(xiàn)實樣本,那么后續(xù)圍繞它展開的關(guān)注,就是另一個樣本,樣本里有平臺,有法律,有技術(shù),也有普通用戶的辨識習(xí)慣,這些因素共同決定下一次會不會重復(fù)
冒名直播并不新鮮,新的只是速度,過去造假需要團隊,現(xiàn)在一個人配合工具就能啟動,過去一場騙局要靠大量人工,今天幾段素材就能拉起一個直播間,成本結(jié)構(gòu)已經(jīng)變化
成本變化帶來的直接后果,是偽造門檻下降,傳播頻率上升,修復(fù)信任的代價卻沒有同步下降,這種不對稱,正是近兩天很多討論者共同指向的核心現(xiàn)實
邢某被行政拘留,說明冒用身份并不只是道德問題,也不是單純的內(nèi)容失真,它已經(jīng)進(jìn)入治安治理視野,甚至可以繼續(xù)延伸到平臺機制、廣告審核和交易規(guī)則
信息越多,判斷越要回到幾個簡單動作,先看賬號來源,再看授權(quán)痕跡,再看歷史內(nèi)容,再看直播語氣,最后看交易指向,這套步驟不復(fù)雜,卻能擋住一大批假冒內(nèi)容
需要警惕的不是某一個面孔,而是一整套復(fù)制身份的方式,今天復(fù)制的是臉,明天可能是聲音,后天可能是簽名風(fēng)格,傳播鏈條一旦形成,辨認(rèn)就必須同步升級
鄭麗文案之所以被持續(xù)轉(zhuǎn)發(fā),是因為它把一個抽象詞變成了現(xiàn)場樣本,AI不再只是實驗室里的術(shù)語,而是直播間里能賣貨、能拉人、能誘導(dǎo)付款的現(xiàn)實工具,這一點值得反復(fù)記住
![]()
近兩天圍繞這條通報的輿論,基本聚焦在三個方向,一是對違法行為的明確態(tài)度,二是對平臺識別能力的質(zhì)疑,三是對老年群體防騙能力的關(guān)注,這三條線交織在一起,構(gòu)成了當(dāng)前討論的主軸
其中最有代表性的看法,是把AI換臉看成一種“身份搬運”,把原本屬于他人的信任,直接搬運到自己的交易鏈條中,這個說法通俗,也接近本質(zhì)
假若直播間里那張臉換成任何一位知名人物,流程仍然可以成立,這也是同類案件屢屢出現(xiàn)的原因,技術(shù)換殼容易,信任重建卻難
另一類值得關(guān)注的細(xì)節(jié),是商品本身往往不貴,正因如此,許多人在付款前不會多停留一秒,這種低客單價策略配合名人形象,常常讓騙局顯得沒有攻擊性
一些人把它理解成普通營銷,等察覺賬號異常時,已經(jīng)錯過最佳攔截點,這也是為什么“先驗證再付款”開始被越來越多平臺反復(fù)強調(diào)
如果說鄭麗文案提供了一個近期樣本,那么靳東案、李梓萌案、溫崢嶸案、全紅嬋相關(guān)視頻,就是這條樣本鏈上的連續(xù)注腳,說明問題不是單一賬號,而是模式復(fù)制
這類內(nèi)容背后還牽出一個現(xiàn)實趨勢,AI生成內(nèi)容的識別難度正在上升,早期常見的嘴型不合、眼神發(fā)空、邊緣模糊,現(xiàn)在會被更精細(xì)的模型修補,判斷窗口被不斷壓縮
判斷窗口縮小后,賬號認(rèn)證、官方聲明、平臺公示、交易提醒就顯得格外重要,誰先把這些信息擺出來,誰就能先爭取到一部分判斷時間
近兩天的搜索與轉(zhuǎn)載中,關(guān)于立法和平臺規(guī)則的呼聲并沒有消失,反而因為鄭麗文事件再次被提起,原因在于公眾已經(jīng)意識到,單靠個體辨認(rèn),未必能堵住規(guī)模化冒用
有人把這種變化視為技術(shù)焦慮,也有人把它看作治理升級的前奏,兩種理解并不沖突,因為每一次騙局升級,都會倒逼標(biāo)識、審核、執(zhí)法和維權(quán)同步跟上
公眾人物被冒用,普通人遭受損失,平臺與監(jiān)管都被推上前臺,近兩天的相關(guān)信息圍繞的正是這一鏈條,鏈條中的每一環(huán)都值得被看見,也都需要被補強
當(dāng)屏幕里那張臉能被任意復(fù)制,真正重要的就不再是“像不像”,而是“誰來證明授權(quán)”,這個轉(zhuǎn)向,正是鄭麗文案帶來的現(xiàn)實提醒
![]()
靳東案的持續(xù)發(fā)酵告訴人們,案件結(jié)案不等于風(fēng)險消失,溫崢嶸和全紅嬋的經(jīng)歷又說明,內(nèi)容只要進(jìn)入流量場,就可能被反復(fù)使用,名人身份一旦被切片,風(fēng)險就會擴散
李梓萌魚油廣告案則把另一個層面放到臺前,虛假宣傳和身份冒用常常結(jié)伴出現(xiàn),身份提供可信度,商品完成變現(xiàn),二者結(jié)合后,騙術(shù)的完成度會顯著上升
鄭麗文事件則補上了政治人物被仿冒這一類目,它讓人看到,不同領(lǐng)域、不同身份、不同人群,都可能被同一套方法盯上,這也是近兩天討論熱度居高不下的原因之一
對于普通用戶來說,看到名人直播賣貨,先別急著下單,先看認(rèn)證,再看賬號歷史,再看平臺提示,再看是否存在授權(quán)聲明,這四步足以篩掉大部分異常賬號
對于平臺來說,重點不在于事后刪帖,而在于前置攔截,尤其當(dāng)直播名稱、頭像、字幕、口播出現(xiàn)強關(guān)聯(lián)時,系統(tǒng)識別應(yīng)當(dāng)比人工投訴跑得更快
對于監(jiān)管來說,類似通報的價值在于釋放明確態(tài)度,冒用身份不是“小聰明”,而是會進(jìn)入行政與司法治理的邊界,這條線已經(jīng)被畫出來
![]()
鄭麗文被仿冒,靳東被仿冒,李梓萌被仿冒,溫崢嶸被仿冒,全紅嬋被仿冒,這些案例沒有把人推向恐慌,反倒把一條清晰路徑推到了公眾面前,技術(shù)越快,驗證越不能省
若要在這類內(nèi)容面前多停留片刻,記住的不是驚訝,而是核驗,記住的不是轉(zhuǎn)發(fā),而是辨認(rèn),記住的不是“看見了什么”,而是“誰有權(quán)這么說”
近兩天的信息已經(jīng)說明,AI換臉和聲音克隆正在從邊緣話題進(jìn)入日常治理,下一步拼的不是誰更會造假,而是誰先把真實身份重新擺回中心
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.