利用“深度偽造(Deepfake)”技術所實施的性犯罪日趨猖獗,成為當前韓國國內輿論風暴的中心,被視為“N號房”丑聞的翻版。據報道,目前海外通信軟件“電報(Telegram)”中,傳播著無數女性被AI生成“換臉”的“性影像”,其中參與犯案者多達22萬人,引發韓國民眾恐慌。
韓國受害者們為尋求該事件的能見度最大化,在海外平臺上不斷上傳帖文求助,部分受害者也來到中國的社交媒體軟件“發聲”,呼吁更多人關注此事件。
![]()
“深度偽造”AI換臉示意圖。圖源:光明網
每個人都可能淪為受害者:
“深度偽造”技術泛濫、擁有“私密”性的社交平臺成翻版“N號房”
今年5月,韓國的一則報道,揭開了“深度偽造”性犯罪事件的冰山一角。
首爾大學畢業生樸某和姜某,從2021年7月至2024年4月的3年多里,盜用女性同學、熟人的照片,用“深度偽造”技術換臉合成色情制品,在“電報”上建立了近200個網絡聊天室進行傳播,警方稱,樸某共參與制作、傳播約1700份非法照片和視頻,受害女性多達61人。這則報道,將“深度偽造”性犯罪,拉進韓國民眾的視線。
什么是“深度偽造(Deepfake)”技術?
“深度偽造(Deepfake)”是一個合成詞,是人工智能(AI)領域由“深度學習”(deep learning)和偽造(fake)合成的一個詞匯。該技術使用人工智能生成技術,將個人的聲音、面部表情及身體動作拼接合成虛假內容。用該技術形成的圖像與視頻,看起來非常逼真,難以識別其真偽。
事實上,“深度偽造”技術(Deepfake)的泛濫使得韓國女性的受害者數量以及受害者性影像的傳播力度較“N號房”事件更上了一個臺階。“深度偽造”技術的特性,意味著每一個個體都有可能成為受害者。只需要上傳受害者照片,就能夠輕易將其“換臉”制造一段不堪入目的性影像。
值得注意的是,該事件中性影像的傳播平臺與“N號房”事件一樣,仍然是海外社交媒體平臺“電報”。該平臺可以提供加密消息傳遞、“閱后即焚”等功能,擁有較為“私密”的特性,也因此成為犯罪行為的溫床。
在“電報”平臺中,存在一些付費的“深度偽造”頻道,男性訂閱用戶提供女性照片,付費后便能夠獲得由“深度偽造”技術制成的性影像。某些群組甚至要求參與者通過向受害者發送偽造照片,以及分享受害者的反應,來換取群組的“入場券”。相關群組參與人數不等,少的幾百上千人,多的超過十萬人。
在此過程中,加害者還毫不猶豫地公布受害女性的身份,威脅受害者,索要錢財。
“深度偽造”性犯罪像“游戲”那般
在韓國青少年間蔓延
如此涉及性犯罪的行為,卻在韓國青少年中像“游戲”那般蔓延。
其中,不乏青少年因為“只是覺得有趣”“只是在開玩笑”“用熟人的照片P圖更真實”等原因,使用“深度偽造”技術制造、傳播甚至是販賣性影像。加之“電報”等社交媒體的匿名性,犯罪者更加有恃無恐,甚至出現了“只有傻瓜才會被警察逮住”的言論。
許多“電報”群組都是按學校名稱或地區分類,以便用戶輕松識別共同的熟人并制作可以分享的“深度偽造”性影像。若想要進入這些組群,不少用戶被要求提供一名女性的照片,這些照片通常是從女同學的社交媒體賬戶中截取。
8月27日,韓國總統尹錫悅就“深度偽造”犯罪行為發表講話稱:“最近,在社交媒體上,針對不明人數的‘深度偽造’視頻迅速傳播。受害者通常是未成年人,而施暴者大多是青少年。”尹錫悅還表示:“雖然‘深度偽造’犯罪的托詞是單純的惡作劇,但這是在匿名的遮羞布之下惡意利用技術的明確的犯罪行為……任何人都可能成為受害者。”
![]()
韓國總統尹錫悅。圖源:《環球時報》
韓國警方稱,今年前七個月共報告了297起色情相關的“深度偽造”犯罪案件,高于去年的180起,幾乎是2021年數據首次整理時的兩倍。在178名被指控的人中,青少年涉案者超六成(113人)。
首爾警察廳官員表示,許多青少年因過度依賴信息技術,缺乏相關法律意識,參與制作和傳播“深度偽造”內容,導致校園內此類犯罪行為泛濫。警方計劃與教育部門合作,強化學校的數字性犯罪預防教育,包括告知學生分發非法合成材料是嚴重犯罪,以加深學生對數字性犯罪的認識。
“深度偽造”性犯罪引恐慌
韓國女性求援中國互聯網
連日來,有幾位韓國女性在中國社交平臺發文求助。有微博用戶發布帖文指出:“在韓國發生‘N號房’事件時,幾乎沒有加害者被捕,也沒有披露加害者的名單。”因為害怕此次事件也會安靜地過去,這名用戶因此發帖,希望中國朋友把這件事傳播出去。
部分韓國女性網友在微博發出帖文后,“N號房2.0”“韓國deepfake”等詞條沖上微博熱搜榜。
針對“深度偽造”犯罪在韓國引起恐慌,中科院女工程師張欣怡表示:經團隊同意,已將近期參加在上海舉辦的外灘大會AI創新賽·全球deepfake(深度偽造技術)攻防挑戰賽的AI模型向全球開源,讓所有有需要的人都可以免費使用模型來對抗deepfake,希望通過技術手段,為每一個可能受到傷害的人提供保護。“我們不會停止對這類行為的追究,更不會放棄對技術的探索和完善。”張欣怡還表示:“既然有人利用技術造假,那么我們也要利用技術去阻止他們得逞。”
作者丨程凌宇,深圳衛視直新聞主筆
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.