不堪忍受AI技術性犯罪，韓國女性求援中國互聯網？

利用“深度偽造（Deepfake）”技術所實施的性犯罪日趨猖獗，成為當前韓國國內輿論風暴的中心，被視為“N號房”丑聞的翻版。據報道，目前海外通信軟件“電報（Telegram）”中，傳播著無數女性被AI生成“換臉”的“性影像”，其中參與犯案者多達22萬人，引發韓國民眾恐慌。

韓國受害者們為尋求該事件的能見度最大化，在海外平臺上不斷上傳帖文求助，部分受害者也來到中國的社交媒體軟件“發聲”，呼吁更多人關注此事件。

“深度偽造”AI換臉示意圖。圖源：光明網

每個人都可能淪為受害者：

“深度偽造”技術泛濫、擁有“私密”性的社交平臺成翻版“N號房”

今年5月，韓國的一則報道，揭開了“深度偽造”性犯罪事件的冰山一角。

首爾大學畢業生樸某和姜某，從2021年7月至2024年4月的3年多里，盜用女性同學、熟人的照片，用“深度偽造”技術換臉合成色情制品，在“電報”上建立了近200個網絡聊天室進行傳播，警方稱，樸某共參與制作、傳播約1700份非法照片和視頻，受害女性多達61人。這則報道，將“深度偽造”性犯罪，拉進韓國民眾的視線。

什么是“深度偽造（Deepfake）”技術？

“深度偽造（Deepfake）”是一個合成詞，是人工智能（AI）領域由“深度學習”（deep learning）和偽造（fake）合成的一個詞匯。該技術使用人工智能生成技術，將個人的聲音、面部表情及身體動作拼接合成虛假內容。用該技術形成的圖像與視頻，看起來非常逼真，難以識別其真偽。

事實上，“深度偽造”技術（Deepfake）的泛濫使得韓國女性的受害者數量以及受害者性影像的傳播力度較“N號房”事件更上了一個臺階。“深度偽造”技術的特性，意味著每一個個體都有可能成為受害者。只需要上傳受害者照片，就能夠輕易將其“換臉”制造一段不堪入目的性影像。

值得注意的是，該事件中性影像的傳播平臺與“N號房”事件一樣，仍然是海外社交媒體平臺“電報”。該平臺可以提供加密消息傳遞、“閱后即焚”等功能，擁有較為“私密”的特性，也因此成為犯罪行為的溫床。

在“電報”平臺中，存在一些付費的“深度偽造”頻道，男性訂閱用戶提供女性照片，付費后便能夠獲得由“深度偽造”技術制成的性影像。某些群組甚至要求參與者通過向受害者發送偽造照片，以及分享受害者的反應，來換取群組的“入場券”。相關群組參與人數不等，少的幾百上千人，多的超過十萬人。

在此過程中，加害者還毫不猶豫地公布受害女性的身份，威脅受害者，索要錢財。

“深度偽造”性犯罪像“游戲”那般

在韓國青少年間蔓延

如此涉及性犯罪的行為，卻在韓國青少年中像“游戲”那般蔓延。

其中，不乏青少年因為“只是覺得有趣”“只是在開玩笑”“用熟人的照片P圖更真實”等原因，使用“深度偽造”技術制造、傳播甚至是販賣性影像。加之“電報”等社交媒體的匿名性，犯罪者更加有恃無恐，甚至出現了“只有傻瓜才會被警察逮住”的言論。

許多“電報”群組都是按學校名稱或地區分類，以便用戶輕松識別共同的熟人并制作可以分享的“深度偽造”性影像。若想要進入這些組群，不少用戶被要求提供一名女性的照片，這些照片通常是從女同學的社交媒體賬戶中截取。

8月27日，韓國總統尹錫悅就“深度偽造”犯罪行為發表講話稱：“最近，在社交媒體上，針對不明人數的‘深度偽造’視頻迅速傳播。受害者通常是未成年人，而施暴者大多是青少年。”尹錫悅還表示：“雖然‘深度偽造’犯罪的托詞是單純的惡作劇，但這是在匿名的遮羞布之下惡意利用技術的明確的犯罪行為……任何人都可能成為受害者。”

韓國總統尹錫悅。圖源：《環球時報》

韓國警方稱，今年前七個月共報告了297起色情相關的“深度偽造”犯罪案件，高于去年的180起，幾乎是2021年數據首次整理時的兩倍。在178名被指控的人中，青少年涉案者超六成（113人）。

首爾警察廳官員表示，許多青少年因過度依賴信息技術，缺乏相關法律意識，參與制作和傳播“深度偽造”內容，導致校園內此類犯罪行為泛濫。警方計劃與教育部門合作，強化學校的數字性犯罪預防教育，包括告知學生分發非法合成材料是嚴重犯罪，以加深學生對數字性犯罪的認識。

“深度偽造”性犯罪引恐慌

韓國女性求援中國互聯網

連日來，有幾位韓國女性在中國社交平臺發文求助。有微博用戶發布帖文指出：“在韓國發生‘N號房’事件時，幾乎沒有加害者被捕，也沒有披露加害者的名單。”因為害怕此次事件也會安靜地過去，這名用戶因此發帖，希望中國朋友把這件事傳播出去。

部分韓國女性網友在微博發出帖文后，“N號房2.0”“韓國deepfake”等詞條沖上微博熱搜榜。

針對“深度偽造”犯罪在韓國引起恐慌，中科院女工程師張欣怡表示：經團隊同意，已將近期參加在上海舉辦的外灘大會AI創新賽·全球deepfake（深度偽造技術）攻防挑戰賽的AI模型向全球開源，讓所有有需要的人都可以免費使用模型來對抗deepfake，希望通過技術手段，為每一個可能受到傷害的人提供保護。“我們不會停止對這類行為的追究，更不會放棄對技術的探索和完善。”張欣怡還表示：“既然有人利用技術造假，那么我們也要利用技術去阻止他們得逞。”

作者丨程凌宇，深圳衛視直新聞主筆