美國用AI批量造假帶風向，德國極右翼也跟著學，真假越來越難辨

卡塔琳娜·諾昆是政治學者和經濟學者，長期研究虛假信息、陰謀敘事以及社交媒體平臺上的政治影響。美國政府在社交媒體上發布人工智能生成的暴力視頻，目標受眾是年輕男性。卡塔琳娜·諾昆表示，左翼陣營如今也越來越多地使用人工智能。

記者問：自從美國對伊朗開戰以來，白宮就在社交媒體上持續上演一場數字化的軍事閱兵。一個視頻里，畫面顯示一棟建筑遭到轟炸，中間還穿插了海綿寶寶喊“再來一次”。這類內容是想打動誰？

卡塔琳娜·諾昆說：這種機器化的視覺秀，尤其是對戰爭的審美化處理，明顯是在面向年輕男性。有些帖子還借用了射擊類電子游戲的視覺風格，目標人群則是那些伴隨這類游戲長大的四十歲上下人群。在這種表達里，關于戰爭的復雜問題，比如炸彈會怎樣影響平民，幾乎被完全抹去了。

記者問：而吉卜力是一家動畫工作室，它的作品通常訴諸女性主義、共同體和民主價值。

卡塔琳娜·諾昆說：用這種風格去呈現遣返，會打破受眾原本的心理預期。因為人們通常已經習慣于把極右翼內容與另一種更加粗暴、更加直接的視覺語言聯系在一起。

記者問：如今很多用戶已經很難分辨事實與人工智能偽造內容。從8月開始，歐盟將要求對人工智能內容進行標識。這會有幫助嗎？

卡塔琳娜·諾昆說：最基礎的一點，也就是識別水印，很多人都還沒有掌握。而且水印本身也很容易被去掉。在德國極右翼的政治外圍環境中，我們還看到一些偽造的街頭采訪被大量傳播。尤其是在巴登——符騰堡州和萊茵蘭——普法爾茨州選舉前，這類內容又一次廣泛流傳。

她表示，如果讓一個18歲、金發、說話淺白的年輕女性來表達“把人趕出德國”的主張，這種訴求就會被包裝得溫和得多。但如果這段對話根本沒有發生過，這名女性甚至根本不存在，那問題就非常嚴重。尤其是因為所謂“保護女性”，本來就是德國極右翼推動遣返議題時常用的一套論述。

記者問：這種形式似乎也和默茨關于城市景觀的說法，以及“去問問女兒們”的思路很契合。

卡塔琳娜·諾昆說：這種“你應該想想自己的女兒”的框架本身就有問題。而人工智能偽造內容又把這個問題推高了一層，仿佛可以批量制造“假的姐妹”，再把她們當成傳聲筒來使用。

記者問：這主要是在吸引年輕用戶嗎？

卡塔琳娜·諾昆說：不只是。你會在這些帖子下面看到很多年長男性的留言，其中一些帶有非常可疑、甚至明顯性化的意味。他們顯然把這些賬號當成真的了。虛假信息是一個跨代際的問題。

記者問：在這里，人工智能角色的性化扮演了什么角色？

她說，這個賬號會借當前沖突制造話題，發布她與特朗普同框的畫面，或者她和其他女兵在基地床上嬉鬧的內容。但在這些內容之間，又會插入對一個戀足平臺賬號的推廣。這是一種非常值得質疑、卻又高度迎合目標受眾的傳播方式。

記者問：除了性化和所謂需要被保護的形象之外，還有別的機制也在被利用嗎？

卡塔琳娜·諾昆說：當然還有。研究虛假信息的專家卡羅琳·施瓦茨系統看過一些人工智能生成的“拉比”視頻。這些賬號從發型到服裝都充滿刻板印象，而配音內容則大量調用反猶主義成見，比如“所有猶太人都很有錢”或者“他們與精英圈子關系密切”等偏見。

她表示，這些賬號會給出打擦邊球的理財建議，或者兜售付費電子書，聲稱能帶來財富和幸福。有些賬號還會不斷切換套路。過不了多久，同一個賬號可能又開始圍繞愛潑斯坦丑聞制造內容。還有賬號會突然從“假拉比”變成“悲傷的假單親母親”，向外界請求幫助。

她說，只要是算法會推送的事件，幾乎都能被拿來利用，因為算法會獎勵聳動化表達。刻板印象可以替換，議題也可以替換，關鍵只是先聚攏受眾，再想辦法變現。

記者問：在社交媒體上使用人工智能的不只是右翼。現在也能看到由人工智能人物出鏡的女性主義、反種族主義街頭采訪。這類反制措施會有效嗎？

卡塔琳娜·諾昆說：如果是極度夸張的諷刺，往往更容易被識別出來，因此也可能幫助公眾看清某種套路。但只要我們無法識別一段內容是由人工智能制作的，這本身就是問題。如今，人們對社交媒體上看到的各種內容越來越懷疑，這種懷疑在某種程度上也可以理解。

記者問：德國聯邦政府目前基本還沒有卷入民粹式的人工智能偽造傳播。您對此感到慶幸嗎？

卡塔琳娜·諾昆說：是的。但許多民主政黨如今也已經在社交媒體的視覺表達中不同程度地使用人工智能。在我看來，僅僅靠“體面的人”聯合起來，不去打一場骯臟的人工智能選戰，是遠遠不夠的。還需要有強制性的監管，為所有人建立公平一致的規則。

她表示，總體來看，平臺承擔的義務仍然太低。《數字服務法》能否真正落實，很大程度上取決于是否有處罰，以及處罰力度有多大。硅谷的一部分力量反對這種做法，把歐盟的行動稱作審查，而特朗普則成了他們的代言人之一。

不過她強調，對有害的人工智能偽造內容和虛假信息進行標識或刪除，并不是審查，而是在打擊欺騙。