凈網(wǎng)—2025｜當(dāng)面臨AI說(shuō)謊 網(wǎng)警教你如何守護(hù)真實(shí)的信息邊界！

當(dāng)AI學(xué)會(huì)說(shuō)謊

我們?cè)撊绾问刈o(hù)真實(shí)的信息邊界？

AI造謠、AI詐騙：別讓技術(shù)淪為犯罪幫兇

網(wǎng)絡(luò)安全與日常生活緊密相連

從智能助手

精準(zhǔn)醫(yī)療到自動(dòng)駕駛

AI的進(jìn)步讓社會(huì)運(yùn)轉(zhuǎn)更高效

生活更便捷

但技術(shù)往往利弊共生

AI 快速發(fā)展也暗藏風(fēng)險(xiǎn)

AI 造謠AI 詐騙

正成為亟待應(yīng)對(duì)的嚴(yán)峻挑戰(zhàn)

我們?cè)趽肀?AI 便利的同時(shí)

必須高度警惕這些潛在危害

01

AI造謠

今年3月初，一則關(guān)于“華山醫(yī)院前院長(zhǎng)”因病客死他鄉(xiāng)的消息在互聯(lián)網(wǎng)廣泛傳播，也引起眾多網(wǎng)友關(guān)注。然而經(jīng)上海警方核查卻發(fā)現(xiàn)，華山醫(yī)院壓根就沒有名為“張明遠(yuǎn)”的前院長(zhǎng)，也沒有同名員工。經(jīng)上海公安網(wǎng)安部門迅速調(diào)查，最終成功偵破這起利用AI造謠案，將犯罪嫌疑人王某某、郭某某、石某某抓獲歸案。而令人吃驚的是，犯罪嫌疑人在發(fā)布該假消息前，甚至都不知道有華山醫(yī)院這家醫(yī)院，更不知道所謂的“張明遠(yuǎn)”這個(gè)人。

經(jīng)查實(shí)，王某某、郭某某、石某某等3人，通過(guò)控制500余個(gè)自媒體賬號(hào)，設(shè)置社會(huì)熱點(diǎn)、明星緋聞、爆款推薦等關(guān)鍵詞策略，利用AI工具自動(dòng)生成并發(fā)布不實(shí)帖文30余萬(wàn)條，造成惡劣社會(huì)影響。

近年來(lái)，隨著AI技術(shù)的快速發(fā)展，尤其是自然語(yǔ)言處理和深度偽造技術(shù)的成熟，AI造謠呈現(xiàn)出更隱蔽、難辨別的特點(diǎn)，利用ai工具合成技術(shù)編造謠言，甚至生成逼近真實(shí)的圖片、音視頻，顛覆了“有圖就有真相”的常規(guī)認(rèn)知，讓人難辨真假。

AI造謠的主要形式

01

生成逼真的假新聞、偽造的社交媒體帖子或惡意評(píng)論。

02

通過(guò)Deepfake技術(shù)合成名人、政客的虛假影像或語(yǔ)音。

03

結(jié)合社交機(jī)器人和AI，在社交媒體上大規(guī)模擴(kuò)散謠言，制造虛假輿論。

辨別AI造謠

偽造熱點(diǎn)事件、捏造名人言論、炮制偽科普、嫁接虛假證據(jù)，都在引你“入坑”……當(dāng)造謠已經(jīng)用上AI工具，教你怎么來(lái)辨別！

保持懷疑態(tài)度

對(duì)于任何看起來(lái)過(guò)于完美或者與常識(shí)相悖的信息，都應(yīng)該持有一份謹(jǐn)慎的態(tài)度。不要輕易相信未經(jīng)核實(shí)的消息來(lái)源。

查證信息真?zhèn)?/strong>

當(dāng)遇到疑似使用AI技術(shù)修改過(guò)的內(nèi)容時(shí)，可以通過(guò)搜索引擎查找原始資料進(jìn)行對(duì)比驗(yàn)證。同時(shí)也可以利用一些專門用來(lái)檢測(cè)圖像編輯痕跡的工具來(lái)輔助判斷。

增強(qiáng)個(gè)人隱私保護(hù)意識(shí)

防止個(gè)人信息泄露也是抵御AI謠言的重要一環(huán)。因?yàn)楹芏鄷r(shí)候，詐騙者正是利用了受害者的私人數(shù)據(jù)來(lái)進(jìn)行精準(zhǔn)攻擊。定期更換強(qiáng)密碼、謹(jǐn)慎分享位置信息等措施都有助于降低被惡意利用的風(fēng)險(xiǎn)。

關(guān)注官方渠道

權(quán)威機(jī)構(gòu)發(fā)布的信息通常更為可靠。因此，在接收到不確定的消息后，優(yōu)先參考政府機(jī)關(guān)、知名媒體等正規(guī)途徑發(fā)布的聲明或報(bào)道。

積極參與網(wǎng)絡(luò)環(huán)境凈化

如果您發(fā)現(xiàn)自己成為了某條虛假消息的傳播者，請(qǐng)立即停止轉(zhuǎn)發(fā)并向相關(guān)平臺(tái)舉報(bào)該內(nèi)容。每個(gè)人的小小努力匯聚起來(lái)就能形成強(qiáng)大的正能量，共同維護(hù)健康的網(wǎng)絡(luò)空間。

02

AI詐騙

2024年8月，市民劉先生報(bào)案稱其在2個(gè)月前通過(guò)一則短視頻結(jié)交了網(wǎng)友“焦女士”，接觸后感覺十分投緣。不久，“焦女士”稱在外出游玩時(shí)為他請(qǐng)了一串手串，劉先生深受感動(dòng)，兩人迅速發(fā)展為戀人關(guān)系。隨后，“焦女士”又稱剛盤下一家服裝店，希望劉先生能為她預(yù)訂花籃支持開業(yè)，劉先生未多想就轉(zhuǎn)賬給了對(duì)方推薦的“花店老板”。接下來(lái)的一個(gè)月內(nèi)，“焦女士”故伎重施，以家屬生病、進(jìn)貨需要資金等理由，陸續(xù)向劉先生索要了近20萬(wàn)元。接報(bào)后，上海警方抽絲剝繭，逐步明確了一個(gè)以楊某為首的交友詐騙團(tuán)伙。隨著調(diào)查深入，民警發(fā)現(xiàn)該團(tuán)伙組織嚴(yán)密且有明確分工，如在短視頻平臺(tái)上架視頻的引流人員，與潛在被害人聊天的業(yè)務(wù)員，以及偽造相關(guān)聊天內(nèi)容的“修圖”人員，采取“流水化”詐騙作業(yè)。

“AI詐騙” 成功率極高，因?yàn)轵_子利用的是人類最原始的情感：對(duì)親友的信任和對(duì)權(quán)威的畏懼。傳統(tǒng)電信詐騙靠“話術(shù)”，而AI詐騙靠的是“技術(shù)”。它不再僅僅是“猜猜我是誰(shuí)”，而是讓你親眼看到、親耳聽到“你認(rèn)識(shí)的人”，欺騙性呈指數(shù)級(jí)上升。

AI詐騙常見套路

1

聲音合成

騙子通過(guò)騷擾電話錄音等來(lái)提取某人聲音，獲取素材后進(jìn)行聲音合成，從而可以用偽造的聲音騙過(guò)對(duì)方。

2

AI換臉

騙子首先分析公眾發(fā)布在網(wǎng)上的各類信息，根據(jù)所要實(shí)施的騙術(shù)，通過(guò)AI技術(shù)篩選目標(biāo)人群。在視頻通話中利用AI換臉，騙取信任，從而實(shí)施詐騙。

3

轉(zhuǎn)發(fā)語(yǔ)音

騙子在盜取社交賬號(hào)后，便向其好友“借錢”，為取得對(duì)方的信任，他們會(huì)轉(zhuǎn)發(fā)之前的語(yǔ)音，進(jìn)而騙取錢款。

4

AI程序篩選受害人

騙子利用AI來(lái)分析公眾發(fā)布在網(wǎng)上的各類信息，根據(jù)所要實(shí)施的騙術(shù)對(duì)人群進(jìn)行篩選，在短時(shí)間內(nèi)便可生產(chǎn)出定制化的詐騙腳本，從而實(shí)施精準(zhǔn)詐騙。

AI技術(shù)能讓違法犯罪分子輕松“換臉變聲”，請(qǐng)注意“眼見”未必為實(shí)，教你如何辨別AI詐騙。

動(dòng)作驗(yàn)證法

當(dāng)視頻中對(duì)方（尤其是涉及轉(zhuǎn)賬、借錢等敏感要求時(shí)）顯得有點(diǎn)“怪”，別急著答應(yīng)。請(qǐng)對(duì)方做一個(gè)連貫的轉(zhuǎn)頭動(dòng)作，或者用手掌完全遮住臉再快速移開。目前的AI技術(shù)在模擬這些復(fù)雜的面部遮擋和光影變化時(shí)，容易出現(xiàn)卡頓、模糊或扭曲。

聲音細(xì)節(jié)辨真?zhèn)?/strong>

注意聽語(yǔ)音細(xì)節(jié)。AI生成的語(yǔ)音有時(shí)會(huì)缺乏自然的呼吸停頓、情感起伏，或者帶有輕微的機(jī)械感、背景雜音異常。如果對(duì)方聲音聽起來(lái)“不像平常”，務(wù)必提高警惕。

多渠道核實(shí)身份

這是最核心的一招！無(wú)論視頻、語(yǔ)音多么逼真，涉及金錢交易或敏感信息時(shí)，務(wù)必通過(guò)其它可靠途徑二次確認(rèn)。比如，掛斷后直接撥打?qū)Ψ匠Ｓ们夷闶煜さ碾娫捥?hào)碼（不要回?fù)芸梢蓙?lái)電號(hào)碼），或者通過(guò)你們共同認(rèn)識(shí)的第三人進(jìn)行側(cè)面核實(shí)。

核心口訣

“視頻語(yǔ)音莫輕信，動(dòng)作驗(yàn)證多核實(shí)！”——對(duì)可疑的視聽信息保持警惕，堅(jiān)持多渠道核實(shí)身份。

網(wǎng)警提醒

面對(duì)紛繁復(fù)雜的網(wǎng)絡(luò)信息

須持續(xù)提升辨別意識(shí)

涉及金錢往來(lái)的各類交易

應(yīng)始終保持高度警惕

不向陌生賬戶轉(zhuǎn)賬

不被 “高收益”“急用錢” 等說(shuō)辭迷惑

守好信息安全與財(cái)產(chǎn)安全

共同防范網(wǎng)絡(luò)風(fēng)險(xiǎn)

營(yíng)造一個(gè)真實(shí)可信的信息環(huán)境

素材 | 上海網(wǎng)警

投稿：白河公安

投稿分享：微信491985777