AI太可怕，央視曝光，視頻通話也能造假了，我們還能相信什么

央視前兩天報(bào)了一條消息，看完我愣了好一會(huì)兒。

新一代AI換臉技術(shù)，只需要一張照片，就能在實(shí)時(shí)視頻通話中完成換臉。延遲是毫秒級(jí)的。表情跟得上，嘴型對(duì)得上，頭動(dòng)、眨眼、皺眉，全都自然到你盯著看都不一定能發(fā)現(xiàn)問(wèn)題。

一張照片。實(shí)時(shí)的。毫秒級(jí)。

我反復(fù)確認(rèn)了三遍，不是預(yù)先錄好的視頻，不是后期處理的素材，是正在進(jìn)行的視頻通話里，對(duì)面那個(gè)人的臉，可以是任何人的臉

這事兒的恐怖程度，很多人可能還沒(méi)反應(yīng)過(guò)來(lái)。

這不是科幻片的橋段

兩三年前DeepFake剛出來(lái)的時(shí)候，大家的反應(yīng)更多是獵奇。換臉視頻糊得一塌糊涂，光線一變臉就扭曲，嘴巴和聲音永遠(yuǎn)差那么零點(diǎn)幾秒。那時(shí)候大家覺(jué)得，哦，挺好玩的，但一眼就能看出來(lái)是假的。

后來(lái)AI語(yǔ)音合成跟上了。去年有不少案例，騙子用AI克隆家人的聲音打電話，說(shuō)急事要轉(zhuǎn)賬，有人真的被騙走了幾十萬(wàn)上百萬(wàn)。那時(shí)候大家開始慌了，但還留著一個(gè)底線的安全感。

• 沒(méi)事，打個(gè)視頻確認(rèn)一下就行了。視頻總不能造假吧？

現(xiàn)在這條底線也沒(méi)了。

你想想這個(gè)場(chǎng)景。你媽給你打視頻電話，畫面里就是她的臉，她的表情，她說(shuō)話的節(jié)奏，她跟你聊了兩分鐘家常，然后說(shuō)最近身體不太好，需要一筆錢做檢查。你會(huì)懷疑嗎？

大概率不會(huì)。

因?yàn)槲覀儙浊陙?lái)建立的信任體系，最底層的一條就是「眼見為實(shí)」。聲音可以模仿，文字可以偽造，但一個(gè)活生生的人出現(xiàn)在你面前，臉對(duì)臉地跟你說(shuō)話，這是人類認(rèn)知系統(tǒng)里最后的錨點(diǎn)。

現(xiàn)在這個(gè)錨點(diǎn)被拔掉了。

造假這件事，一直在升級(jí)

回頭看，這條路走得其實(shí)挺清晰的。

九十年代Photoshop普及，修個(gè)照片就能上報(bào)紙頭條，鬧出過(guò)不少假新聞。后來(lái)大家學(xué)聰明了，開始看EXIF信息、查像素邊緣，各種鑒偽工具跟上來(lái)了。

再后來(lái)是音頻。錄音剪輯、變聲器、AI語(yǔ)音合成，一步步迭代。每次造假技術(shù)升級(jí)，檢測(cè)手段就追著跑，追上了，消停一陣子，然后新的造假方式又冒出來(lái)。

這是一個(gè)螺旋。造假，防偽，再造假，再防偽。

但這次不太一樣。

之前每次升級(jí)，至少有一個(gè)「退路」。照片假了看視頻，音頻假了打視頻。每次都還有一個(gè)更高維度的驗(yàn)證方式兜底。

實(shí)時(shí)視頻換臉把這個(gè)退路堵死了。你往哪退？總不能說(shuō)，以后確認(rèn)身份得線下見面，還得捏一下對(duì)方的臉看看是不是硅膠面具吧。

說(shuō)到硅膠面具……算了不展開了，再說(shuō)就成恐怖片了。

誰(shuí)在開心，誰(shuí)在倒霉

有意思的是，圍繞這個(gè)技術(shù)，不同人的利益完全不一樣。

造假者是最直接的受益方。詐騙門檻斷崖式下降，以前搞一個(gè)換臉視頻要專業(yè)設(shè)備、要算力、要時(shí)間，現(xiàn)在一張照片加一個(gè)工具就夠了。勒索、造謠、偽造證據(jù)、生成不雅內(nèi)容，每一條都是真金白銀的灰色產(chǎn)業(yè)。

平臺(tái)方的處境很微妙。一方面它們?cè)诩夹g(shù)競(jìng)賽里推動(dòng)著這些能力的進(jìn)步，另一方面又不得不承擔(dān)內(nèi)容審核的壓力。這里面的矛盾，大家都心知肚明，我就不多說(shuō)了。

普通人是最慘的。隱私風(fēng)險(xiǎn)加大了，財(cái)產(chǎn)風(fēng)險(xiǎn)加大了，但最要命的是一個(gè)隱性成本的飆升——信任成本

以后每接一個(gè)視頻電話，你腦子里可能都要先閃過(guò)一個(gè)念頭，這人是真的嗎？

跟朋友、跟家人、跟同事，每一次視頻溝通都多了一層懷疑。這種懷疑不需要真的遇到騙子才產(chǎn)生，光是「知道這個(gè)技術(shù)存在」就夠了。

這才是最大的傷害。

法律和技術(shù)檢測(cè)呢？

坦率講，跟不上。

現(xiàn)在的監(jiān)管框架還在處理上一代的問(wèn)題。AI生成內(nèi)容的標(biāo)注、深度偽造的法律認(rèn)定、受害者的舉證責(zé)任……每一項(xiàng)都還在討論階段。而技術(shù)這邊，毫秒級(jí)換臉意味著實(shí)時(shí)檢測(cè)的難度是指數(shù)級(jí)上升的，你總不能讓每個(gè)視頻通話都先過(guò)一遍AI鑒偽系統(tǒng)吧。就算能，延遲和隱私問(wèn)題又是新的坑。

有人可能會(huì)說(shuō)，以前每次技術(shù)升級(jí)，最后不都追上了嗎？

沒(méi)錯(cuò)。但追上的那段空窗期里，倒霉的都是普通人。

而且這次的空窗期可能格外長(zhǎng)，因?yàn)樯墒紸I的進(jìn)化速度，和之前任何一代造假技術(shù)都不在一個(gè)量級(jí)上。PS迭代是按年算的，DeepFake迭代是按月算的，現(xiàn)在這些實(shí)時(shí)換臉模型的迭代，按周算都不夸張。

檢測(cè)技術(shù)跑得再快，它的邏輯是「找破綻」。但當(dāng)破綻越來(lái)越少、越來(lái)越細(xì)微，找破綻這件事本身就在逼近極限。

真正讓人不安的，不是技術(shù)

我一直在想，為什么這條新聞讓我的不適感比以往任何一次AI進(jìn)步的新聞都強(qiáng)。

不是因?yàn)樗茯_錢。騙錢的手段一直都有，電信詐騙也不是新鮮事。

是因?yàn)樗鼊?dòng)搖的東西太根本了。

人和人之間的信任，是一層一層搭起來(lái)的。文字信任、聲音信任、面對(duì)面的信任。每一層都對(duì)應(yīng)著一種確認(rèn)「對(duì)方是真人」的方式。現(xiàn)在這些層一層層被擊穿，我們?cè)谡J(rèn)知上就會(huì)進(jìn)入一種很難受的狀態(tài)。

心理學(xué)上有個(gè)說(shuō)法叫「基本信任感」，是人格發(fā)展最早期形成的東西。嬰兒通過(guò)和養(yǎng)育者的互動(dòng)建立起「世界大體上是安全的、可預(yù)測(cè)的」這個(gè)基本假設(shè)。所有后續(xù)的社會(huì)關(guān)系都建立在這個(gè)假設(shè)之上。

• 當(dāng)眼見不再為實(shí)，這個(gè)假設(shè)就裂了一條縫。

你不需要真的被騙過(guò)，光是「你看到的任何人臉都可能不是本人」這個(gè)認(rèn)知，就足以改變你和整個(gè)世界打交道的方式。

更警惕。更懷疑。更疲憊。

這種狀態(tài)有個(gè)很難聽的名字，叫泛化的不信任。原本只需要對(duì)陌生來(lái)電保持警惕，現(xiàn)在連熟人視頻都要打問(wèn)號(hào)。信任的默認(rèn)值從「先相信」變成了「先懷疑」。

一個(gè)社會(huì)的信任默認(rèn)值一旦翻轉(zhuǎn)，所有的交易成本、溝通成本、情感成本都會(huì)飆升。這筆賬沒(méi)人算得過(guò)來(lái)。

我沒(méi)有解決方案

寫到這里我得老實(shí)說(shuō)，我不知道怎么辦。

有人說(shuō)靠技術(shù)反制，搞數(shù)字水印、搞活體檢測(cè)、搞區(qū)塊鏈身份認(rèn)證。這些方向都對(duì)，但哪個(gè)都不是短期能鋪開的。有人說(shuō)靠法律嚴(yán)懲，判例確實(shí)在出，但立法永遠(yuǎn)是事后的。有人說(shuō)靠教育，讓大家提高防范意識(shí)。這話沒(méi)錯(cuò)，但你讓一個(gè)六十多歲的老人去判斷視頻通話里的子女是不是AI生成的，這現(xiàn)實(shí)嗎？

我能想到的最誠(chéng)實(shí)的建議，可能就是跟家人約一個(gè)暗號(hào)。一個(gè)只有你們知道的詞，或者一個(gè)奇怪的問(wèn)題，視頻通話里先確認(rèn)一下。

很土。但可能有用。

AI越真，世界越假。

當(dāng)連視頻通話都不能信了，我們丟掉的不是某一項(xiàng)技術(shù)的可靠性，是人和人之間那層薄薄的、脆弱的、本來(lái)就不太經(jīng)得起折騰的信任。

昨天刷到一條評(píng)論，有個(gè)人說(shuō)，“以后我媽給我打視頻，我得先讓她轉(zhuǎn)三個(gè)圈我才信是她。”

底下一堆哈哈哈。

但笑完之后，沒(méi)人接話了。