大家好,我是毯叔
昨天我在群里看到圖1,嚇了一跳:馬斯克咋突然來中國帶貨老干媽了?
后來經人提醒,才明白過來,原來這是用GPT新出的Images 2.0模型生成的AI圖片!
怪就怪這圖太逼真,馬斯克臉上的胡渣,直播間打光的陰影,背后的中文牌標識,全都清晰可見,讓人不敢不信
其實,前陣子Image 2模型剛出來的時候,我就第一時間用上了,做課程海報,做信息圖,極大提升了工作效率,不服不行
但最近看到越來越多imgae2產出的圖時,我開始產生一種擔心
大家看下圖2,有人把自己的身份證上傳給GPT-Image2,要求“把人臉換成庫克”,結果就誕生了一張嶄新的“蒂姆·庫克身份證”
多想一步,如果“身份證”能被輕易偽造,而它可以直接用來開戶、辦卡、注冊公司,后果會是什么樣?
給大家推演一個場景:你在大城市上班,父母在老家
一天,你媽手機收到陌生人消息,對方說是你同事,發來幾張圖:你躺急救擔架上,有血,醫護人員圍著,加一張模糊病房走廊
消息說:你出嚴重車禍,已推進手術室,手術費需立刻打款,等不了。還發來你身份證照片
你媽一看,有圖有真相,自己孩子!會慌嗎?馬上打錢?
大概率會!
不止老人。這幾天有個朋友跟我說,他差點被截圖騙——對方偽造轉賬記錄截圖,說已先打款給他,讓他發貨。要不是多核實一步,貨就損失了。
用AI圖片詐騙新聞這幾年不少,但GPT Image 2出來后,這類圖片逼真程度又上大臺階。我開始擔心,被騙錢的人可能又要多了……
所以,昨晚我趕緊給我媽打電話。囑咐她,若有人以我名義要錢,不管對方發什么圖片,多緊急,第一件事打我電話,開視頻,親自核實
對年輕朋友,這個原則同樣適用
當然,只靠個人防范,終究被動
這件事往大了想,監管層面遲早跟上
接下來幾件事必須推進:
一、平臺層面:AI生成內容須強制水印或元數據標記,讓圖片可溯源。
二、司法層面:AI偽造內容用于詐騙須有明確罪名和量刑標準,不能再套老條文。
三、公眾教育層面:"圖片不等于證據"要像當年普及網絡詐騙,進學校、進社區、進老年大學
這些不是在喊口號,是必須要推的事
技術一旦跑起來,沒有規矩,受傷的永遠是最不了解技術的那群人
而那群人,是我們的父母、我們的兄弟姐妹,以及我們自己…
最后,大家+我好友領《普通人0~100w秘籍》,里面有我整理的財富避坑內容
![]()
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.