上海
本報訊近年來，人工智能技術的飛速發展正深刻改變著人們的日常生活。然而，一項技術的突破往往伴隨著新的風險——近日，一項關于"AI造圖"的熱點話題在網絡引發廣泛關注，不少網民表示"看完后背一涼"。
據了解，近期多起AI生成圖像的案例引發了公眾對技術安全性的擔憂。有網民向AI工具查詢事業編考試成績，竟收到了包含準確數據的"查分通道"；有人向豆包AI詢問"未來配偶畫像"，AI不僅能提供姓名、社會地位等詳細信息，甚至連聯系電話都能生成并打通。這些案例令不少人感到擔憂。
"恐怖谷"效應消失，AI生圖進化神速
過去人們總能在AI生成圖片中發現"AI味兒"——臉部表情僵硬、光影不自然、文字錯亂等明顯瑕疵。但如今，這些特征已幾乎消失。OpenAI最新發布的ChatGPT Images 2.0版本在生圖能力上取得重大突破，不僅能精準還原光影、指紋等細節，連文字排版、標點符號都準確無誤，乍一看與正常拍攝的照片別無二致。
更具警示意義的是AI偽造"集體記憶"的能力。一批"90年代小賣部"圖片在網絡上刷屏——老式木質貨架、健力寶、AD鈣奶、小浣熊干脆面，連照片的"紅眼瑕疵"都一一還原。然而幾天后，有人發現圖片中某個少年桌上的可樂罐包裝是2003年才上市的，才意識到這竟是AI憑空生成的"記憶"。
應用場景廣泛，風險不容小覷
據觀察，AI生圖技術已滲透到多個生活場景。有網民嘗試讓AI生成"廣州市小學數學試卷"，幾秒內就能生成包含宋體楷體混合排版、密封線等細節的完美試卷，甚至能用小猿搜題搜到答案。更有甚者，將一張馬斯克直播帶貨的圖片曝光后，才發現連臉上的胡渣、直播間燈光陰影都清晰可見——事實上，馬斯克當天正在發射火箭。
更令人擔憂的是身份偽造風險。有網友上傳自己的身份證照片，要求AI將人臉替換成庫克，AI不僅更換了人臉，還同步修改了姓名、出生日期及身份證號碼中的日期編碼。如果這類偽造證件被用于開戶、辦卡等場景，現有審核系統可能無法識別。
技術背后的推手與全球監管
業內人士分析，AI生圖之所以能取得如此突破，關鍵在于"喂"的素材指數級增長，以及AI從簡單的"拼貼工"進化為能理解世界的"創作者"。新一代AI在生成圖片前會先"思考"：分析需求、設計視覺邏輯、從海量素材庫中模仿生成。
值得注意的是，為應對技術風險，全球各國已啟動監管措施。西班牙規定，AI生成的圖像必須明確標識，違者最高可罰3500萬歐元或全球年營業額7%；歐盟AI法案于2025年2月正式生效，要求全生命周期標識；中國《標識辦法》也提出透明度要求。
眼見未必為實，警惕新時代"認知危機"
有專家警示："過去騙子要學心理學，現在騙子只需要學會用AI。"當"眼見為實"不再成立，公眾對圖像信息的信任面臨前所未有的挑戰。
面對這一技術浪潮，業界呼吁在享受便利的同時保持警惕。一方面，當圖片"過于完美"時應提高警惕，真實的生活往往充滿瑕疵；另一方面，加強行業自律與技術監管，方能確保技術向善。
業內人士表示："真正的贏家，只能屬于那些既能破局，又懂分寸的人。"這場關于AI的競賽，考驗的不僅是技術實力，更是對社會責任的擔當。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
