北京
來源：科技日報
記者：張佳欣
美國西奈山伊坎醫學院一項最新研究發現，無論是放射科醫生還是多模態大語言模型（LLM），都難以輕易區分由人工智能（AI）生成的深度偽造X光影像與真實醫學影像。研究人員表示，這一發現凸顯了AI生成醫學影像可能帶來的醫療安全與網絡安全風險。相關論文發表于最新一期《放射學》雜志。
圖片來源：pixabay
“深度偽造”是指看似真實但實際上由AI生成或篡改的視頻、照片、圖像或音頻。AI生成的X光片真實度極高，能以假亂真，可能被用于醫療欺詐，例如偽造骨折影像用于訴訟取證。如果黑客入侵醫院系統并植入合成醫學影像，還可能篡改診斷結果，甚至破壞電子病歷系統的可信度。
在這項回顧性研究中，來自美國、法國、德國、土耳其、英國和阿聯酋6個國家12家醫療中心的17名放射科醫生參與測試。研究共分析264張X光影像，分為兩組：第一組數據包含多個解剖部位的真實影像以及由ChatGPT生成的影像；第二組數據為胸部X光片，其中一半為真實影像，另一半由斯坦福醫學院研究人員開發的開源生成式AI擴散模型RoentGen生成。
結果顯示，在未被告知研究目的的情況下，僅有41%的醫生主動識別出AI生成圖像。在明確告知后，醫生區分真實與偽造影像的平均準確率為75%。
與此同時，GPT-4o（OpenAI）、GPT-5（OpenAI）、Gemini 2.5 Pro（谷歌）以及Llama 4 Maverick（Meta）四種多模態大模型也進行了識別測試，其準確率在57%—85%之間。即便是參與生成這些深度偽造影像的GPT-4o模型本身，也無法識別全部偽造影像。
研究人員總結稱，AI生成的醫學影像往往存在一些“過于完美”的特征，例如骨骼表面過于光滑、脊柱過直、肺部過度對稱、血管分布過于均勻，以及骨折斷面異常整齊等。
為降低風險，研究團隊建議，應在醫學影像中嵌入不可見數字水印、增加加密簽名等技術手段，以防止影像被篡改，同時加強醫學影像AI鑒別能力培訓。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
