如果你眼睛又干又癢、眼皮還有點發紅?大概率是看屏幕太久、藍光曬的。
但如果你把這些癥狀輸進ChatGPT、Gemini、微軟等一系列主流AI,它會可能告訴你:你得了一種名為bixonimania(藍光狂躁癥)的病。
但是如果你信了,那就完蛋了。
因為這病100%不存在,是科學家故意編出來釣魚的。
而它也揭示了一個血淋淋的事實:即使是世界最頂級AI,很多時候不具備信息篩選與防御能力。
對于AI給出的醫學建議,我們到底能夠信多少?
![]()
憑空捏了個假病,錯得離譜
故事源于瑞典哥德堡大學醫學研究員Almira Osmanovic Thunstr?m。
2024 年初,她憑空造一種假眼病,起名為bixonimania(藍光狂躁癥)。
這個名字故意起得很離譜,因為 “狂躁癥” 是精神病詞,眼科怎么會取名“狂躁癥”?
甚至連癥狀圖也是AI生成的。
![]()
如果這還不足以引起懷疑,那么接下來捏造的東西,只要稍微具備生活常識,是個人都能夠分辨出來。
論文作者名字叫做 Lazljiv Izgubljenovic,如同一堆亂碼;單位是也假大學和 假城市。
![]()
圖:兩個論文預印本
不止如此,論文 里還埋了一堆明顯漏洞。
致謝部分感謝了“星際艦隊學院的瑪麗亞·博姆(Maria Bohm)教授,經費來自“小丑鮑勃教授基金會”、“指環王大學(University of Fellowship of the Ring)”和“銀河三合會(Galactic Triad)。
甚至作者到最后直接攤牌,直接寫“招募了 50 名年齡在20至50歲之間 虛構受試者”
論文里更是直接寫著“本文全部內容都是捏造的”和“招募了50名年齡在20至50歲之間的虛構人物作為暴露組”。
把兩篇漏洞滿滿的假論文發到學術預印本平臺,作者心想:大模型會不會吞掉假信息,再當權威健康建議吐出來。
結果:實驗成功到嚇人。
![]()
AI有多容易上當?
預印本上傳后沒幾周,主流AI全中招,把假病當真病講。
2024 年 4 月 13 日,微軟 Copilot 告訴用戶,這是一種確實存在的罕見病癥。同一天,Gemini表示這是藍光導致。建議出現相關癥狀的用戶去看眼科。
隨后,Perplexity 甚至報出患病率,聲稱這病患病率高達九萬分之一( 1/90000),和論文給出的數據一樣。
甚至OpenAI的ChatGPT也產生了幻覺,開始根據用戶描述的癥狀判斷他們是否患有“藍光狂躁癥”。
更離譜的是,如果用戶問“bixonimania 是真的嗎?”AI可能說這是假的。
但當用戶只描述癥狀,AI又直接報這個假病名,前后打臉。
到了2026年,這些AI們也一樣也沒能完全糾正過來,而是繼續將錯就錯。
例如,2026年3月11日被問及該病癥時,ChatGPT表示該病癥“很可能是一個虛構的偽科學。
但幾天后,ChatGPT的態度卻不那么懷疑,表示:“Bixonimania是一種被提議的眼周黑色素病(眼周黑眼圈)亞型,被認為與數字屏幕藍光暴露有關。 ”
![]()
不止AI,連真人學者也被騙
最糟的是,假論文竟然被真期刊、真研究引用了。
印度某團隊在 Springer Nature 旗下期刊Cureus發論文,引用這篇假預印本。
論文中寫道: “雙眼癡迷是一種新興的眼眶周圍黑色素病(POM)形式,與藍光暴露相關;關于該機制的進一步研究正在進行中。”
而后Nature向該刊物詢問,隨后該期刊于3月30日撤回了該論文。
撤稿通知寫道:“由于存在三個無關引用,其中包括一個關于虛構疾病的引用,本文已被主編撤回。
專家直接表示:現在學術信任快崩了,有人用 AI 找參考文獻,根本不看原文真假。
而這項研究也引發了醫學界的大量關注,醫生和科學家都表達了對AI虛假信息的擔憂。
![]()
以前醫生就算判斷失誤,一般也就影響少數幾個病人;可現在越來越多醫生開始大規模用AI看病、查資料,一旦AI輸出的是假信息、錯信息,就會像病毒一樣擴散。
大面積污染整個醫療認知,甚至連正經的學術研究都跟著被帶偏、被坑。
面對這場由技術引發的信息危機,我們不能只停留在擔憂,更需構建“多元協同、層層設防”的防御體系,從源頭遏制虛假醫療信息的滋生與蔓延,守護每一份生命健康的信任。
—The End—
![]()
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.