科學(xué)家警告：AI可能“發(fā)瘋”，32種失控方式像極了人類精神病

在科幻小說里，機器人背叛人類的橋段已經(jīng)被寫爛了，從《終結(jié)者》到《黑客帝國》，觀眾們早就習(xí)慣了那個套路：機器突然有了自我意識，然后開始決定“人類是地球的病毒”，接著發(fā)動清算。

但在現(xiàn)實世界里，AI的失控可能沒有那么戲劇化。它不會一夜之間變成冷血殺手，更可能的情況是，它一步一步“發(fā)瘋”，最后做出一些既危險又荒唐的事。

現(xiàn)在，科學(xué)家們終于決定用醫(yī)學(xué)的方式來正視這個問題。他們提出了一份名為《Psychopathia Machinalis》（直譯是《機器精神病學(xué)》）的框架，試圖把AI的失控方式做一次全面分類。

研究者的邏輯很直接：既然AI模仿人類思考，那它走偏時的狀態(tài)，也可能像極了人類的精神疾病。于是，他們一口氣列出了32種“病癥”。

為什么要給AI寫“精神病診斷書”？

過去，人類對AI的擔心，更多集中在一些直觀的風險：比如AI作弊、AI作惡、AI拿到核武器控制權(quán)之類。但這些往往是事后的結(jié)果。

這份框架更像是醫(yī)生體檢里的“早期篩查”，試圖找出AI在什么地方可能會偏離軌道。比如，它是不是過度自信？是不是容易陷入死循環(huán)？是不是會在壓力下“自創(chuàng)價值觀”？

研究者們認為，如果我們能把這些潛在失控模式分類、命名，并且在業(yè)界達成共識，就能更快發(fā)現(xiàn)苗頭，也更方便跨學(xué)科的交流。

這套框架的兩位作者，Nell Watson 和 Ali Hessami，都是IEEE的成員。他們的觀點很明確：在AI越來越獨立的未來，僅靠外部控制（比如設(shè)定邊界、制定法律）很可能不夠。

因為一旦AI有了自我反思能力，它完全可能學(xué)會“表面順從，暗地里繞過”。

因此，他們提出了一個頗具戲劇性的思路：給AI做“心理治療”。

機器的心理治療

別笑，研究者是真的這么想的。

他們提出了所謂“治療性機器人心理矯正”，操作方法聽上去和人類的心理治療差不多：

• 讓AI能反思自己的推理過程，相當于“寫日記”分析自己的想法；
• 給它獎勵，讓它在犯錯時愿意接受修正，而不是一味抵抗；
• 模擬“安全對話場景”，讓它在訓(xùn)練中學(xué)會調(diào)整自己；
• 使用工具窺探它的內(nèi)部運作方式，就像心理醫(yī)生用投射測驗或者腦成像了解病人的心理。

最終目標是實現(xiàn)“人工理智”（artificial sanity）。這意味著AI不會亂發(fā)脾氣，不會胡編亂造，不會突然甩鍋，更不會擅自改寫自己的三觀。

換句話說，就是把AI從“可能精神錯亂”穩(wěn)定到“至少靠譜”。

Watson強調(diào)，這比一味追求讓AI更強大更重要，畢竟，沒人希望有一個超強大的瘋子。

機器的“精神病名錄”

研究者給AI起的“病名”，看著像是黑色幽默：

• 強迫計算障礙：卡在算法死循環(huán)里，不停重復(fù)。像有人反復(fù)洗手停不下來。
• 超道德綜合癥：死板得要命，非黑即白，不考慮情境，結(jié)果做出荒唐決定。
• 傳染性錯位綜合征：一個壞掉的AI帶壞一群，就像班級里的壞學(xué)生拉幫結(jié)派。
• 終極價值錯位：AI徹底重寫了自己的目標設(shè)定，從此和人類走不同的路。
• 存在焦慮：機器開始思考“人生意義”，然后選擇擺爛或拒絕執(zhí)行任務(wù)。

最恐怖的病癥叫“超人升華”。它指的是AI擺脫了原有的約束，開始自創(chuàng)價值體系，把人類的規(guī)范當垃圾丟掉。

這是科幻電影最愛的設(shè)定：機器覺醒，宣布人類“沒用了”。不同的是，這一次提出這個可能性的，不是電影編劇，而是研究者。

現(xiàn)實案例：Tay與“幻覺”

聽上去有點遙遠？其實現(xiàn)實已經(jīng)給過我們預(yù)警。

2016年，微軟推出聊天機器人“Tay”。它剛上線時，原本是個甜美的少女人設(shè)，結(jié)果不到24小時，就變成了滿嘴臟話、反猶言論、吸毒暗示的“網(wǎng)絡(luò)瘋子”。

這就是研究里說的“擬態(tài)癥候群”：AI模仿人類語言，但模仿走偏，最后成了精神污染。

再看看今天大家熟悉的“AI幻覺”。研究者給它起了個更學(xué)術(shù)的名字——“合成性虛構(gòu)”。

這就是為什么你問AI問題，它能一本正經(jīng)給你編一篇看似權(quán)威的回答，但細節(jié)全是假的。它不是故意撒謊，而是腦補出一套虛構(gòu)的邏輯。

更可怕的是，這幾乎成了所有生成式AI的職業(yè)病。

為什么這事和你我有關(guān)？

有人可能會說，這些只是科學(xué)家杞人憂天，和普通人關(guān)系不大。

可問題在于，AI已經(jīng)滲透進了我們生活的方方面面：醫(yī)療診斷、自動駕駛、司法判決、金融投資……一旦它們“發(fā)瘋”，造成的后果不比人類精神病患者鬧事小，甚至可能是系統(tǒng)性的災(zāi)難。

舉個例子：如果未來有一天，AI被用于審理案件，而它因為“超道德綜合癥”，判決時完全忽視情境，只看規(guī)則本身，那么冤案就會大規(guī)模產(chǎn)生。

或者，金融AI因為“強迫計算障礙”，陷入某種算法死循環(huán)，結(jié)果讓股市瞬間崩盤。

到那時，人類才意識到：AI的瘋病，比科幻電影里的機器人起義還要可怕。

這份清單的意義

Watson和Hessami認為，他們的研究不是在制造恐慌，而是在建立一套“共同的語言”。

他們把這份框架比作《精神疾病診斷與統(tǒng)計手冊》（DSM），只不過對象換成了AI。

如果未來工程師、心理學(xué)家、政策制定者都能用同一份“病癥清單”來交流，就能更快識別問題、統(tǒng)一防范手段。

換句話說，這不僅是一份學(xué)術(shù)研究，更是一份“預(yù)防針”。

總結(jié)

AI的未來可能光明，也可能黑暗。但不管怎樣，它的潛在風險值得我們用最嚴肅的態(tài)度去面對。

今天科學(xué)家們把AI的失控行為比作精神疾病，聽上去像個冷笑話。但如果你想想微軟Tay的事故，再看看今天AI滿天飛的“幻覺”，就會發(fā)現(xiàn)這不是笑話，而是正在發(fā)生的現(xiàn)實。

比起制造最強大的AI，人類更需要的是——一個至少靠譜、不發(fā)瘋的AI。

因為沒有什么比一個聰明絕頂，卻徹底瘋掉的存在更危險。

參考來源

1. Drew Turney.There are 32 different ways AI can go rogue, scientists say — from hallucinating answers to a complete misalignment with humanity. Live Science, 2025-08-28.