?辛丑條約變辛不好看條約？AI這次翻車讓人笑噴

最近，科技圈發(fā)生了一件讓人哭笑不得的翻車事件。有網(wǎng)友興沖沖地讓AI模型豆包生成關(guān)于辛丑條約的內(nèi)容，結(jié)果大模型一本正經(jīng)地甩出了一個(gè)辛不好看條約。

看著屏幕上這四個(gè)字，屏幕前的你是不是瞬間笑出聲？有人感嘆AI的人工智障程度又刷新了下限，也有人調(diào)侃這是AI在用某種幽默來消解嚴(yán)肅歷史。但如果你真的去探究背后的邏輯，會發(fā)現(xiàn)這其實(shí)是一場由漢字簡化遺留問題、模型訓(xùn)練盲區(qū)與技術(shù)架構(gòu)隔閡共同組成的完美風(fēng)暴。

丑與醜的千古誤會

首先，我們要為那個(gè)被簡化了的丑字鳴個(gè)不平。

在繁體字的世界里，十二地支的丑和長得不好看的醜，是兩個(gè)完全不同的符號，有著涇渭分明的語義。但在簡體字推行過程中，為了書寫便利，我們將這兩個(gè)完全不相干的字合并在了一起。

這就給AI挖了一個(gè)巨大的坑。

當(dāng)大模型在閱讀海量的互聯(lián)網(wǎng)數(shù)據(jù)進(jìn)行訓(xùn)練時(shí)，它并不真正理解人類的文化背景。它看到的只是概率——辛后面跟著丑，模型根據(jù)概率分布，可能會傾向于將丑解釋為它訓(xùn)練庫中最常見的含義，即不好看。這就是所謂的同音合并后遺癥，在這個(gè)語境下，AI不僅沒能理解歷史的凝重，反而因?yàn)檎Z言簡化造成的歧義，一頭撞進(jìn)了語義陷阱。

你以為AI在看？它只是個(gè)傳聲筒

這件事最值得深思的，其實(shí)是很多人對AI工作原理的誤解。

很多人覺得，AI就像一個(gè)飽讀詩書的學(xué)霸，你讓它畫什么，它就憑著自己的腦子畫出什么。于是，當(dāng)看到辛不好看條約時(shí)，大家會覺得：天吶，這個(gè)AI居然敢這樣理解歷史！

但真相遠(yuǎn)比你想象的更冰冷。

現(xiàn)在的AI并不是一個(gè)全能的個(gè)體，它更像是一個(gè)分包商。簡單來說，負(fù)責(zé)和你聊天的語言模型，本身壓根不知道自己生成了什么圖片。它的工作流程是這樣的：你發(fā)送指令；語言模型解析你的指令，并將其轉(zhuǎn)換成一套提示詞；提示詞被打包發(fā)送到另一個(gè)專門負(fù)責(zé)生成圖片的模型中；圖片生成好后，原路返回顯示在你的屏幕上。

在這個(gè)過程中，語言模型只是一個(gè)搬運(yùn)工。它根本沒有視覺去審查那張圖上寫了什么，也沒有歷史常識去糾錯(cuò)。所以，當(dāng)它生成了荒謬的內(nèi)容時(shí)，它依然能保持一副死不認(rèn)錯(cuò)的冷靜，因?yàn)樵谒磥恚皇峭瓿闪怂闹噶铈湣颜埱髠鞒鋈ィ呀Y(jié)果帶回來。

停止腦補(bǔ)AI的智慧

這起事件其實(shí)也是給所有人敲響了一個(gè)警鐘：不要用人類的思維去揣測AI。

我們總是習(xí)慣于將AI人格化，認(rèn)為它會撒謊，會嘴硬，會調(diào)皮。但其實(shí)，AI的每一次出錯(cuò)，都是其底層算法、數(shù)據(jù)集偏見、模型架構(gòu)缺陷的客觀體現(xiàn)。它沒有立場，沒有情緒，更沒有所謂的故意。

所謂的死不認(rèn)錯(cuò)，不過是模型生成文本時(shí)的概率偏差——如果模型被設(shè)定為對話輔助模式，它往往會傾向于維持對話的連續(xù)性，哪怕那個(gè)連續(xù)性是基于錯(cuò)誤的起點(diǎn)。

技術(shù)發(fā)展的速度很快，但技術(shù)的局限性依然客觀存在。不管是針對辛丑條約的誤解，還是其他領(lǐng)域的翻車，這些現(xiàn)象都在提醒我們：AI是工具，不是神明。

在依賴AI獲取信息或處理任務(wù)時(shí)，保持審慎的人類思維至關(guān)重要。畢竟，AI可以幫你畫出一張圖，可以幫你總結(jié)一篇文章，但它目前還無法承擔(dān)起歷史和真相的重任。

下次再見到AI一本正經(jīng)地胡說八道時(shí)，別急著生氣，把它當(dāng)成一次對技術(shù)本質(zhì)的窺探吧。畢竟，那個(gè)辛不好看條約，正是人類文明在數(shù)字化轉(zhuǎn)型過程中，留下的一道獨(dú)特的注腳。