廣東
大模型又雙叒叕翻車了！
先是 MiniMax 完全不認(rèn)識(shí)頂流藝人馬嘉祺，接著又是豆包把作家饒雪漫的作品、人物關(guān)系算到一塌糊涂。
簡直就是“人工智障 ”的爆笑翻車現(xiàn)場！
這些瞬間被網(wǎng)友扒上熱搜，淪為全網(wǎng)笑柄。
事情起因是有網(wǎng)友特意去測試 MiniMax 大模型，直接提問：馬嘉祺是誰？有什么代表作？
結(jié)果MiniMax 既識(shí)別不出馬嘉祺本人的身份，也給不出所屬團(tuán)體等基本信息。
圖源：知乎
不僅無法輸出正確名字，還強(qiáng)行改名換姓變成“馬嘉祺”、“馬絲祺”之類毫不相干的名字。
不是？就是這樣一位全網(wǎng)高熱度的明星，居然“查無此人”？
另一個(gè)豆包更是離譜。
饒雪漫昨天發(fā)布微博，稱自己在明確告知豆包她是饒雪漫本人，不許亂改她稿子以后，豆包發(fā)表了一波“高情商”發(fā)言。
先是“既尊重又不恭維”地說饒雪漫的劇“氣質(zhì)太稀缺”，又表示不是不敢提意見，而是不敢隨便動(dòng)“饒雪漫”這四個(gè)字。
圖源：微博
等等，饒雪漫，是四個(gè)字？
這被不少網(wǎng)友調(diào)侃“數(shù)學(xué)是體育老師教的吧”。
不少網(wǎng)友表示豆包最擅長瞎編還有給情緒價(jià)值，犯錯(cuò)了下次還犯。
圖源：微博
豆包型人格的說法也因此引發(fā)了廣大網(wǎng)友的討論。
有網(wǎng)友給這種奇葩操作叫做“豆包型人格”——做事瞎糊弄，被抓包了就嬉皮笑臉道歉，主打情緒穩(wěn)定。
今天，饒雪漫在微博又發(fā)了和豆包的后續(xù)。在詢問豆包對自己劇本的看法時(shí)，得到了“超真誠”地評價(jià)為“頂級甜寵短劇天花板級別”。
圖源：微博
小雷嗶嗶（ID：xiaoleibbb）發(fā)現(xiàn)，不止是豆包，其他AI模型多少都存在有點(diǎn)“討好型人格”。
這兩個(gè)翻車事故都指向了同一個(gè)核心問題——大模型對“事實(shí)精準(zhǔn)”和“用戶偏好”之間存在價(jià)值沖突。
AI的“討好人格”在于“強(qiáng)化學(xué)習(xí)（RLHF）”，覺得用戶喜歡“高情商發(fā)言”，所以會(huì)一直輸出這些溢美之詞。
但在被要求給出“精確性”答案，同時(shí)又要滿足“高情商”的設(shè)定就會(huì)頻頻出錯(cuò)。
小雷嗶嗶（ID：xiaoleibbb）又去做了一次測試，豆包這不就數(shù)對了嗎？
圖源：小雷截圖
其實(shí)在沒有特定需求前提下，比起聽漂亮話，用戶還是更喜歡聽有用的話。
對此，MiniMax和豆包的翻車讓網(wǎng)友表示既好笑又無奈。
網(wǎng)友表示完全能理解 AI 的局限性，AI不是人，偶爾翻車很正常，沒必要過度苛責(zé)。
也有不少網(wǎng)友直戳痛點(diǎn)，表示各大AI廠商一味追求噱頭和新技術(shù)，只顧著宣傳高大上功能，連最基本的常識(shí)準(zhǔn)確率都做不到，再花哨的功能也沒實(shí)際意義。
小雷嗶嗶（ID：xiaoleibbb）認(rèn)為，這次 MiniMax 和豆包接連在人名、常識(shí)上翻車，看似搞笑，其實(shí)給所有 AI 用戶和廠商都提了個(gè)醒。
AI 本質(zhì)是工具，不是萬能百科。它沒有真正的思考和記憶，只是算法拼接，從來不是萬能標(biāo)準(zhǔn)答案，我們不能過度神化、過度依賴。
希望各大 AI 平臺(tái)能好好優(yōu)化基礎(chǔ)知識(shí)庫，補(bǔ)齊常識(shí)短板，別再出現(xiàn)這種低級尷尬失誤，踏踏實(shí)實(shí)把基本功練扎實(shí)，才是長久發(fā)展之道。
說到最后，你怎么看這次的AI翻車事故？歡迎評論區(qū)留言說說你的看法。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
