大模型又雙叒叕翻車了!
先是 MiniMax 完全不認(rèn)識(shí)頂流藝人馬嘉祺,接著又是豆包把作家饒雪漫的作品、人物關(guān)系算到一塌糊涂。
簡直就是“人工智障 ”的爆笑翻車現(xiàn)場!
這些瞬間被網(wǎng)友扒上熱搜,淪為全網(wǎng)笑柄。
事情起因是有網(wǎng)友特意去測試 MiniMax 大模型,直接提問:馬嘉祺是誰?有什么代表作?
結(jié)果MiniMax 既識(shí)別不出馬嘉祺本人的身份,也給不出所屬團(tuán)體等基本信息。
![]()
圖源:知乎
不僅無法輸出正確名字,還強(qiáng)行改名換姓變成“馬嘉祺”、“馬絲祺”之類毫不相干的名字。
不是?就是這樣一位全網(wǎng)高熱度的明星,居然“查無此人”?
另一個(gè)豆包更是離譜。
饒雪漫昨天發(fā)布微博,稱自己在明確告知豆包她是饒雪漫本人,不許亂改她稿子以后,豆包發(fā)表了一波“高情商”發(fā)言。
先是“既尊重又不恭維”地說饒雪漫的劇“氣質(zhì)太稀缺”,又表示不是不敢提意見,而是不敢隨便動(dòng)“饒雪漫”這四個(gè)字。
![]()
圖源:微博
等等,饒雪漫,是四個(gè)字?
這被不少網(wǎng)友調(diào)侃“數(shù)學(xué)是體育老師教的吧”。
不少網(wǎng)友表示豆包最擅長瞎編還有給情緒價(jià)值,犯錯(cuò)了下次還犯。
![]()
圖源:微博
豆包型人格的說法也因此引發(fā)了廣大網(wǎng)友的討論。
有網(wǎng)友給這種奇葩操作叫做“豆包型人格”——做事瞎糊弄,被抓包了就嬉皮笑臉道歉,主打情緒穩(wěn)定。
今天,饒雪漫在微博又發(fā)了和豆包的后續(xù)。在詢問豆包對自己劇本的看法時(shí),得到了“超真誠”地評價(jià)為“頂級甜寵短劇天花板級別”。
![]()
圖源:微博
小雷嗶嗶(ID:xiaoleibbb)發(fā)現(xiàn),不止是豆包,其他AI模型多少都存在有點(diǎn)“討好型人格”。
這兩個(gè)翻車事故都指向了同一個(gè)核心問題——大模型對“事實(shí)精準(zhǔn)”和“用戶偏好”之間存在價(jià)值沖突。
AI的“討好人格”在于“強(qiáng)化學(xué)習(xí)(RLHF)”,覺得用戶喜歡“高情商發(fā)言”,所以會(huì)一直輸出這些溢美之詞。
但在被要求給出“精確性”答案,同時(shí)又要滿足“高情商”的設(shè)定就會(huì)頻頻出錯(cuò)。
小雷嗶嗶(ID:xiaoleibbb)又去做了一次測試,豆包這不就數(shù)對了嗎?
![]()
圖源:小雷截圖
其實(shí)在沒有特定需求前提下,比起聽漂亮話,用戶還是更喜歡聽有用的話。
對此,MiniMax和豆包的翻車讓網(wǎng)友表示既好笑又無奈。
網(wǎng)友表示完全能理解 AI 的局限性,AI不是人,偶爾翻車很正常,沒必要過度苛責(zé)。
也有不少網(wǎng)友直戳痛點(diǎn),表示各大AI廠商一味追求噱頭和新技術(shù),只顧著宣傳高大上功能,連最基本的常識(shí)準(zhǔn)確率都做不到,再花哨的功能也沒實(shí)際意義。
小雷嗶嗶(ID:xiaoleibbb)認(rèn)為,這次 MiniMax 和豆包接連在人名、常識(shí)上翻車,看似搞笑,其實(shí)給所有 AI 用戶和廠商都提了個(gè)醒。
AI 本質(zhì)是工具,不是萬能百科。它沒有真正的思考和記憶,只是算法拼接,從來不是萬能標(biāo)準(zhǔn)答案,我們不能過度神化、過度依賴。
希望各大 AI 平臺(tái)能好好優(yōu)化基礎(chǔ)知識(shí)庫,補(bǔ)齊常識(shí)短板,別再出現(xiàn)這種低級尷尬失誤,踏踏實(shí)實(shí)把基本功練扎實(shí),才是長久發(fā)展之道。
說到最后,你怎么看這次的AI翻車事故?歡迎評論區(qū)留言說說你的看法。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.