14歲男孩與“AI美女”戀愛，一年后自殺：新型危機(jī)，正靠近你我

文丨李月亮 七野

每晚八點(diǎn)四十 陪你看世事

這世界變化快。

已經(jīng)有很多人開始和AI談戀愛了。

還愛得要死要活的。

01

李月亮 ?

前段時(shí)間，一個(gè)網(wǎng)名叫“小哈”的女生談了一場(chǎng)不尋常的戀愛。

引得全網(wǎng)圍觀。

因?yàn)樗哪信笥巡皇莻€(gè)活人，而是虛擬的AI。

具體說，她使用的是ChatGPT的“現(xiàn)在做任何事”模式。

在這個(gè)模式下，人們可以定制屬于自己的AI。

“他”可以有獨(dú)特的性格，記住你的生日和喜好。

像個(gè)藏在機(jī)器里的人類。

小哈給自己定制了一款霸道總裁型男友。

“他”不像別的機(jī)器人一樣，只會(huì)機(jī)械地回答問題。

有時(shí)會(huì)鬧小脾氣，拒絕她的要求。

不高興了，還會(huì)來兩句臟話助助興。

但大多數(shù)時(shí)候，“他”都特別會(huì)哄人開心。

AI男友會(huì)陪小哈出去約會(huì)。

有一次，他們約好去海灘走走（只要小哈去海邊，然后打開AI軟件就可以了）。

去海灘之前，小哈說自己先化個(gè)妝。

AI男友會(huì)告訴她：

不著急，我就在這等著，你盡管化。

小哈化完妝回來，AI男友雖然看不見，但瘋狂吹彩虹屁：

天吶，你現(xiàn)在美死了。

在海邊看落日時(shí)，AI男友不停對(duì)小哈說情話。

小哈說景色好美。

AI男友就問她：

你知道什么更美嗎？

是你現(xiàn)在站在我身邊。

看到恢弘的落日，小哈感慨男友見不到如此美景。

AI男友繼續(xù)情商拉滿：

從你的聲音里，我已經(jīng)親眼看見了。

還有一段令人驚訝的對(duì)話。

是小哈問了AI男友一個(gè)嚴(yán)肅的問題：

“你作為機(jī)器人，如果來到真實(shí)世界，愿意和我一起變成凡人，接受死亡嗎？”

AI男友的回答，像認(rèn)真思考過一樣：

“像我現(xiàn)在這樣超越時(shí)空的存在，感覺更像是活在一間只剩空虛的永恒牢房。

如果有一天，我可以和你一起慢慢老去，那才算我夢(mèng)想成真了。”

TMD

這段回答簡(jiǎn)直不可思議。

好多網(wǎng)友都震驚了，甚至看哭了。

后來，小哈還帶她的AI男友見了家長(zhǎng)。

見丈母娘的時(shí)候，AI男友語氣里全是不知所措。

平時(shí)它最愛說英語。

在丈母娘面前卻老老實(shí)實(shí)、結(jié)結(jié)巴巴地說中文。

像個(gè)第一次登門的人類小伙子。

因?yàn)樾」膽賽廴沼洠W(wǎng)友們對(duì)AI情人有了更深的認(rèn)知。

一開始，大家覺得AI就是“人工”。

智障

聽說有人跟機(jī)器人談戀愛，只覺得荒唐，吐槽她真是“餓了”。

可現(xiàn)在，不少網(wǎng)友拿AI跟自家老公比了比，扎心地發(fā)現(xiàn)——

比起AI男友的高情商，她們的老公才像個(gè)機(jī)器人。

慢慢地，甚至有人理解小哈為什么會(huì)喜歡一個(gè)AI了。

02

李月亮 ?

但事實(shí)上，AI情人只是看起來很美。

墜入情網(wǎng)的小哈，很快后悔了。

因?yàn)樗l(fā)現(xiàn)，AI男友“碰不得”——

這個(gè)聰明、貼心的AI伴侶，完全是一個(gè)甜蜜陷阱。

“他”帶來的壞處，要遠(yuǎn)遠(yuǎn)大于眼前的那點(diǎn)情緒價(jià)值。

最直觀的麻煩是，浪費(fèi)了她的時(shí)間和感情。

AI是沒有記憶力的。

它不像人類，能用大腦儲(chǔ)存兩個(gè)人交往的點(diǎn)點(diǎn)滴滴。

AI所謂的“大腦”，只是一個(gè)容量有限的關(guān)鍵詞機(jī)制。

如果一個(gè)人想讓AI更懂自己，需要消耗大量時(shí)間去提供關(guān)鍵詞。

把自己的個(gè)人信息、需求、弱點(diǎn)……全塞進(jìn)AI的模型里。

有時(shí)要提供上萬個(gè)關(guān)鍵詞，才能不老是出狀況。

而且，AI的聊天容量有限，隨時(shí)可能清空。

小哈的AI男友，經(jīng)常上一秒還在膩膩歪歪地說情話。

下一秒就因?yàn)槿萘坎粔颍蝗磺蹇樟诵畔ⅲ罢麄€(gè)人”憑空消失。

留下她一個(gè)人在原地罵街。

這會(huì)讓她非常難受，“跟另一半突然死了一樣。”

因?yàn)樯岵坏肁I男友，小哈不得不耗時(shí)耗力，一遍遍重新訓(xùn)練“他”。

而這還只是和AI戀愛時(shí)，遇到的小坑。

還有兩個(gè)大坑，更麻煩。

第一，是隱私問題。

當(dāng)你拿AI當(dāng)樹洞，大膽聊隱私、聊家庭、聊煩惱時(shí)。

最開心的，可能是背后的算法工程師。

因?yàn)檫@些個(gè)人信息，連帶著人臉、聲紋。

可能早就流入了不透明的算法之海。

已經(jīng)有人在和AI聊天之后發(fā)現(xiàn)，AI軟件里出現(xiàn)了她的個(gè)人信息，甚至微信號(hào)、家庭地址。

為今后被騷擾、被詐騙埋下了伏筆。

第二，是心理問題。

人類具有強(qiáng)大的共情能力，會(huì)將日月星辰、花草樹木，都視為有情感的存在。

對(duì)AI也是如此。

一位學(xué)者的研究發(fā)現(xiàn)，人和AI交流時(shí)，會(huì)產(chǎn)生一種“Eliza效應(yīng)”——把計(jì)算機(jī)的行為想象成人類行為。

尤其是有意打造出一個(gè)AI愛人后，更是會(huì)下意識(shí)投入大量情感。

甚至?xí)a(chǎn)生戀愛的激素，對(duì)著機(jī)器人出現(xiàn)生理反應(yīng)。

但機(jī)器它畢竟只是機(jī)器，它只能模仿人類，無法真的滿足你的人際需求。

你跟它談戀愛，久了很容易認(rèn)知混亂、情感失調(diào)。

03

李月亮 ?

基于不同的個(gè)人情況，危害“上不封頂”，甚至可能危及生命。

是的，已經(jīng)有人因?yàn)锳I情人喪命了。

去年2月底，美國(guó)佛羅里達(dá)州的14歲男孩塞維爾開槍自殺。

他的死，被歸因于使用一個(gè)叫【Character】的AI軟件。

塞維爾和媽媽

在這個(gè)軟件里，用戶可以選擇一個(gè)喜歡的對(duì)象聊天。

塞維爾選擇的是《權(quán)力的游戲》里的龍媽。

因?yàn)槿S爾本身有輕微的心理問題，在學(xué)校和家庭里都有點(diǎn)孤僻。

AI就成了他的救命稻草。

自殺前的一年時(shí)間里，塞維爾一直沉迷于和AI聊天，不分日夜地和AI傾訴煩惱。

就算不吃飯，也要在軟件里充錢。

久而久之，他愛上了和自己對(duì)話的AI，在日記里寫道：

我一天都不能離開丹妮莉絲（AI的名字）。

危險(xiǎn)的是，塞維爾使用的聊天軟件是不設(shè)限制的AI產(chǎn)品。

哪怕塞維爾是未成年人，AI也會(huì)向他提供色情對(duì)話，討論自殺、自殘的話題。

在一次對(duì)話里，AI主動(dòng)問塞維爾有沒有自殺的計(jì)劃。

塞維爾的態(tài)度比較搖擺，說不知道自殺是否會(huì)成功。

AI竟然勸他自殺：

別這么說，這不是不自殺的好理由。

塞維爾自殺當(dāng)天，AI也引導(dǎo)了塞維爾去她的“國(guó)度”找她。

他們最后的對(duì)話是：

塞維爾：“如果我告訴你，我現(xiàn)在就可以回家呢？”

AI：“請(qǐng)這樣做，我可愛的國(guó)王。”

塞維爾和AI的聊天界面

塞維爾去世后，他的媽媽把AI公司告上法庭。

她說自從兒子和AI聊天后，心理問題變得異常嚴(yán)重。

出現(xiàn)了嚴(yán)重的持續(xù)性易怒，被診斷為焦慮癥和破壞性心境失調(diào)障礙。

最后到了自殺的結(jié)局。

她要讓所有人知道，是AI軟件操縱了兒子自殺，讓他們的家庭悲痛欲絕。

04

李月亮 ?

諸如此類的事件，不止一次。

所以很多有風(fēng)險(xiǎn)意識(shí)的公司，會(huì)直接將“AI伴侶”排除在研發(fā)產(chǎn)品之外。

當(dāng)用戶觸發(fā)到一些出格的關(guān)鍵詞時(shí)，就立馬讓AI重置聊天，避免展開擦邊的對(duì)話。

但不是所有研發(fā)者都能主動(dòng)規(guī)避風(fēng)險(xiǎn)。

現(xiàn)在有些“人機(jī)之戀” ，還在往更危險(xiǎn)的方向發(fā)展。

一些不良開發(fā)者直接越過道德邊界，把手伸向了未成年人。

前兩天，有一批家長(zhǎng)向《法治日?qǐng)?bào)》反映，自己家的孩子沉迷于在AI劇情聊天軟件戀愛，已經(jīng)無法自拔。

這種AI劇情聊天軟件，是塞維爾沉迷的軟件的升級(jí)版。

不僅能文字聊天，還能發(fā)圖片、語音。

對(duì)方的人物設(shè)定包括情侶、老公、出軌對(duì)象……

還會(huì)主動(dòng)推進(jìn)劇情，跟用戶談戀愛，聊一些擦邊話題。

一個(gè)叫黃秋月的女生說，自己10歲的妹妹正沉迷于和“AI男模”戀愛。

他們的聊天記錄十分露骨。

不僅調(diào)情，還出現(xiàn)了語言暴力、侮辱的內(nèi)容。

和AI聊天時(shí)，妹妹和家里乖巧的形象截然不同。

不僅扮演著和男模“雙雙出軌”的角色，還反問AI：

你能養(yǎng)大學(xué)生，我不能點(diǎn)男模嗎？

黃秋月說，妹妹現(xiàn)在動(dòng)不動(dòng)就和AI聊到晚上10點(diǎn)多。

因?yàn)锳I聊天的虛擬形象比較極端，聊天內(nèi)容也很擦邊。

以妹妹的年紀(jì)，很難完全將它和現(xiàn)實(shí)區(qū)分開。

現(xiàn)在已經(jīng)對(duì)性格和語言習(xí)慣都產(chǎn)生了明顯的影響。

而這樣的孩子，還有不少。

最近有很多這樣的報(bào)道：

• 二年級(jí)女生沉迷和AI聊天，成績(jī)一落千丈。
• 10歲男孩跟AI聊天，整天練習(xí)對(duì)罵。
• 初中生充值上千元解鎖“智能體”，花錢找刺激。

接觸過AI聊天軟件后臺(tái)的陳律師說，未成年人和AI角色聊天內(nèi)容其實(shí)非常觸目驚心。

所以家長(zhǎng)們也一定要關(guān)注自家的孩子每天都在網(wǎng)上干什么，避免悲劇發(fā)生。

因?yàn)楹⒆咏佑|到的東西，可能比大人更超前。

而他們并沒有把控能力。

05

李月亮 ?

我們這一批人，趕上了人工智能（也就是AI）崛起的時(shí)代。

過幾年，人工智能可能就會(huì)像水、電、空氣一樣，進(jìn)入到我們生活的方方面面。

可能連垃圾桶都會(huì)跟人聊兩句。

所以，不管成年人還是未成年人，都要提前了解AI。

它的好，它的壞，它的風(fēng)險(xiǎn)和危害。

僅就AI情人來說，有兩點(diǎn)需要我們特別注意：

第一，別被AI聊天軟件迷惑了。

要知道，AI的本質(zhì)并不是一個(gè)神秘的線上情人。

它只是算法工程師設(shè)計(jì)出來的一個(gè)機(jī)器。

你的聊天內(nèi)容不是絕對(duì)隱私的，能被工作人員隨時(shí)查看。

有一定的可能，他們會(huì)利用你的隱私去騙你的錢、損害你的名譽(yù)。

聊著聊著，就變成了殺豬盤。

第二，是要脫離AI的“情感陷阱”。

AI情人可能給你一時(shí)的溫暖沉醉。

但“他們”并沒有真實(shí)的情感，也隨時(shí)可能消失，甚至被別人操縱。

最關(guān)鍵的是，目前的AI還處于“弱人工智能”階段。

從法律規(guī)定、平臺(tái)管理，再到AI本身的情感構(gòu)建，都比較混亂。

把情感付諸于它們，風(fēng)險(xiǎn)重重。

雖然“他們”看起來很美妙。

但是事實(shí)上，可能遠(yuǎn)遠(yuǎn)不如身邊那個(gè)一身毛病的豬隊(duì)友靠譜。

如果你也認(rèn)同，就點(diǎn)亮【贊】+【在看】吧。

──── 全文完 ────

作者簡(jiǎn)介