北京
AI助手Kimi疑似泄露用戶隱私？該消息被用戶發(fā)文爆料之后，迅速引發(fā)外界強(qiáng)烈關(guān)注。
4月20日，用戶發(fā)文爆料稱，他在使用月之暗面開發(fā)的AI助手Kimi之時(shí)，驚現(xiàn)其發(fā)布疑似其他用戶個(gè)人簡(jiǎn)歷的情況，而這份簡(jiǎn)歷當(dāng)中，包括其姓名、電話以及郵箱等個(gè)人敏感信息。
1
而接下來的情況，讓人大為驚恐。
這個(gè)爆料人用那份簡(jiǎn)歷當(dāng)中的聯(lián)系方式，竟然聯(lián)系到了被泄露個(gè)人簡(jiǎn)歷的用戶本人，雙方溝通后發(fā)現(xiàn)，這個(gè)被泄露簡(jiǎn)歷的用戶曾在同一時(shí)間段內(nèi)，將個(gè)人簡(jiǎn)歷發(fā)給Kimi進(jìn)行優(yōu)化。值得留意的是，當(dāng)時(shí)他發(fā)的是文檔格式，并非公開信息。
上述爆料人對(duì)此發(fā)投訴郵件至Kimi官方，24小時(shí)過去后，對(duì)方?jīng)]有回應(yīng)。
而這一社交平臺(tái)的發(fā)文迅速引發(fā)外界關(guān)注的同時(shí)，也有自稱Kimi的工作人員的人，聯(lián)系爆料人進(jìn)行溝通。其對(duì)此解釋為“AI幻覺”，并且希望爆料人將發(fā)文刪除掉。不過爆料人不認(rèn)可解釋原因，并且拒絕刪除發(fā)文。
其實(shí)，該事件的受害者是那個(gè)個(gè)人簡(jiǎn)歷被泄露的用戶，該用戶得知情況后，也采取了行動(dòng)，試圖保存此前上傳簡(jiǎn)歷的記錄，可是其發(fā)現(xiàn)Kimi客戶端無法保存該記錄。
2
伴隨著輿論持續(xù)發(fā)酵，網(wǎng)友紛紛討論事件背后的大模型數(shù)據(jù)安全問題。
不少自稱了解大模型技術(shù)的網(wǎng)友認(rèn)為，事件不大可能是由“AI幻覺”引發(fā)，更大概率的原因可能是，在高并發(fā)請(qǐng)求的壓力下，大模型的后端系統(tǒng)出現(xiàn)嚴(yán)重的“緩存串號(hào)”或“哈希碰撞”。
也就是說系統(tǒng)在一對(duì)多的情況下，批量分發(fā)結(jié)果時(shí)發(fā)生標(biāo)識(shí)符錯(cuò)亂，從而將將處理后的個(gè)人簡(jiǎn)歷發(fā)錯(cuò)了對(duì)象。
不過上述原因也僅為網(wǎng)友的個(gè)人猜測(cè)，不能將其確認(rèn)為事件發(fā)生的原因。
事件持續(xù)發(fā)酵后，自稱Kimi官方工作人員的人，又聯(lián)系到爆料人，重新給出新的解釋，稱是“發(fā)串”了，也就是上邊網(wǎng)友分析的的那種情況，將給B（提出優(yōu)化個(gè)人簡(jiǎn)歷的人）用戶的回復(fù)，發(fā)給了A（爆料人）。
不論什么原因，負(fù)面影響已經(jīng)產(chǎn)生。事件受害者有權(quán)對(duì)個(gè)人信息的泄漏進(jìn)行正當(dāng)維權(quán)。而不少用戶對(duì)使用AI助手的信息安全打上了問號(hào)，在信任度上勢(shì)必會(huì)有所降低。
在安全風(fēng)險(xiǎn)頗高的當(dāng)下，提醒用戶的一些個(gè)人敏感信息，盡量避免發(fā)給AI助手處理。
不論是底層模型的記憶混亂，還是工程架構(gòu)方面的緩存串號(hào)，月之暗面公司出現(xiàn)這種大離譜的事件，說明自身存在著不容忽視的系統(tǒng)隱患。
而企業(yè)跑得越快、做得越大、用戶規(guī)模越多，就意味著平臺(tái)責(zé)任越來越重。此事件提醒該企業(yè)，技術(shù)創(chuàng)新與應(yīng)用落地的狂奔之下，安全風(fēng)控一直是其是否可長(zhǎng)久發(fā)展的底座。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
