平時我們刷手機(jī)遇到的AI陪伴助手、虛擬情感好友,甚至給老人孩子提供陪伴的智能互動產(chǎn)品,今后將有明確的“行為規(guī)范”了。據(jù)央視新聞報道,今年7月15日,《人工智能擬人化互動服務(wù)管理暫行辦法》(以下簡稱《辦法》)將正式施行。
針對未成年人保護(hù),《辦法》作出明確規(guī)定:嚴(yán)禁向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系服務(wù);向不滿十四周歲未成年人提供其他擬人化互動服務(wù)的,應(yīng)當(dāng)取得未成年人的父母或者其他監(jiān)護(hù)人的同意;要求建立未成年人模式,支持監(jiān)護(hù)人管控使用行為、限制充值消費(fèi)等。
![]()
《辦法》的施行,無疑具有標(biāo)志性的意義,清晰和堅(jiān)定地向AI應(yīng)用劃出了紅線:必須謹(jǐn)慎介入關(guān)系、社交,尤其要堅(jiān)決貫徹未成年人保護(hù)各項(xiàng)機(jī)制原則。
近年來,在AI應(yīng)用加速普及的同時,部分AI產(chǎn)品也開始嘗試介入人的社交關(guān)系和精神世界,由此也引發(fā)了倫理爭議。壓力之下,企業(yè)“被動糾偏”,多個企業(yè)宣布限制未成年人使用開放式聊天功能等。但從《新京報》等媒體報道看,出于流量和商業(yè)回報需求,多款產(chǎn)品的未成年人保護(hù)和防沉迷機(jī)制淪為擺設(shè)。
僅靠企業(yè)被動糾偏、輿論呼吁,難以建起真正的未成年人保護(hù)共識和機(jī)制。因此,政府從行業(yè)領(lǐng)域樹立監(jiān)管原則已迫在眉睫。
從現(xiàn)實(shí)案例看,AI擬人類應(yīng)用帶來的挑戰(zhàn),已從單一工具使用風(fēng)險問題,升級為介入關(guān)系和精神領(lǐng)域的結(jié)構(gòu)性危機(jī)。
與工具、內(nèi)容等場景不同,虛擬伴侶的核心機(jī)制,是通過持續(xù)對話與情緒反饋,模擬一個“始終在線、始終理解、始終回應(yīng)”的關(guān)系對象。這種關(guān)系因?yàn)橄爽F(xiàn)實(shí)摩擦而具備了成癮性,但也因?yàn)槿鄙佻F(xiàn)實(shí)摩擦,極易形成極端風(fēng)險。
當(dāng)一個尚未完成社會化的未成年人,把主要情感、關(guān)系建立在不會拒絕、不會沖突、不斷迎合的“虛擬伴侶”之上,其結(jié)果是現(xiàn)實(shí)關(guān)系和情感認(rèn)知被重塑。現(xiàn)實(shí)中的不確定、摩擦與責(zé)任,反而變得難以承受。
這正是《辦法》禁止虛擬伴侶面向未成年人的底層價值。新規(guī)不是對技術(shù)本身的發(fā)展予以限制,而是防止技術(shù)過早被用于侵蝕未成年人的情感結(jié)構(gòu)和關(guān)系網(wǎng)絡(luò)。
從治理細(xì)則看,這一《辦法》也做了具體的規(guī)定和約束。對于為未成年人提供親密關(guān)系服務(wù)的高風(fēng)險場景,劃定紅線直接禁止,而對于其他類型產(chǎn)品,則需要完整建設(shè)年齡識別、監(jiān)護(hù)人同意、使用時長管理、情緒干預(yù)等機(jī)制,構(gòu)建分層保護(hù)體系,形成緩沖地帶,保護(hù)創(chuàng)新。
可見,《辦法》出臺只是起點(diǎn),未來不僅需要進(jìn)一步從監(jiān)管要求落實(shí)到產(chǎn)品應(yīng)用,還要根據(jù)技術(shù)的進(jìn)步,不斷細(xì)化、調(diào)整。
AI可以輔助情感,但不能替代情感,更不能越界侵入情感和關(guān)系。尤其對于未成年人而言,其成長本質(zhì)是在真實(shí)關(guān)系和社會互動中完成社會化。理解差異、處理沖突、承擔(dān)責(zé)任,這些都無法在“完美回應(yīng)”的虛擬關(guān)系中獲得。
因此,新規(guī)落地,關(guān)鍵在執(zhí)行,責(zé)任更在相關(guān)企業(yè)。距離《辦法》施行已進(jìn)入倒計時,相關(guān)AI企業(yè)應(yīng)主動扛起主體責(zé)任,將未成年人保護(hù)內(nèi)嵌到產(chǎn)品設(shè)計、算法邏輯與運(yùn)營全流程。技術(shù)向善從來不是一句口號,而是企業(yè)必須堅(jiān)守的倫理底線與市場準(zhǔn)則。
唯有放棄短視的流量思維與逐利沖動,在技術(shù)創(chuàng)新與社會責(zé)任之間找到平衡,才能讓AI真正成為成長的助力而非隱患,從而實(shí)現(xiàn)可持續(xù)發(fā)展。
本文原發(fā)于新京報評論微信公眾號,題為《禁向未成年人提供虛擬伴侶,紅線不可逾越 | 新京報社論》。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.