小信網(wǎng)評 ▍向AI應(yīng)用劃出紅線：嚴(yán)禁向未成年人提供虛擬伴侶

平時我們刷手機(jī)遇到的AI陪伴助手、虛擬情感好友，甚至給老人孩子提供陪伴的智能互動產(chǎn)品，今后將有明確的“行為規(guī)范”了。據(jù)央視新聞報道，今年7月15日，《人工智能擬人化互動服務(wù)管理暫行辦法》（以下簡稱《辦法》）將正式施行。

針對未成年人保護(hù)，《辦法》作出明確規(guī)定：嚴(yán)禁向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系服務(wù)；向不滿十四周歲未成年人提供其他擬人化互動服務(wù)的，應(yīng)當(dāng)取得未成年人的父母或者其他監(jiān)護(hù)人的同意；要求建立未成年人模式，支持監(jiān)護(hù)人管控使用行為、限制充值消費(fèi)等。

《辦法》的施行，無疑具有標(biāo)志性的意義，清晰和堅(jiān)定地向AI應(yīng)用劃出了紅線：必須謹(jǐn)慎介入關(guān)系、社交，尤其要堅(jiān)決貫徹未成年人保護(hù)各項(xiàng)機(jī)制原則。

近年來，在AI應(yīng)用加速普及的同時，部分AI產(chǎn)品也開始嘗試介入人的社交關(guān)系和精神世界，由此也引發(fā)了倫理爭議。壓力之下，企業(yè)“被動糾偏”，多個企業(yè)宣布限制未成年人使用開放式聊天功能等。但從《新京報》等媒體報道看，出于流量和商業(yè)回報需求，多款產(chǎn)品的未成年人保護(hù)和防沉迷機(jī)制淪為擺設(shè)。

僅靠企業(yè)被動糾偏、輿論呼吁，難以建起真正的未成年人保護(hù)共識和機(jī)制。因此，政府從行業(yè)領(lǐng)域樹立監(jiān)管原則已迫在眉睫。

從現(xiàn)實(shí)案例看，AI擬人類應(yīng)用帶來的挑戰(zhàn)，已從單一工具使用風(fēng)險問題，升級為介入關(guān)系和精神領(lǐng)域的結(jié)構(gòu)性危機(jī)。

與工具、內(nèi)容等場景不同，虛擬伴侶的核心機(jī)制，是通過持續(xù)對話與情緒反饋，模擬一個“始終在線、始終理解、始終回應(yīng)”的關(guān)系對象。這種關(guān)系因?yàn)橄爽F(xiàn)實(shí)摩擦而具備了成癮性，但也因?yàn)槿鄙佻F(xiàn)實(shí)摩擦，極易形成極端風(fēng)險。

當(dāng)一個尚未完成社會化的未成年人，把主要情感、關(guān)系建立在不會拒絕、不會沖突、不斷迎合的“虛擬伴侶”之上，其結(jié)果是現(xiàn)實(shí)關(guān)系和情感認(rèn)知被重塑。現(xiàn)實(shí)中的不確定、摩擦與責(zé)任，反而變得難以承受。

這正是《辦法》禁止虛擬伴侶面向未成年人的底層價值。新規(guī)不是對技術(shù)本身的發(fā)展予以限制，而是防止技術(shù)過早被用于侵蝕未成年人的情感結(jié)構(gòu)和關(guān)系網(wǎng)絡(luò)。

從治理細(xì)則看，這一《辦法》也做了具體的規(guī)定和約束。對于為未成年人提供親密關(guān)系服務(wù)的高風(fēng)險場景，劃定紅線直接禁止，而對于其他類型產(chǎn)品，則需要完整建設(shè)年齡識別、監(jiān)護(hù)人同意、使用時長管理、情緒干預(yù)等機(jī)制，構(gòu)建分層保護(hù)體系，形成緩沖地帶，保護(hù)創(chuàng)新。

可見，《辦法》出臺只是起點(diǎn)，未來不僅需要進(jìn)一步從監(jiān)管要求落實(shí)到產(chǎn)品應(yīng)用，還要根據(jù)技術(shù)的進(jìn)步，不斷細(xì)化、調(diào)整。

AI可以輔助情感，但不能替代情感，更不能越界侵入情感和關(guān)系。尤其對于未成年人而言，其成長本質(zhì)是在真實(shí)關(guān)系和社會互動中完成社會化。理解差異、處理沖突、承擔(dān)責(zé)任，這些都無法在“完美回應(yīng)”的虛擬關(guān)系中獲得。

因此，新規(guī)落地，關(guān)鍵在執(zhí)行，責(zé)任更在相關(guān)企業(yè)。距離《辦法》施行已進(jìn)入倒計時，相關(guān)AI企業(yè)應(yīng)主動扛起主體責(zé)任，將未成年人保護(hù)內(nèi)嵌到產(chǎn)品設(shè)計、算法邏輯與運(yùn)營全流程。技術(shù)向善從來不是一句口號，而是企業(yè)必須堅(jiān)守的倫理底線與市場準(zhǔn)則。

唯有放棄短視的流量思維與逐利沖動，在技術(shù)創(chuàng)新與社會責(zé)任之間找到平衡，才能讓AI真正成為成長的助力而非隱患，從而實(shí)現(xiàn)可持續(xù)發(fā)展。

本文原發(fā)于新京報評論微信公眾號，題為《禁向未成年人提供虛擬伴侶，紅線不可逾越 | 新京報社論》。