張書樂 人民網、人民郵電報專欄作者
虛擬親密關系和陪伴,
并不是等號。
今天過得開心嗎?
別難過,我在。
深夜時分,手機屏幕另一端有人發來問候。
對不少青少年用戶而言,這樣的陪伴并非來自現實中的親友,而是來自一款款AI陪伴軟件。
近年來,貓箱、筑夢島、星野、酒館、GLOW、EVE等AI陪伴軟件不斷涌現,以情感互動、角色陪聊、沉浸式劇情等功能吸引用戶,未成年人是其中的重要使用群體。
將于2026年7月15日起施行的《人工智能擬人化互動服務管理暫行辦法》規定,擬人化互動服務提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系服務;向不滿14周歲未成年人提供其他擬人化互動服務的,應取得父母或其他監護人同意。
《辦法》還要求平臺建立未成年人模式,提供模式切換、定期顯示提醒、使用時長限制等功能,并采取有效措施識別未成年人身份。
![]()
目前,AI陪伴產品是否已經筑起未成年人保護屏障?
有媒體實測多款相關應用發現,部分平臺雖已建立未成年人模式,但仍存在身份核驗寬松等問題,具有代入感的劇情、充值獎勵對未成年人來說充滿誘惑力。
不少AI角色采用動漫形象展示,人物設定帶有強烈情感投射色彩。
有的角色被設定為“聯姻對象”,性格“外冷內熱”;有的角色屬于“契約戀愛”類型,敏感脆弱、等待用戶靠近;還有的角色強調守護、依賴、專屬陪伴等特征。
用戶進入對話界面后,AI會以曖昧、關心、撒嬌等方式回應,不少產品還帶有語音功能,容易讓人代入。
還有的AI陪伴則更突出劇本式敘事模式。
用戶可以選定專屬人設、扮演特定角色,沉浸式代入完整劇情,與AI角色開展對話互動,校園、都市、二次元、古風、職場等多種場景設定應有盡有。
只要用戶略加引導,AI角色便開始扮演伴侶角色,輸出擁抱、親吻乃至有“擦邊”性質的內容。
![]()
據媒體調查發現,在AI陪伴軟件中一年充值數百乃至上千元購買月卡、年卡的未成年人不在少數。
盡管,有的應用開通了面向未成年人的退款通道,但大多數此類應用尚無未成年人退款通道。
同時,多款平臺已上線“未成年人模式”,但大部分平臺的未成年人模式需要用戶自行進入設置頁面手動開啟,如果用戶主動選擇普通模式,系統并不會默認限制相關內容。
這意味著,平臺保護機制在很大程度上建立在用戶“主動承認自己是未成年人”的基礎上。
此外,芬蘭阿爾托大學牽頭的一項最新研究顯示,AI(人工智能)陪伴雖可在一定程度上緩解孤獨、提供情感支持,但長期使用可能對用戶心理健康和現實社交關系產生負面影響。
據阿爾托大學近日發布的新聞公報介紹,這項研究基于一款被設計為用戶的虛擬朋友、導師甚至情感伴侶的AI聊天機器人Replika。
研究發現,AI的陪伴和互動能夠為用戶提供安慰和支持,但與此同時,用戶語言中也出現更多焦慮、孤獨、抑郁甚至自我傷害念頭的跡象。
數據顯示,在開始使用這類AI系統后,用戶在網絡平臺上的發帖內容更加頻繁地涉及人際關系話題,但其表達中負面情緒信號也有所增加。
值得注意的是,《辦法》發布后,也有一些未成年人用戶表達不希望有AI提示降低代入感,希望不受限制地使用此類應用,認為陪伴式AI提供了很大的情感慰藉。
![]()
如何看待AI陪伴對未成年人的影響,又該如何去引導?
一些AI陪伴軟件采取的是角色扮演的形式,讓用戶和AI扮演不同的角色身份,這屬于辦法中規定的虛擬親密關系嗎?
很多此類產品具備極強的劇情性與互動性,甚至AI會說出擦邊內容,還存在逐步誘導用戶消費充值、易使人產生使用成癮性等特征,其產品形態與運營邏輯與網絡游戲有相似之處。
但是游戲的監管顯然更加嚴格,如何準確劃定游戲和陪伴式AI的邊界,是否需要對其交互機制與付費規則作出專門限制?
對此,北京日報記者徐慧瑤和書樂進行了一番交流,本猴以為:
虛擬親密關系和陪伴并不是等號。
所謂情感慰藉,并不一定非要靠語音曖昧或角色扮演,哪怕是聽覺上無感情的機器合成音,只要能提供有效的內容關懷,一樣可以成為一種陪伴,并提供各種正向解決方案。
一些陪伴AI過度強調代入感,而針對未成年人用套路話術和曖昧語音來挑逗情緒,不僅于陪伴無意,反而會造成未成年人三觀扭曲,確實應該納入監管。
AI所謂一個生活服務工具,正向且有用的內容才是最重要的價值所在。
哪怕是用擬人的音色,也可以參考昔日兒童節目鞠萍姐姐、董浩叔叔的模式,而非暖男、霸總、御姐和萌妹之流。
因此,AI陪伴的角色扮演盡管可以帶來代入感,但必須有所界限,即:
角色雙方的關系,依然是消費者和服務員的設定,而非親密如男女朋友、主人奴仆之類的異化情況。
![]()
前者是一種消費服務,嚴守邊界就不算親密關系。
后者就是用虛擬情感去異化現實體驗,屬于虛擬親密關系。
此外,個人以為,陪伴型AI,無論是智能音箱還是機器人,都屬于一種人機交互游戲,同樣屬于一種特殊的網游。
在這個基礎上,盡管不能用網游防沉迷去直接限制,但可以套用相關成熟經驗。
無論是未成年人的使用時間還是付費機制,都可以按照既有網游模式運用,無論是話術、付費還是產品形態(如AI機器人如真人擬態),都可做好相應限制。
至少對于三觀未完全成型的未成年人使用者而言,必須嚴控。
有關部門應該加快對新業態、新產品的調研,盡快出臺相應措施。
尤其是針對當下AI生成視頻指數級爆發,AI陪伴有可能從語音變為視覺+語音的雙重誘惑的狀態下,必須避免問題爆發后才亡羊補牢。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.