![]()
開展這項研究的慈善機構“網絡微笑”首席執行官斯科特·弗里曼告訴《都市報》,其中一條帖子包含一段男子“給一名女性下藥”的視頻。他還說:“我們還看到了一段私刑處死的畫面,以及對暴力的露骨描述,還有反猶和反穆斯林仇恨內容。所有這些內容都會在用戶開設賬號后的幾分鐘內——有時甚至幾秒鐘內——被推送到信息流中。”
![]()
根據該基金會發布的《被迫推送》報告,研究人員創建了4個標明年齡為15歲的賬號,以及4個成人賬號。4個兒童賬號中,有3個接觸到了種族主義內容;同樣這3個賬號也看到了描繪暴力或鼓動暴力的內容。在連續3天滾動瀏覽后,有害帖子占這些兒童賬號信息流內容的18%;而在成人賬號中,這一比例達到36%。
《都市報》看到的兒童賬號所接觸內容中,包括一名男子說“阻止穆斯林成為多數”的視頻。報告稱,另一條內容是對一部影片的解說,影片中一名女性被下藥并綁架,意圖對其實施侵犯。還有一個賬號看到了一段由人工智能生成、歧視唐氏綜合征兒童的視頻。
![]()
視頻還補充說:“想象一下,你在力量、智力和智商上都被削弱了。”其中“被削弱”使用的是電子游戲俚語。短視頻國際版上一條帶有種族主義色彩的帖子寫道:“歡迎來到巴基斯坦,我是說布拉德福德,真是個爛地方。我在伯明翰就能聞到這里的味道。”
研究人員在9月期間每天在這些應用上滾動瀏覽45分鐘,但從不與內容互動,因為互動可能會影響決定用戶看到什么內容的算法。
![]()
萊斯特大學心理健康專家米歇爾·奧賴利博士稱,看到有害內容未必會造成長期傷害,但短期內可能影響身心狀態。她補充說:“問題的一部分在于,年輕人常常會在這些網絡空間里接觸到負面內容,即使他們本來并不想參與。這既與算法的設置方式有關,也與同伴群體傳播材料的方式有關。”
護士薩拉·登霍姆-帕克告訴《都市報》,她長期擔心自己17歲女兒在刷內容時會看到什么。她說:“我擔心,如果她開始看關于焦慮或身材形象的短視頻,可能會被一步步帶上一條危險的路。”“我看到很多十幾歲的女孩來到急診科……孩子們越來越小,來得也越來越頻繁。”
一項2023年的研究顯示,哪怕只是“少量接觸”展示難以企及身材標準的內容,也可能對年輕女性造成傷害。薩拉補充說:“我女兒這一代人已經受到了社交媒體的傷害。”薩頓一所女子中學副校長皮普·瓊斯說,在附近發生一起暴力事件后,學生們曾尋求如何保障自身安全的建議。
瓊斯說:“她們原本想得到安慰,但算法卻不斷推送與這起事件相關的暴力內容和血腥畫面,其中甚至包括斬首視頻。”“她們只是想獲取信息,而不是接觸傷害性內容,但這個系統卻放大了這些內容。”
![]()
不過,弗里曼質疑,政府旨在保護年輕人網絡安全的政策究竟能有多大效果。他說,有害內容仍可能繞過網絡安全法律的防線,因為科技公司依賴自動化過濾,而兒童也會設法繞過年齡限制。用戶應當擁有控制算法的“基本權利”。
弗里曼還說:“我們擁有世界上最嚴格的網絡安全法律之一,但這些法律仍然無法阻止有害內容觸達用戶。”此前已有專家告訴《都市報》,正如政府當天宣布的那樣,單純禁止青少年使用社交媒體并不是答案。
隨著青年中心和商業街不斷關閉,孩子們需要有離開網絡的現實理由。奧賴利博士說,社交媒體只是青少年生活的一部分,學校、家庭和朋友同樣會發揮作用。研究人員已經發現,關鍵與其說是青少年在手機上做什么,不如說是他們與手機建立了怎樣的關系。
![]()
該公司表示:“和其他人一樣,我們不認為禁令能夠實現這一目標,也就是保護年輕人。”“正如我們在澳大利亞看到的那樣,禁令可能讓青少年與網絡社群和信息隔絕,并把他們推向缺乏內置保護和家長控制的非監管替代平臺。”
“如果要既有效又便于家長操作,任何限制措施都必須建立在設備端年齡驗證系統之上。這樣,人們就不必為了證明年齡,向幾十個不同服務逐一提交身份證明。”短視頻國際版同樣對未成年用戶設置了多種內容限制。根據2021年泄露的一份備忘錄,其算法會通過預測用戶可能感興趣的內容來增加“用戶價值”。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.