四川
開展這項研究的慈善機構“網絡微笑”首席執行官斯科特·弗里曼告訴《都市報》，其中一條帖子包含一段男子“給一名女性下藥”的視頻。他還說：“我們還看到了一段私刑處死的畫面，以及對暴力的露骨描述，還有反猶和反穆斯林仇恨內容。所有這些內容都會在用戶開設賬號后的幾分鐘內——有時甚至幾秒鐘內——被推送到信息流中。”
根據該基金會發布的《被迫推送》報告，研究人員創建了4個標明年齡為15歲的賬號，以及4個成人賬號。4個兒童賬號中，有3個接觸到了種族主義內容；同樣這3個賬號也看到了描繪暴力或鼓動暴力的內容。在連續3天滾動瀏覽后，有害帖子占這些兒童賬號信息流內容的18%；而在成人賬號中，這一比例達到36%。
《都市報》看到的兒童賬號所接觸內容中，包括一名男子說“阻止穆斯林成為多數”的視頻。報告稱，另一條內容是對一部影片的解說，影片中一名女性被下藥并綁架，意圖對其實施侵犯。還有一個賬號看到了一段由人工智能生成、歧視唐氏綜合征兒童的視頻。
視頻還補充說：“想象一下，你在力量、智力和智商上都被削弱了。”其中“被削弱”使用的是電子游戲俚語。短視頻國際版上一條帶有種族主義色彩的帖子寫道：“歡迎來到巴基斯坦，我是說布拉德福德，真是個爛地方。我在伯明翰就能聞到這里的味道。”
研究人員在9月期間每天在這些應用上滾動瀏覽45分鐘，但從不與內容互動，因為互動可能會影響決定用戶看到什么內容的算法。
萊斯特大學心理健康專家米歇爾·奧賴利博士稱，看到有害內容未必會造成長期傷害，但短期內可能影響身心狀態。她補充說：“問題的一部分在于，年輕人常常會在這些網絡空間里接觸到負面內容，即使他們本來并不想參與。這既與算法的設置方式有關，也與同伴群體傳播材料的方式有關。”
護士薩拉·登霍姆-帕克告訴《都市報》，她長期擔心自己17歲女兒在刷內容時會看到什么。她說：“我擔心，如果她開始看關于焦慮或身材形象的短視頻，可能會被一步步帶上一條危險的路。”“我看到很多十幾歲的女孩來到急診科……孩子們越來越小，來得也越來越頻繁。”
一項2023年的研究顯示，哪怕只是“少量接觸”展示難以企及身材標準的內容，也可能對年輕女性造成傷害。薩拉補充說：“我女兒這一代人已經受到了社交媒體的傷害。”薩頓一所女子中學副校長皮普·瓊斯說，在附近發生一起暴力事件后，學生們曾尋求如何保障自身安全的建議。
瓊斯說：“她們原本想得到安慰，但算法卻不斷推送與這起事件相關的暴力內容和血腥畫面，其中甚至包括斬首視頻。”“她們只是想獲取信息，而不是接觸傷害性內容，但這個系統卻放大了這些內容。”
不過，弗里曼質疑，政府旨在保護年輕人網絡安全的政策究竟能有多大效果。他說，有害內容仍可能繞過網絡安全法律的防線，因為科技公司依賴自動化過濾，而兒童也會設法繞過年齡限制。用戶應當擁有控制算法的“基本權利”。
弗里曼還說：“我們擁有世界上最嚴格的網絡安全法律之一，但這些法律仍然無法阻止有害內容觸達用戶。”此前已有專家告訴《都市報》，正如政府當天宣布的那樣，單純禁止青少年使用社交媒體并不是答案。
隨著青年中心和商業街不斷關閉，孩子們需要有離開網絡的現實理由。奧賴利博士說，社交媒體只是青少年生活的一部分，學校、家庭和朋友同樣會發揮作用。研究人員已經發現，關鍵與其說是青少年在手機上做什么，不如說是他們與手機建立了怎樣的關系。
該公司表示：“和其他人一樣，我們不認為禁令能夠實現這一目標，也就是保護年輕人。”“正如我們在澳大利亞看到的那樣，禁令可能讓青少年與網絡社群和信息隔絕，并把他們推向缺乏內置保護和家長控制的非監管替代平臺。”
“如果要既有效又便于家長操作，任何限制措施都必須建立在設備端年齡驗證系統之上。這樣，人們就不必為了證明年齡，向幾十個不同服務逐一提交身份證明。”短視頻國際版同樣對未成年用戶設置了多種內容限制。根據2021年泄露的一份備忘錄，其算法會通過預測用戶可能感興趣的內容來增加“用戶價值”。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
