慈善机构表示，社交媒体网站未能阻止自杀内容的传播

　　

　　

　　莫莉·罗斯基金会的最新报告称，社交媒体公司未能阻止宣传自残和自杀内容。

　　一份新报告显示，社交媒体平台在处理自残和自杀内容方面存在严重的根本性系统缺陷。

　　自杀预防慈善机构莫莉·罗斯基金会(Molly Rose Foundation)表示，他们在Instagram、TikTok和Pinterest上发现了大规模且普遍存在的有害内容。

　　该公司表示，在抖音上，一些涉及自杀、自残和高度抑郁内容的点击量最高的帖子的点击量和点赞量已超过100万次。

　　该基金会是为了纪念莫莉·罗素而命名的，她在14岁时因在网上观看自杀和其他有害内容而结束了自己的生命。该机构的报告是在莫利庆祝她21岁生日的那一周发布的。

　　去年9月，一名验尸官裁定，来自伦敦西北部哈罗的女学生莫莉于2017年11月死于“自残行为，同时患有抑郁症和网络内容的负面影响”。

　　该慈善机构的报告是与数据公益组织The Bright Initiative合作编写的，该基金会收集并分析了Instagram和TikTok上1181个最受关注的帖子的数据，这些帖子使用了围绕自杀、自残和抑郁的知名标签。

　　它警告说，它认为现成的有害内容存在一个明显而持久的问题，因为它分析的许多有害帖子也是由平台的算法推荐的。

　　该报告指出，虽然它对标签的担忧主要集中在Instagram和TikTok上，但它对算法推荐的担忧也适用于Pinterest。

　　莫莉·罗斯基金会(Molly Rose Foundation)表示，它担心社交媒体平台的设计和运营会大幅增加一些年轻人的风险，因为他们很容易通过搜索话题标签或通过类似主题的推荐内容找到大量潜在的有害内容。

　　该报告称，平台也未能充分评估让用户找到类似主题帖子的功能所带来的风险，并声称商业压力正在增加风险，因为网站竞相吸引年轻用户的注意力，让他们不断浏览自己的动态。

　　莫莉的父亲、莫莉·罗斯基金会理事主席伊恩·拉塞尔说:“本周，当我们应该庆祝莫莉的21岁生日时，看到网上伤害的可怕规模，以及自莫莉去世以来社交媒体平台上的变化如此之小，我们感到很难过。”

　　“科技公司不解决它们造成的可预防伤害的时间越长，就越不可原谅。在莫莉去世六年后，这必须被视为一种根本性的系统性失败，将继续让年轻的生命付出代价。

　　“就在莫莉被大量危险内容轰炸得不知所措时，我们发现了算法向数百万年轻人推送有害内容的证据。

　　“这必须停止。人们越来越难以将科技公司的行为视为有意识的商业决定，让有害内容达到天文数字的范围，同时忽视了通过保存有害帖子并可能‘疯狂观看’数以万计的帖子而获利的痛苦。”

　　罗素补充称，调查结果突显了新的《网络安全法》(online Safety Act)的重要性，新的网络安全监管机构英国通信管理局(Ofcom)需要在如何根据新法律追究社交媒体平台的责任方面“大胆”一些。

　　他说:“我们的调查结果显示了Ofcom面临的挑战的规模，并强调了他们需要建立大胆而雄心勃勃的监管制度，以提供更强的安全标准，保护年轻的生命。”

　　作为对该报告的回应，科技部长米歇尔·多尼兰表示，社交媒体公司“仍然对可怕的自杀和自残内容视而不见”，这是“卑鄙和不可原谅的”。

　　她说:“这就是为什么《网络安全法》包括许多保护成人和儿童免受此类内容侵害的措施的原因之一。”

　　“Ofcom正在就该法案将带来的非法损害义务进行咨询，以便社交媒体公司了解对他们的期望，这意味着法律可以尽快实施。”

　　“这些公司不能等待，而是应该立即采取行动，以确保我们不会看到更多像莫莉这样的悲惨故事，我将在不久的会议上直接向他们提出这个问题。”

　　拥有Instagram的meta公司发言人表示:“我们希望青少年在Instagram上有安全、适合他们年龄的体验，并与专家密切合作，制定了我们处理自杀和自残内容的方法，目的是在防止人们看到敏感内容与给人们空间谈论自己的经历和寻求支持之间取得重要平衡。”

　　“我们已经建立了30多个工具来支持青少年和家庭，包括我们的敏感内容控制，它限制了青少年被推荐的内容类型。

　　“我们将继续寻找更多的方法来帮助青少年获得适合他们年龄的在线体验，并将宣布进一步的发展，旨在使青少年更难发现潜在的敏感内容。”

　　Pinterest的一位发言人表示:“Pinterest致力于为每个人创造一个安全的平台。

　　“我们正在不断更新有关自残内容的政策和执法实践，包括屏蔽敏感搜索词和改进我们的机器学习模型，以便尽快发现和删除这些内容。”

　　TikTok的一位发言人表示:“在TikTok上禁止宣传自残或自杀的内容，正如报告所强调的那样，我们严格执行这些规定，在向我们举报之前删除了98%的自杀内容。

　　“我们不断投资于多样化的推荐方式，屏蔽有害的搜索词，并为任何需要帮助的人提供撒玛利亚人的帮助。”