谁能拦住那条“网暴”信息

文｜南方周末记者 韩谦

南方周末特约撰稿 冯佳琪

南方周末实习生 李旻卿

责任编辑｜吴筱羽

2022年5月12日，刘学州家属委托律师发表声明，称已搜集、固定了刘学州生前所受网络暴力的证据，并提交到法院。

三个多月前，这位15岁的河北寻亲少年在海南三亚服药自杀。遗书中，他提到在社交网络上承受了“太多太多”的攻击、谩骂。

事后，微博方对这一情况进行了核查，认为个别用户的确存在人身攻击言论，对40个违规账号永久禁言，52个账号禁言180天至1年。

前述律师声明中，还向新浪微博、知乎等平台提出建议：集中筛查仍在侵犯刘学州及其亲属的链接，处罚有关账号；积极响应投诉人的投诉请求。

在网暴受害者诉诸法律前，平台监管是他们应对侮辱、攻击性言论的第一防线。4月24日，中央网信办发布消息，将部署开展网络暴力专项治理行动，聚焦网络暴力易发多发、社会影响力大的18家网站平台，通过建立完善监测识别、实时保护、干预处置、溯源追责、宣传曝光等措施，对平台进行全链条治理。

中国人民大学法学院教授石佳友认为，民法典已经对网络暴力发生后的平台处置责任进行了详尽的规范，目前更复杂的环节是在事前预警，还没有相应的法律法规对平台提出具备可操作性的要求。

在他看来，头部社交媒体应起到示范作用，另外，行业内可以建立自律公约，“监管部门能做的往往是事后处罚。行业自律可以做到更有效的事前预防”。

那么对互联网用户来说，目前各大平台已经出台哪些措施，可以让用户防止自己遭受网暴？

日前，南方周末记者对微博、抖音、快手、豆瓣、知乎、小红书6家社交平台中的防网暴相关功能进行了测试。

“网络空间最大的特点，或者说是最可怕的，就是用户数量的无限性。”在石佳友看来，这正是网络暴力带来的社会性死亡威力巨大的原因所在。

英国独立记者、作家乔恩·罗森曾花3年时间周游世界，拜访众多网暴事件的受害者，并出版了著作《千夫所指：社交网络时代的道德制裁》。他曾在一场演讲中回忆，推特刚上线时，人们还会随意爆一些自己的丑事，“其他人会说，‘天啊，我跟你一样。’现在呢，人人都在抓别人的丑事。若在推文中说错了只言片语，一切就都完了。”

在社交平台，用户间的交流无外乎发表评论，或者发送私信。在这场互动中，用户只需要动动手指，按下发送键。

而在上述6家平台中，除知乎外，陌生人间的交流并非畅通无阻。测试中，南方周末记者发现，平台本身对此就设定了硬性限制，用户还可以进一步选择更严格的设置。对互动对象的限制，让网暴行为被扼杀在了摇篮里。并且，近年来这一限制愈发严格。

在豆瓣、小红书，对于未互相关注且未在私信中有过对话的陌生人，在自己回复前，只能收到对方发来3条私信；这个数字在快手、抖音为1条。此外，小红书用户一天最多只能向5个未关注的人发送私信。

2022年5月9日，抖音官方发布消息，为了持续加强网暴行为治理，再次调整了私信功能：用户若回复未关注人的信息，则与对方开启单次临时会话，但仅限文字交流，有效期24小时。超过这一期限，未关注人将再次受到发送消息的限制。这项24小时临时会话功能正在测试中。

在豆瓣，系统还对新注册用户或近期有过违规的用户设置了更严苛的规则。他们无法直接向陌生人发送私信，需先向私信对象发送聊天请求，得到回应后，才可以发消息。

除了系统硬性设置外，在上述5家平台，用户都可以分别设置私信、评论对象的范围，可选项大致有所有人、互相关注的好友、粉丝和关闭4种。

网暴往往带来可怕后果的一个原因，在于“人肉搜索”。当网暴发生在某人身上时，他/她此前在社交平台上发布的动态，往往会被网民抽丝剥茧，进一步解读，产生新的攻击点。

刘学州在微博里发布过自己在三亚旅行的照片，穿着带有名牌logo的衣物。这些元素，在网暴者的评论中，被指为并非如自己所说家境贫寒，“有心机”，是“诈骗犯”。他在遗书中解释，那些名牌不过是自己存钱买的高仿，去三亚玩，本就是想逃离经历的一切对自己的不公。

对于防范隐私泄露，除知乎外的5家平台上，用户都可以设置动态的浏览权限，大致有公开可见、粉丝或朋友可见和仅自己可见3类选项。

在抖音和快手，账号还可以被设置为私密——只有粉丝可以看到主页作品，且关注请求需要经过批准。

豆瓣则对个人主页的信息展示有更细致的可见范围选项。例如，在主页可展示范围中，对未关注自己或关注不足30天的人，可设置对方只能查看主页半年内的10条动态，相册、日记等信息均不可见；用户发生关注某一话题、加入小组等社区行为时，也可以选择相关信息的可见范围等。

这和豆瓣用户的使用需求更为私密有关。作为基于兴趣的陌生人社区，豆瓣用户间的交流更多围绕在书影音作品和小众兴趣领域，动态都用于个人记录或与有限用户分享，较少发生大规模公众传播。

与之对应，知乎几乎未在这一环节有所限制，这或许是因为它定位为知识分享型社区，个人主页较少涉及个人隐私。

用户间信息一旦发出，下一步是系统对信息内容的审核，主要通过关键词词库过滤。词库范围也在不断变化，刘学州事件后，微博就发布声明，称将大幅增加互动中的“不友善”关键词规模，例如“丑八怪”“绿茶婊”等。

在对平台功能的测试中，南方周末记者尝试在评论及私信中发送10个带有侮辱性质的词汇，各平台都对这些词汇有不同程度拦截。

不同平台对评论、私信的把控尺度有所区别。在这10个词汇中，除豆瓣的私信、评论屏蔽词汇数量相同外，其余平台私信可发送的词汇数量多于评论。也就是说，评论比私信的审核更为严密。

二者差异最大的是小红书。发送私信时，仅1条信息不可见；而在评论中，10条信息均被拦截。

知乎相关负责人向南方周末记者解释，这是因为评论的可见范围广、互动多，私信则针对性强、用户体验感知显著，两种场景存在巨大差异，不适宜做统一管理。

微博对私信、评论的审核均较为严格，分别拦截了6条、8条信息。抖音和豆瓣拦截词汇的数量相对较低：抖音对私信为零拦截，评论拦截1条；豆瓣在这两类信息中均拦截2条。

发送的评论被拦截后，被评论者和其余网友均无法查看，部分平台的页面上会提示已过滤不当言论。

在抖音和知乎，这中间还多了道程序：评论者在发出违规评论后，系统会自动发出提醒，建议评论者修改。若评论者仍执意选择发送这则信息，被评论者也同样无法接收。

此外，在微博和知乎，用户还可以选择是否开启更严格的防护功能，微博的这一功能被称为“评论防火墙”，只能用于对评论区的防护。这一功能介绍中注释，开启这一功能后，系统会对评论进行更加严格的审查，“屏蔽疑似人身攻击和垃圾骚扰的评论内容，但同时可能有一定几率会误伤正常评论”。

知乎的瓦力保镖功能是在2018年9月上线的，可以用于评论和私信两个场景。它也可以识别更多类型的不友善言论，“包括阴阳怪气、辱骂、歧视、骚扰、漠视生命、性别对立等多类型。”知乎方告诉南方周末记者。

测试中发现，在这一功能开启时，知乎对限制发布的词汇进行了分层管理。部分词汇在接收者处不显示，也有部分词汇如“丑八怪”“变态”等，虽然不直接拦截，但也不会直接显示，在评论中它们会被折叠，在私信中则显示为“点击显示消息详情”的链接。假如发送了3条被隐藏的内容，发送者的账号会被对方自动拉黑。

对此，知乎负责人表示，针对纯粹为攻击、辱骂词汇构成的内容，与词库完全匹配，会被直接隐藏或删除。对一些粗俗词汇，令人感官不适，但不能明确是否为纯粹攻击意图的，进行折叠，不做直接展示，如果用户有了解的主动需求，可以展开查看。

对于接收者未回复未关注人私信的前后，微博对违规词的限制也有所不同。接收者回应前，无法看到包含违规词的信息，而回复后，双方的私信对话内容就不再受限制。其他平台则一直保持对屏蔽词的限制。

有意思的是，6家平台中只有豆瓣，发布的内容一旦包含平台违规词汇，系统会弹出消息提醒，直接告知这则信息涉嫌违规，无法发布。在小红书上，少量违规词汇发布后会弹出这类提醒。其余平台上，违规词汇发布者都不会受到警告或处罚，甚至他们仍能看到自己的评论出现在评论区，不知道它其实未能抵达接收者。

在中国社科院大学互联网法治研究中心执行主任刘晓春看来，对关键词过滤的模式无法穷尽所有攻击，很难提炼出一个标准化的监控模式。而如果设置标准太高，则可能会影响用户正常的言论表达，影响用户体验。

若有包含侮辱、诽谤性质的信息成了“漏网之鱼”，最终抵达接收者，那还有最后的救济渠道：投诉。

刘学州家属委托律师发表声明中提到，律师在对侵权链接向各网络平台投诉时，发现部分网络平台投诉程序繁琐，投诉响应滞后，投诉人无法第一时间直接联系到平台方。

南方周末记者对各平台的响应速度进行了测试。在向各平台投诉同一内容的私信信息后，抖音、快手在20分钟内回应，投诉成立的话，违规账号分别禁止发送私信1或2天。知乎的回应时间在50分钟左右，且随着被投诉次数的增加，惩罚力度也在叠加。小红书约四小时左右回应，投诉未通过；微博、豆瓣则没有回应。

“每个人都深受伤害。他们说自己感到抑郁、焦虑、失眠，甚至想过自杀。”乔恩·罗森在前述演讲中提到，他采访的数位网络暴力受害者，遭受网暴的伤害都很难在短时间内消失。一位女士因为说了句玩笑话而遭到谩骂，后来，她把自己关在家足足一年半。

当成千上万的恶意信息来袭时，当事人往往无法理性思考，采取足够的自我保护手段，即便无数人给出的建议无外乎一条——断网。

紧急情况下，除了限制互动对象、过滤不当言论等常态化保护措施外，平台还能做些什么？

网络暴力悲剧直接催动了平台针对短期内隐私遭到严重损害的用户，出台更严密的保护措施。

2022年3月3日，微博方发布消息，为减少及预防类似事件发生，平台将上线一键开启“防暴模式”。在这一模式下，用户无法接收未关注人的转发、评论和私信。如果用户收到大量非正常评论，系统将弹窗提示用户是否开启隐私防护。

这项功能自3月11日开始测试，4月14日起面向所有用户开放。与之类似，豆瓣也在3月25日推出了应急防护功能。

和常态保护措施相比，应急防护有什么特点？豆瓣相关负责人回复南方周末记者，这一模式是高强度、短期的，且有明确防护目的。应急状态下，所应之“急”成了用户面对的最重要问题，“一定程度上牺牲了部分自由交流和分享的途径”。

这也解释了两家平台为何都为这一功能设定了时间期限，微博的防护期是开启当日起7天，豆瓣则可以选择3天、7天或14天。当然，防护期限结束后，用户还可以再次开启。

微博官方对这一功能的解释为，开启后，7天内不再接受未关注人的私信、评论和转发。南方周末记者对平台功能的测试中发现，对未关注但有过私信交流的网民，仍可发送私信、转发信息。

豆瓣的应急防护模式仍注重对个人主页信息的隐藏，以防有人挖掘隐私。用户一旦开启这一模式，只有自己关注的人，才能查看该用户的主页；未经同意的陌生人无法再发送私信；不友善的评论也会被隐藏。另外，广播、日记、相册会被设置为仅关注人可回复，可以禁止内容的转发和收藏。

豆瓣方表示，在对应急防护模式的方案进行了多轮讨论、调整后，一些原本设计的功能被单独抽出，成了常态化保护的一部分。例如，黑名单保护功能原本只屏蔽被拉黑者对用户的互动，现在，这一功能被更改为双方的个人主页互不可见，互动也双向屏蔽。

刘晓春建议，除了对这类短期易被网暴群体的特殊防护外，还可以增强对未成年人等易受伤害群体的保护，开发针对性功能。

另外，刘晓春认为，目前网暴的施加者除了普通网民，还有一些出自有组织性、产业化的组织。社交平台可以总结这类情况的规律，对此建立黑名单，相关部门也需要加大对这类“黑灰产”的打击力度。

当然，只依靠平台治理无法完全阻止网暴行为发生。在一些情况下，平台也难以确认行为人是否存在侵害名誉等涉嫌网暴行为。

例如，网民对某一事件当事人向公众筹集捐款的去向产生质疑，由于平台无权查证捐款明细，无法判断到底是合理怀疑，还是对当事人的诽谤。

在石佳友看来，平台只能进行形式审查而非实质审查，在这种情况下，不应当让平台承担过多的压力，专业的问题只能通过司法程序解决。“不论是平台，还是监管部门，都应当在保障用户的言论自由和人格权间找到一个妥当的平衡。”

乔恩·罗森的一名受访对象为了挽回自己形象，曾聘请一家名誉管理公司，在网络上发布了有关她爱猫、度假的内容。这些故事在短时间内成功把之前的“丑事”挤出了搜索引擎前列，然而几星期后，“丑事”又回来了。

“这是不是意味着我们（对付网暴）没戏了？”主持人问他。

“我认为，我们现在能做的，就是一旦发现有人在信口开河地乱喷，就应该大声指出来。如果语言攻击发生时，有不同的声音在表达不同观点，杀伤力会小很多。”乔恩·罗森说。