Redian新闻
>
谁能拦住那条“网暴”信息

谁能拦住那条“网暴”信息

社会
▲ (农健/图)

全文共5369字,阅读大约需要13分钟

  • 乔恩·罗森回忆,推特刚上线时,人们还会随意爆一些自己的丑事,“其他人会说,‘天啊,我跟你一样。’现在呢,人人都在抓别人的丑事。”

    知乎相关负责人解释,这是因为评论的可见范围广、互动多,私信则针对性强、用户体验感知显著,两种场景存在巨大差异,不适宜做统一管理。

    6家平台中只有豆瓣,发布的内容一旦包含平台违规词汇,系统会弹出消息提醒,直接告知这则信息涉嫌违规,无法发布。


  • 文首发于南方周末 未经授权 不得转载


文|南方周末记者 韩谦

南方周末特约撰稿 冯佳琪

南方周末实习生 李旻卿

责任编辑|吴筱羽


2022年5月12日,刘学州家属委托律师发表声明,称已搜集、固定了刘学州生前所受网络暴力的证据,并提交到法院。


三个多月前,这位15岁的河北寻亲少年在海南三亚服药自杀。遗书中,他提到在社交网络上承受了“太多太多”的攻击、谩骂。


事后,微博方对这一情况进行了核查,认为个别用户的确存在人身攻击言论,对40个违规账号永久禁言,52个账号禁言180天至1年。


前述律师声明中,还向新浪微博、知乎等平台提出建议:集中筛查仍在侵犯刘学州及其亲属的链接,处罚有关账号;积极响应投诉人的投诉请求。


在网暴受害者诉诸法律前,平台监管是他们应对侮辱、攻击性言论的第一防线。4月24日,中央网信办发布消息,将部署开展网络暴力专项治理行动,聚焦网络暴力易发多发、社会影响力大的18家网站平台,通过建立完善监测识别、实时保护、干预处置、溯源追责、宣传曝光等措施,对平台进行全链条治理。


中国人民大学法学院教授石佳友认为,民法典已经对网络暴力发生后的平台处置责任进行了详尽的规范,目前更复杂的环节是在事前预警,还没有相应的法律法规对平台提出具备可操作性的要求。


在他看来,头部社交媒体应起到示范作用,另外,行业内可以建立自律公约,“监管部门能做的往往是事后处罚。行业自律可以做到更有效的事前预防”。


那么对互联网用户来说,目前各大平台已经出台哪些措施,可以让用户防止自己遭受网暴?


日前,南方周末记者对微博、抖音、快手、豆瓣、知乎、小红书6家社交平台中的防网暴相关功能进行了测试。


1

限制互动关系


“网络空间最大的特点,或者说是最可怕的,就是用户数量的无限性。”在石佳友看来,这正是网络暴力带来的社会性死亡威力巨大的原因所在。


英国独立记者、作家乔恩·罗森曾花3年时间周游世界,拜访众多网暴事件的受害者,并出版了著作《千夫所指:社交网络时代的道德制裁》。他曾在一场演讲中回忆,推特刚上线时,人们还会随意爆一些自己的丑事,“其他人会说,‘天啊,我跟你一样。’现在呢,人人都在抓别人的丑事。若在推文中说错了只言片语,一切就都完了。”


在社交平台,用户间的交流无外乎发表评论,或者发送私信。在这场互动中,用户只需要动动手指,按下发送键。


而在上述6家平台中,除知乎外,陌生人间的交流并非畅通无阻。测试中,南方周末记者发现,平台本身对此就设定了硬性限制,用户还可以进一步选择更严格的设置。对互动对象的限制,让网暴行为被扼杀在了摇篮里。并且,近年来这一限制愈发严格。


在豆瓣、小红书,对于未互相关注且未在私信中有过对话的陌生人,在自己回复前,只能收到对方发来3条私信;这个数字在快手、抖音为1条。此外,小红书用户一天最多只能向5个未关注的人发送私信。


2022年5月9日,抖音官方发布消息,为了持续加强网暴行为治理,再次调整了私信功能:用户若回复未关注人的信息,则与对方开启单次临时会话,但仅限文字交流,有效期24小时。超过这一期限,未关注人将再次受到发送消息的限制。这项24小时临时会话功能正在测试中。


在豆瓣,系统还对新注册用户或近期有过违规的用户设置了更严苛的规则。他们无法直接向陌生人发送私信,需先向私信对象发送聊天请求,得到回应后,才可以发消息。


除了系统硬性设置外,在上述5家平台,用户都可以分别设置私信、评论对象的范围,可选项大致有所有人、互相关注的好友、粉丝和关闭4种。


网暴往往带来可怕后果的一个原因,在于“人肉搜索”。当网暴发生在某人身上时,他/她此前在社交平台上发布的动态,往往会被网民抽丝剥茧,进一步解读,产生新的攻击点。


刘学州在微博里发布过自己在三亚旅行的照片,穿着带有名牌logo的衣物。这些元素,在网暴者的评论中,被指为并非如自己所说家境贫寒,“有心机”,是“诈骗犯”。他在遗书中解释,那些名牌不过是自己存钱买的高仿,去三亚玩,本就是想逃离经历的一切对自己的不公。


对于防范隐私泄露,除知乎外的5家平台上,用户都可以设置动态的浏览权限,大致有公开可见、粉丝或朋友可见和仅自己可见3类选项。


在抖音和快手,账号还可以被设置为私密——只有粉丝可以看到主页作品,且关注请求需要经过批准。


豆瓣则对个人主页的信息展示有更细致的可见范围选项。例如,在主页可展示范围中,对未关注自己或关注不足30天的人,可设置对方只能查看主页半年内的10条动态,相册、日记等信息均不可见;用户发生关注某一话题、加入小组等社区行为时,也可以选择相关信息的可见范围等。


这和豆瓣用户的使用需求更为私密有关。作为基于兴趣的陌生人社区,豆瓣用户间的交流更多围绕在书影音作品和小众兴趣领域,动态都用于个人记录或与有限用户分享,较少发生大规模公众传播。


与之对应,知乎几乎未在这一环节有所限制,这或许是因为它定位为知识分享型社区,个人主页较少涉及个人隐私。


2

过滤“不友善”关键词


用户间信息一旦发出,下一步是系统对信息内容的审核,主要通过关键词词库过滤。词库范围也在不断变化,刘学州事件后,微博就发布声明,称将大幅增加互动中的“不友善”关键词规模,例如“丑八怪”“绿茶婊”等。


在对平台功能的测试中,南方周末记者尝试在评论及私信中发送10个带有侮辱性质的词汇,各平台都对这些词汇有不同程度拦截。


不同平台对评论、私信的把控尺度有所区别。在这10个词汇中,除豆瓣的私信、评论屏蔽词汇数量相同外,其余平台私信可发送的词汇数量多于评论。也就是说,评论比私信的审核更为严密。


二者差异最大的是小红书。发送私信时,仅1条信息不可见;而在评论中,10条信息均被拦截。


知乎相关负责人向南方周末记者解释,这是因为评论的可见范围广、互动多,私信则针对性强、用户体验感知显著,两种场景存在巨大差异,不适宜做统一管理。


微博对私信、评论的审核均较为严格,分别拦截了6条、8条信息。抖音和豆瓣拦截词汇的数量相对较低:抖音对私信为零拦截,评论拦截1条;豆瓣在这两类信息中均拦截2条。


发送的评论被拦截后,被评论者和其余网友均无法查看,部分平台的页面上会提示已过滤不当言论。


在抖音和知乎,这中间还多了道程序:评论者在发出违规评论后,系统会自动发出提醒,建议评论者修改。若评论者仍执意选择发送这则信息,被评论者也同样无法接收。


此外,在微博和知乎,用户还可以选择是否开启更严格的防护功能,微博的这一功能被称为“评论防火墙”,只能用于对评论区的防护。这一功能介绍中注释,开启这一功能后,系统会对评论进行更加严格的审查,“屏蔽疑似人身攻击和垃圾骚扰的评论内容,但同时可能有一定几率会误伤正常评论”。


知乎的瓦力保镖功能是在2018年9月上线的,可以用于评论和私信两个场景。它也可以识别更多类型的不友善言论,“包括阴阳怪气、辱骂、歧视、骚扰、漠视生命、性别对立等多类型。”知乎方告诉南方周末记者。


测试中发现,在这一功能开启时,知乎对限制发布的词汇进行了分层管理。部分词汇在接收者处不显示,也有部分词汇如“丑八怪”“变态”等,虽然不直接拦截,但也不会直接显示,在评论中它们会被折叠,在私信中则显示为“点击显示消息详情”的链接。假如发送了3条被隐藏的内容,发送者的账号会被对方自动拉黑。


对此,知乎负责人表示,针对纯粹为攻击、辱骂词汇构成的内容,与词库完全匹配,会被直接隐藏或删除。对一些粗俗词汇,令人感官不适,但不能明确是否为纯粹攻击意图的,进行折叠,不做直接展示,如果用户有了解的主动需求,可以展开查看。


对于接收者未回复未关注人私信的前后,微博对违规词的限制也有所不同。接收者回应前,无法看到包含违规词的信息,而回复后,双方的私信对话内容就不再受限制。其他平台则一直保持对屏蔽词的限制。


有意思的是,6家平台中只有豆瓣,发布的内容一旦包含平台违规词汇,系统会弹出消息提醒,直接告知这则信息涉嫌违规,无法发布。在小红书上,少量违规词汇发布后会弹出这类提醒。其余平台上,违规词汇发布者都不会受到警告或处罚,甚至他们仍能看到自己的评论出现在评论区,不知道它其实未能抵达接收者。


在中国社科院大学互联网法治研究中心执行主任刘晓春看来,对关键词过滤的模式无法穷尽所有攻击,很难提炼出一个标准化的监控模式。而如果设置标准太高,则可能会影响用户正常的言论表达,影响用户体验。


若有包含侮辱、诽谤性质的信息成了“漏网之鱼”,最终抵达接收者,那还有最后的救济渠道:投诉。


刘学州家属委托律师发表声明中提到,律师在对侵权链接向各网络平台投诉时,发现部分网络平台投诉程序繁琐,投诉响应滞后,投诉人无法第一时间直接联系到平台方。


南方周末记者对各平台的响应速度进行了测试。在向各平台投诉同一内容的私信信息后,抖音、快手在20分钟内回应,投诉成立的话,违规账号分别禁止发送私信1或2天。知乎的回应时间在50分钟左右,且随着被投诉次数的增加,惩罚力度也在叠加。小红书约四小时左右回应,投诉未通过;微博、豆瓣则没有回应。


3

紧急“防暴”


“每个人都深受伤害。他们说自己感到抑郁、焦虑、失眠,甚至想过自杀。”乔恩·罗森在前述演讲中提到,他采访的数位网络暴力受害者,遭受网暴的伤害都很难在短时间内消失。一位女士因为说了句玩笑话而遭到谩骂,后来,她把自己关在家足足一年半。


当成千上万的恶意信息来袭时,当事人往往无法理性思考,采取足够的自我保护手段,即便无数人给出的建议无外乎一条——断网。


紧急情况下,除了限制互动对象、过滤不当言论等常态化保护措施外,平台还能做些什么?


网络暴力悲剧直接催动了平台针对短期内隐私遭到严重损害的用户,出台更严密的保护措施。


2022年3月3日,微博方发布消息,为减少及预防类似事件发生,平台将上线一键开启“防暴模式”。在这一模式下,用户无法接收未关注人的转发、评论和私信。如果用户收到大量非正常评论,系统将弹窗提示用户是否开启隐私防护。


这项功能自3月11日开始测试,4月14日起面向所有用户开放。与之类似,豆瓣也在3月25日推出了应急防护功能。


和常态保护措施相比,应急防护有什么特点?豆瓣相关负责人回复南方周末记者,这一模式是高强度、短期的,且有明确防护目的。应急状态下,所应之“急”成了用户面对的最重要问题,“一定程度上牺牲了部分自由交流和分享的途径”。


这也解释了两家平台为何都为这一功能设定了时间期限,微博的防护期是开启当日起7天,豆瓣则可以选择3天、7天或14天。当然,防护期限结束后,用户还可以再次开启。


微博官方对这一功能的解释为,开启后,7天内不再接受未关注人的私信、评论和转发。南方周末记者对平台功能的测试中发现,对未关注但有过私信交流的网民,仍可发送私信、转发信息。


豆瓣的应急防护模式仍注重对个人主页信息的隐藏,以防有人挖掘隐私。用户一旦开启这一模式,只有自己关注的人,才能查看该用户的主页;未经同意的陌生人无法再发送私信;不友善的评论也会被隐藏。另外,广播、日记、相册会被设置为仅关注人可回复,可以禁止内容的转发和收藏。


豆瓣方表示,在对应急防护模式的方案进行了多轮讨论、调整后,一些原本设计的功能被单独抽出,成了常态化保护的一部分。例如,黑名单保护功能原本只屏蔽被拉黑者对用户的互动,现在,这一功能被更改为双方的个人主页互不可见,互动也双向屏蔽。


刘晓春建议,除了对这类短期易被网暴群体的特殊防护外,还可以增强对未成年人等易受伤害群体的保护,开发针对性功能。


另外,刘晓春认为,目前网暴的施加者除了普通网民,还有一些出自有组织性、产业化的组织。社交平台可以总结这类情况的规律,对此建立黑名单,相关部门也需要加大对这类“黑灰产”的打击力度。


当然,只依靠平台治理无法完全阻止网暴行为发生。在一些情况下,平台也难以确认行为人是否存在侵害名誉等涉嫌网暴行为。


例如,网民对某一事件当事人向公众筹集捐款的去向产生质疑,由于平台无权查证捐款明细,无法判断到底是合理怀疑,还是对当事人的诽谤。


在石佳友看来,平台只能进行形式审查而非实质审查,在这种情况下,不应当让平台承担过多的压力,专业的问题只能通过司法程序解决。“不论是平台,还是监管部门,都应当在保障用户的言论自由和人格权间找到一个妥当的平衡。”


乔恩·罗森的一名受访对象为了挽回自己形象,曾聘请一家名誉管理公司,在网络上发布了有关她爱猫、度假的内容。这些故事在短时间内成功把之前的“丑事”挤出了搜索引擎前列,然而几星期后,“丑事”又回来了。


“这是不是意味着我们(对付网暴)没戏了?”主持人问他。


“我认为,我们现在能做的,就是一旦发现有人在信口开河地乱喷,就应该大声指出来。如果语言攻击发生时,有不同的声音在表达不同观点,杀伤力会小很多。”乔恩·罗森说。


其他人都在看:




微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
2岁女儿被“网暴”,林峰老婆为护女怒怼杠精,网友:这次我站她!五一档5天3亿,但市场仍然在等“复苏”信号看到他,我开始崇拜“网红”美国顶流激辩“完美风暴”耶伦认错,戴蒙改口:美国经济正迎来一场“风暴”只因晒了一张水果照,二胎妈妈被“网暴”了……张朝阳:“网红大佬”进化史余秀华疑被家暴背后,为何立法再修法我们仍无法实现“零家暴”?“完美风暴”席卷而过,全球市场上半年“一地鸡毛”?我学语文教语文的一生(35)唐山开展“雷霆风暴”行动,当地出现多起实名举报,又有6人被抓获彻底完蛋,和他们完全无法沟通了!和平与发展是需要武力去捍卫的10万网民正在集体“网暴”俄罗斯寡头们的游艇招生官细数推荐信条条“罪状”:是时候废除推荐信了!第一批因疫情“网课三年”的高中生,都怎么样了?银行“冲刺”信贷龙卷风健康快递 15511人被刑拘!长沙自建房倒塌事故第6天,那条没有回音的微信,刺痛全网…平局 | 小拜登他妈万里赶赴马里乌波尔,这条“大鱼”到底是谁?我在顶尖投行上“网课”前所未见!波士顿今晨迎来“花粉风暴”,天际线被染成黄绿色,过敏患者的噩梦!56条“要想生活过得去”指南美国成立打击虚假信息部门,却成为虚假信息的目标西域姑娘“网红摆拍”式看展,能否提振中国艺术市场?大学毕业后,我跑回村口卖鸭子,竟意外成为100w粉丝的“网红”“网红建筑”秒变“毁容建筑”,都是材料惹的祸!66岁“网红教授”真面目曝光:妻子离开后,我活成了这样……上海封控后,他们为50名眼癌患儿打通一条“复查路”哈尔滨惊现“网红坡”,冲坡后啥感觉?疼!剖析“余秀华遭小暖男家暴”:疯癫的天才遇上烂俗的小丑22岁“蜘蛛侠”徒手攀登加州最高楼,只为传递“反堕胎”信息!经历“完美风暴”后,社媒板块哪只个股可以买?唐山“雷霆风暴”背后,群众们的事解决得怎么样了?
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。