Redian新闻
>
审核员自述:亲手封掉网红 但我早已封麻了

审核员自述:亲手封掉网红 但我早已封麻了

科技新闻

” 那天郭子直播连着说了五次「x 你妈」,平台语音转文字只显示了四次,我就给她放过去了,然后我们组长那边说有人举报,让我再听听,我一听确实是五次,就给她封了。”

创造 ” 集美 ” 等热梗的整活儿大主播 ” 迷人的郭老师 ” 被全网封杀之前,豆豆这样的大厂审核员曾把她一次又一次地打进小黑屋。在短视频与低俗二字深度绑定的蛮荒年代,”x 你妈 ” 和莆田鞋,都需要豆豆这样的基层审核员以每小时 1200 到 1300 个片段的速度手动处理,三班轮换,24 小时 365 天有人在岗。

图源:b 站 up 主「Miuta 喵太阳」

郭老师在豆豆这被封掉之后,很快就会去他女朋友审核的另一家短视频平台开播,” 因为平台之间规则不一样,所以他们会流窜,粉丝肯定也跟着跑 “。对于豆豆远在北京总部的产品和运营同学们来说,这种流动或许意味着竞争对手又吃掉了自己的一块流量,但豆豆要做的事情只有三件:观看,判断,封掉或放过。

“「x 你妈」四次不用封,五次才封,这就是规则。”

没有无缘无故的抽象,只有越来越细的规则

” 规则 ” 是豆豆提及最多的一个词。

豆豆主要负责平台的直播审核,2019 年底入职不久,就正面碰上了疫情开始后平台的爆发式增长,越来越多的用户开播,本来几十页的规则文档很快就不够用了,” 整活儿的方法越来越多,尤其是直播打 PK 的惩罚,扇嘴巴子是轻的,吃屎喝尿的都有。”

他认为,这种没有底线的 ” 狠活儿 ” 是层出不穷的,算法不是没用,而是做技术的人也很难想象和预判主播能干出这种事,所以只能靠他们这样的真人审核做判断和处理。公司提供的技术平台可以让他们不必一直盯着直播间,而是定时把直播截图和语音转文字的结果推送到审核员面前,这对效率的提升是指数级的。

「百特曼」是早期短视频整活儿主播之一,以自我伤害为个人特色

作为近五年全球扩张最凶猛的互联网独角兽之一,这家公司已经能够做到通过技术捕获具体的直播行为,并打上标签。

具体来说,直播中是完全禁止抽烟的,但有的主播会躲到镜头之外抽一口再回来,豆豆刚入职时这种规避动作是抓不到的,抓到后具体的封禁手段也需要查阅规则文档。而几个月之后,算法已经可以自动识别飘到镜头范围内的烟雾,或者主播嘴里没吐干净的烟,并直接打上 ” 吸烟 ” 标签,豆豆只需要二次判断并点击标签,就可以直接链接到对应的封禁措施自动处理。

直播中饮酒和性暗示也是审核的重点。

在细化规则出台之前,豆豆只能自行判断主播手里的 ” 黄色饮料 ” 到底是不是啤酒,因为申诉的人多,规则相应改成有一指高泡沫的黄色饮料一律可以当作饮酒处理,虽然还有 ” 误杀 ” 的可能性,但 ” 有了规矩,事儿就比较好办 “。女主播跳舞也有类似的 ” 一指规则 “,” 以前女主播跳舞我们默认可以露一指长的乳沟 “,再多就算 ” 裸露敏感部位 “,监管收紧之后,这类行为一律无法过审。

” 穿泳裤冬泳算露点,但是穿蜘蛛侠紧身衣没事儿,因为一般都穿了内衣,就没在规则里。”

豆豆和他的同事都是以数百人的规模被批量招入大厂的,除了细心和耐心,唯一的能力要求就是 ” 要对敏感的内容足够敏感 “,色情、低俗的内容比较容易达成共识,但如果涉及黑产、时事政治和海外内容,如果受教育程度不够,就很难及时处理,而这类内容无疑比单纯的低俗表达更具威胁性。

” 定期上外网了解最新的东西是有必要的,公司会给我们提供这方面的硬件条件去看。” 豆豆处理过以直播聊天为幌子,背后悬挂邪教旗帜的主播,那面旗子和红十字会的标志类似,稍不小心就会错过。主播 “91 不见星空 ” 直播只给一个面部特写,一前一后地晃,豆豆出于直觉先给了短期封禁,后来果然在海外平台找到了同样 ID 的福利姬。

在所有的审核规则里,用户举报的级别相对较高,有用户在直播评论里 ” 钓鱼 “,诱导主播说出涉及政治的敏感词谐音,再点举报,审核员就必须第一时间回看切片处理,” 但是举报理由不重要,有人在里面发黄图,我们也不知道为什么。”

豆豆觉得他的同事里一定有人在给外面透露消息,否则就是聪明人实在太多,” 他们总有办法绕过去,规则一被突破,上面就会出新的规则,然后开会拉齐。”

对审核员来说,规则的不断增补变动和开会拉齐,是比枯燥的审核工作更熬人的事情,因为规则一变,本来能过的内容就有可能出现误判,” 一周至少拉齐一两次,三五次误判,你的绩效考核就没法看了 “。

作为游戏玩家,豆豆认为审核规则就像不停更新的游戏日志一样,只不过几乎每天都在迭代,但永远也没有尽头。虽然公司的算法能力路人皆知,但有人感觉得到审核是人工的,” 有个叫‘朝阳冬泳怪鸽’的主播专挑早上四五点的时候开播,也不说话,就在河边打快板,他是早起,但我们都是熬夜审的,” 审核员无法预测主播什么时候会把衣服一脱开始冬泳,只能轮班盯着不放。

所谓的 ” 抽象 ” 不是一天练成的,而是一种逐渐演化出来的,对规则的对抗。

审核组长百里挑一,升迁总部遥遥无期

作为本科毕业生,豆豆算同行里较为幸运的一个,与如今审核岗多由劳务公司代理外包不同,他签约的主体是大厂在当地的全资子公司。

大厂一贯出手阔绰,和北京总部的同事们一样,享受各类补贴和当地最高比例的公积金额度,拿满十三薪之后,比当地的城镇居民平均收入高出 50% 左右,每年还会有小幅提升,在当地,这算是一份不错的工作,也足以让豆豆供上一辆坦克 300 的车贷。

但豆豆说,他是被学长忽悠进去做审核的。

” 和我同期进来的有大概三五百人,因为子公司招人学历不能低于大学本科,所以也有 985 的毕业生,工作太难找了,不然我估计也不会有这么多人来。”

大厂为审核工作包下了当地一幢新落成的 20 层写字楼,每层都能容纳一拨新人,并配有能按摩和塞满行军床的休息室,即便如此,在两周的培训和两个月的适应期之后,离开的人也接近半数。” 这个地方不像电子厂,人家一个季度可能只需要组装一种产品,我们是天天在变,天天学习,不是一般人能熬得下来的。”

在这个工作流程中,一次审核被称为一个 “case”,而一个 case 则需要经过三个审核员的合作判断,如果判断有出入,就会被提交组长进入质检流程,误判行为会被记录下来,判错和审核总量的综合结果会决定一个审核员是否会被末位淘汰。一个组长会分管大约三五十人的小组,而要想成为组长,则需要至少两到三年的从业经验。最能熬的人会向上进入质检岗位,手上掌握后辈们的生杀大权。但豆豆认为:” 他们不是审得好,是来得早。”

图源:Pexels

然而质检和组长在负责产品的总部同事面前也处于弱势地位,一次产品迭代就意味着审核规则的大规模变动。” 有个负责二次元产品的总部同事过来培训,看着也就和我差不多大,半个小时的内容足够让我们开会拉齐八次,老同志们脸都黑了。”

这款公司新开发的产品主打 12 至 18 岁的青少年二次元爱好者,主要内容包括《喜羊羊与灰太狼》以及《熊出没》的同人文,要审核清楚就需要从头学习用户常用的梗和语言习惯,这对于每天要审核近万条内容的审核员来说是巨大的负担,但他们没有选择,能做的也只有三件事:服从,学习和继续审核。

总部的战略变化影响则更加隐秘一些,用豆豆的话说:” 去年一年,可以说是从大整活时代转向了大带货时代 “。

各大平台开始投入大量资源布局直播带货,相关的审核工作也从以价格为尺度封禁假货,变成了更具体的综合策略。玉石、汽车等高成交价品类的主播需要缴纳高额保证金,也会更愿意向平台购买流量,很多 4S 店会请女主播穿黑丝带货,游走在规则边缘,” 我们该封的还是会封,但上面的人会放过去,我们封掉没一会儿就会解封 “。据豆豆推测,这种安排是上游的产品和运营同事有意为之,因为这些主播能给平台带来更高的成交额,所以才获得了审核上的豁免权。

豆豆所在的天津,是近年涌现的众多 ” 审核之都 ” 之一,这些城市青年劳动力富集,大多跟随互联网浪潮建立了一批相关产业园,再配上优惠税收政策,吸引了不少大厂落户,方圆五公里内就有腾讯、字节、b 站、快手和陌陌等互联网企业,像他一样的审核员来来往往,甚至越来越多,留下来的是百里挑一,升上去的更是凤毛麟角。

审核员的日常工作环境与电脑机房类似(示意图,图源:ChinaZ)

审核员的正常工作时间是常规的每天 8 小时,大厂也为他们提供了倒班、串休、加班费等应有的待遇,豆豆和总部同事的福利差距也在他可以接受的范围之内。根据教育部数据,2022 届高校毕业生将来到创纪录的 1076 万,豆豆所在的天津仅 2018 年就已经有超过 18 万人从大学毕业。大厂审核,是一个符合《劳动法》规范,能留住 985 大学生,且每年能够让这座城市产生过万就业岗位的工种,这些人将留在这里纳税、消费和购买住房,从数据上看,恐怕没有几座城市会拒绝它们落户。

” 找工作太难了 ” 正是从不刷短视频的豆豆愿意被学长 ” 骗 ” 的原因。

但豆豆只是一个普通的年轻人,24 小时连轴转的工作状态,在他看来就是 ” 拿命换钱 “,如果不是离家近,他可能也会像同期的同学们一样早早离开。直到年前一天的凌晨四点,救护车开到公司楼下,豆豆的一位同事被发现浑身抽搐、口吐白沫,他才真的开始感到害怕。

拿到年终奖之后,豆豆逃离了审核大楼。

” 现在转行去卖云服务了,累归累,但总比做审核强。”

戳这里提交新闻线索和高质量文章给我们。
来源: wenxuecity
相关阅读
原创公众号
J Immunol | 科学家识别出与机体免疫疾病发生密切相关的特殊蛋白—STAP-1湖南大学聂舟教授团队Nat Chem Bio | DNA功能化人工机械力受体用于细胞机械信号转导调控解读近期科学家们在合成生物学研究领域取得的最新进展!晚讯|九价HPV疫苗进口垄断即将打破、中国生物制药:全年营收262亿,创新产品收入近百亿噩耗!关西周游卡不仅要涨价,服务还缩水!以后关西自由行交通券怎么买?少年谋杀案后,一场未停下的追问从丰碑到旗帜——一代伟人的方寸叙说珍惜你手里的现金美签面谈新增领事馆!可以选择这个城市面谈啦!又到樱花季,日本签证办理攻略来啦!樱花错过又要等一年!外国商务人士在华工作生活指引(2024年版)! 美之信旅游提供协助外籍人士赴华签证服务!大量AI生成音乐诞生,音乐行业正在一夜变天董宇辉,变味了以前坑学生,现在教擦边。@某知名品牌,你们是害人上瘾吗?2024年度卫生资格考试考场规则!附准考证打印流程!看AI如何回答麻醉医生在手术室的地位纤支镜引导气管插管颅脑外伤手术麻醉AI重塑法律行业:为80%的工作带来10x提升一周资讯 | 美国2025财年H1B中签通知发放,澳洲留学签新政生效河南,竟然藏在青海!年轻人2024「懒洁癖」生活方式报告.pdfUnited Nation联合国社招!留学生有优势,28天+带薪假,全球多地有岗、天花板级别福利!社招丨Alibaba阿里国际社招岗位来袭,海外有岗,互联网大厂,13薪,多元奖金,偏爱留学生医药外企春招 | Novartis诺华2024春招开启!全球最大医药公司之一,健康保障,多样福利,适合留学生外企春招丨Shell壳牌2024届春招开启!500强外企,WLB,女性友好,2年工作经验可投,适合留学生追溯血脉,寻觅根源!中国侨网向全球征集线索!当一生都在打压控制我的妈妈,只剩下我可以依赖时恋爱老分手,你是不是拿错「爱情剧本」了?您已关注猫哥满1年,诚邀您加入内部易经交流群!扫码进!
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。