与低俗的区别：你知道“鉴黄师”吗？

　　　　继文字、图片、视频之后，随着技术升级与资本追捧，带有时间流这个第四种呈现维度的直播在过去一年里暴得大名，想在“风口”分得一杯羹的创业者众，想趁机抓住一根救命稻草的焦虑者众，于是不乏鱼龙混杂，急功近利中泥沙俱下。随之而来的，是一系列来自行政的规范肃清。2017年5月，文化部高调关停了涉嫌低俗传播的“千树”等10家表演平台，并对48家网络表演经营单位进行了处罚，关闭直播间30235间。

　　迅速野蛮生长后，除稗筛糠成了主流直播平台不敢掉以轻心要自我应对的事情，加上用户数量与日俱增，于是各家产品不得不快速跟进增设更多的内容审核员进入运营团队。一直播高级副总裁陈太锋告诉网易科技，比如公司由最初只审核旗下秒拍内容的几十人，到后来有了小咖秀、一直播等产品，现在做内容审核的“整个加起来将近七八百号人”。

　　虽然这似乎是一个看起来并不需要什么鲜明特长的群体，甚至做的事情“类似富士康这种流水线的工作”，但由于工作性质微妙，仍略带神秘感，也有外界声音把他们称作“鉴黄师”。

　　“这是谐音字，你好好念念”

　　“其实还不一样，到鉴黄师这个级别，他们就不做初级审核员这些工作了，他们会创造和制定规则”，林达认真地告诉网易科技，所以目前国内绝大部分从事直播内容过滤的相关工作人员，称为“内容审核员”是更严谨的说法。

　　好像在叙述一款升级打怪的手游。

　　林达今年24岁，小时候随父母来到北京生活，便再没有回陕西老家长住过。2015年大学毕业，去年入职花椒直播做了内容审核员，和朋友们一块儿吃饭时大家聊起来，别人问他：“你现在是不是有点网络警察的感觉啊?”“对。”他觉得这个比喻很受用。

　　马可也不大喜欢别人用“鉴黄师”三个字来概括自己在人人直播的内容审核工作，2016年春节过后，人人网尝试上线了初版直播平台，从原运营团队抽拔了一部分人转做直播内容审核，不过由于体量有限，直到后来有新人继续补充加入，整个审核团队也不过保持在二三十人左右的状态。马可特意强调他们做的不仅仅是基础审核，由于主要面向校园人群，相对单纯，所以平时还有很大一部分工作内容是和主播沟通交流、甚至提些优化建议的更有“运营”技术含量的事情。

　　而无论哪家平台，对于内容审核员来说最常规的工作方式，就是面对屏幕“大家来找茬儿”。据网易科技了解，比如人人直播后台审核，一张电脑屏平时可同时监管9个直播间;花椒直播目前采用的是双屏监控，同时可在线观察20路视频，在高峰期甚至会让每个审核员扩展到同时监管50路。

　　嗯，《封神演义》中的“眼观四面，耳听八方”也不过如此……

　　除此之外，各主流平台目前也都在不同程度采用人工智能做前期过滤，对于疑似存在问题的图像或语音内容进行标红提示。陈太锋透露，一直播就在同时采用人脸识别技术、爆恐音频过滤以及视频指纹过滤等方式来对人工审核进行辅助。

　　对于所有平台来说，审核最主要的关注点无非是包括对主播的穿着、语言、房间布置等等是否违禁的判断，判断标准主要参考各家平台自制的内部规范手册，这类手册往往可以细化到这样的程度：如果以5号宋体字排版、用A4纸打印，装订起来能有300页之多，而且还在动态增补。审核员需要在入职前经过一周到一个月时间不等的培训、考试，全部通过后，才正式上岗。而考核指标主要来自两方面：一是错误率，一是工作量。

　　当审核员看到主播在直播过程中有涉嫌违规时，对有触线倾向或轻度触线者会在后台给出警告提示，对于无视提醒或重度违规者则直接令其下线，给予几个小时到一个月，甚至永久封禁的处罚。

　　但是不同直播平台在具体操作方面会略有不同。有一直播这一类图文同审，也有花椒这种做影像与文字分离审核。林达告诉网易科技，由于审核规则设置极为细致，为个体做判断的过程增加了难度，所以花椒目前是专人专项做审核，文字、图片与视频分离，比如对于文字内容，要查看包括飘屏、评论、状态页介绍等内容，必要时甚至会查看私信。

　　敏感词库也是直播平台标配之一，并且各平台在日积月累实时添加大量敏感词，“我们有时候私底下坐一块儿，你去想，你也去想，就找(某个敏感词的)谐音……你想想，中国汉字(这么多)，比如跟‘微信’这两个字谐音的就得有多少?……(不安分的用户)他们一直在想一些(关联)字，虽然乍一看跟那些乱七八糟的八竿子打不着，但是别的用户可能一看就知道是什么意思那种。”林达说，有一次总监去参加“防爆培训”，回来立马把1000多个敏感词加入了后台词库，“那些词，(当时)我自己都不知道是什么东西。”

　　这类工作做久了，也容易产生职业敏感，有一次林达看到父亲正在用一款音乐类的社交App，“我就问他，你觉得这个人没有问题吗?他说没有啊，唱歌的小姑娘长得还挺好看的。我就说：这是谐音字，你好好念念。”

　　当时屏幕上显示的几个字是“伍佰肄业”。当然，想讲述的显然并不是歌手伍佰没能顺利毕业的故事。

　　“我们被对手黑了，还上了微博热搜”

　　某直播平台员工沈浪向网易科技抱怨道，有一天晚上其平台突然出现三个戴着口罩但明显涉嫌传播色情内容的人员，迅速直播，迅速下线。第二天关于该事件的消息铺天盖地传开，并且上了微博热搜。“但是我们技术一筛查，发现这三个人是同一个开播地点，连IP都一样，后来发现是竞品直播平台雇人来抹黑的，他们还没开始播，就提前把录制软件打开，播完自己再去看录像，然后截图发通稿，发给了很多媒体。”

　　但是这件事情最终仍然不了了之，没有走法律程序解决。“因为你知道打官司的话，其实要很长时间……而且这家公司我们还是比较了解的，估计老板之间(关系还不错)，也互相说了下，就算了。”

　　除此之外，还有一些内容是直播平台一般不允许触碰的，比如讨债，因为在这过程中极容易产生肢体或语言暴力。但依然有不少直播平台在乐视风波的风口中浪尖直播了某次供应商前去乐视大厦讨债的情况。

　　“因为讨债也分文明讨债跟暴力讨债。碰到过文明的，全程一个脏字没有，就是过去要钱去了，这就可以直播，比如乐视那次，而且很多媒体都在。”一位内容审核员介绍，当天领导跟他说的是：把直播间盯住了，万一出现暴乱，立马及时给我停掉。

　　“但谁都喜欢看热闹啊，比如要是我在竞品平台看到了爆料，我巴不得多看一会儿。但如果发现自己平台有这些内容，我是坚决不允许的。”该审核员实诚地说。

　　三个月前，美国社交网站Facebook创始人扎克伯格宣布公司将新增3000名内容审核员加入其团队，来审查用户在直播过程中是否涉及仇恨言论、虐待儿童、谋杀、自残等暴力内容。

　　沈浪说自己也在国内媒体看到过一两次报道，“就是关于直播自杀，但你知道，这种往往是最后没自杀，很多都是年轻人闹分手。你知道小孩子有一种情绪，就是哭的时候会捂脸，但他还会偷偷看你，就是这种心理。”

　　随着外界对直播产品玩法的熟悉程度深入，也出现不少隐蔽性较高的敏感信息传播方式，乍一看并没有明显违规，但仍存在问题。一直播平台内容审核员胡哲告诉网易科技，其操作方式一般是先看画面再听声音，并且会关注房间里评论的弹幕数量。“如果这个房间的弹幕和评论数量突然增加，那应该就会有些问题，要及时去判断。”

　　声音的识别是目前做内容审核的主要难点之一。林达甚至觉得声音上的判断是最难的，比如高峰期，一个人可以同时盯两个屏幕上的50路视频，画面上出现的问题很直观;文字但凡触碰敏感词，敏感词条数会不断上涨，也很容易监控。但只有把鼠标放到一路画面上，才能分辨那一路视频的声音如何，而人工智能的语音识别准确率现在还远不到位。“像Siri的语音识别也就是那个样子。”