专业北京网站建设、网站制作、小程序app设计、北京企业网络推广.
累计服务已逾2,800家，领域涉及政府、生产、制造、信息、贸易等各行各业，每一个项目经验的积累，为我们即将服务更多的客户打下了坚实的基础与信心，每一位客户对我们工作的认可与好评，是搜扑互联不断奋斗的动力与源泉。我们时刻准备着迎接新挑战，把握新机遇，以更强大的团队、更专注的精神、更专业的服务品质与客户一起成长，与世界一起翱翔... |
|
|
|
|
当前位置:首页
> 北京网站设计> 文章列表 > 互联网“保安”的日与夜 北京企业网站设计 做网站 网站建设 北京设计网站 |
|
| 互联网“保安”的日与夜 北京企业网站设计 做网站 网站建设 北京设计网站 |
| 发布时间:2024-08-05 19:20:05
作者:北京网站建设 来源: 浏览次数:14次 |
北京企业网站设计 做网站 网站建设 北京设计网站
互联网“保安”的日与夜
经济观察报
经济观察网 记者 陈月芹 做了两年短视频审核员后，陈樊有时会分不清现实和网络世界。现实中听到有人骂脏话，不小心在马路上看到老鼠、流浪猫被轧流血，或是看到小孩出现在超市刀具区，他的第一反应都是：“毙”掉它。
陈樊的日常工作就是坐在电脑前，日复一日地速览千余条视频，识别其中低俗、涉黄或暴力等违反法律法规、公序良俗的内容，轻点鼠标和键盘，将其“打回”，不予发布。
每一个用户在互联网平台上看到、听到或传播的内容，包括文章、评论、声音、字幕、弹幕、广告、直播、用户头像、买家秀等，都需要经过互联网公司内容审核部门的筛选和监测。而在这些偌大的信息工厂里，每一条以不同形式呈现的内容都被放在流水线上，经过机器初筛和分类、人工审核、抽检、推流或限流等环节，分发到网络能到达的世界各个角落。
当用户为获得流量和关注花式“整活儿”时，各大平台也紧绷着弦儿，不断更新自身的审核规则，并将其通过算法、策略和人工审核等构成的一整套审核体系落地。仅人工审核环节，互联网大厂便需要数万名像陈樊这样的基层审核员，他们分布在全国的多个审核基地内，以分秒计地处理海量信息，三班轮换，24小时、365天在线把关。
实际上，几乎每家大厂都设置了审核岗，尤其是内容类平台，规模最大的当数字节跳动，其直接或间接雇用着数万名审核员，用“人墙”堆起了保障平台内容质量安全的“防火墙”。据不完全统计，国内互联网公司内容审核员的从业规模已经达到10万人以上。
某种程度上，审核员可以被视为内容流水线上的“数字工人”。但陈樊更愿意称自己为互联网“保安”，因为他的工作就是把不合规的内容拦在门外。
多审一条，三到五毛
“大厂”背后的“大厂”
审核员的工作性质，决定了内容审核行业具有人力密集型的特征。互联网大厂也在不断摸索方法，研究如何组建并管理庞大的审核业务。
公开信息显示，腾讯全资子公司腾讯云雀、腾讯瑞德铭等主要承接腾讯整个公司的内容审核业务，腾讯云雀旗下有西安、海南、武汉、天津等多个审核基地。B站的审核团队主要在南京、芜湖、成都，小红书的审核团队扎根武汉，快手则在成都、武汉、天津等地布局审核业务。
作为内容分发行业的巨头，字节跳动也在国内拥有大规模的内容审核团队，其下设的内容质量与数据服务平台（下称“字节CQC”），对今日头条、抖音、西瓜视频等十余款产品的内容安全与质量进行把关。
审核扛起了互联网公司内容质量保障和安全风控的重担。为了实现这一目的，字节跳动搭建了一个由算法、策略、人工审核构成的闭环控制系统，这也是拥有大量用户规模和内容基数的大厂开展内容审核的主流思路。
其中，人工审核是内容审核业务中最为外人熟知的环节。
字节CQC的管理人员苏昉向经济观察网透露，字节跳动将人工审核业务分给三类公司承接。第一类是字节跳动在全国设立的十余个审核基地，位于天津、济南、西安、武汉等地，员工签约主体为字节跳动子公司，享受字节跳动员工的福利待遇，这类业务被称为“内包”。第二类是“卫星城”项目，字节跳动把业务分流到大城市旁的小城市，如广东清远、四川内江等地，一线审核员用外包形式雇佣，管理岗位由字节跳动派驻。第三类是将非核心审核业务交由第三方公司的纯外包业务。这三类业务对审核员的招募要求不同，一般情况下，用工成本逐级递减。
字节跳动未披露过审核业务的具体信息，据财经媒体《晚点 LatePost》的报道，2021年初其审核团队已超2万人。苏昉透露，如今该审核团队的整体规模较3年前有所增长。
管理数万人规模的一线审核团队，不是一件易事。
和传统制造业相比，互联网平台生产的内容数量庞大、琐碎且复杂。以字节跳动为例，其平台上的内容涵盖文章、小说、图片、短视频、音频、直播、弹幕、评论、广告甚至用户头像、个人信息等，都需要审核。仅今日头条，日活跃用户数上亿，创作者每天上传的内容达百万篇量级。
苏昉说，互联网公司是靠数据指标来运转的，要完成某个产品的审核任务，需要先把所有内容拆解，细化成数百个、数千个项目，再制定审核规则，交给每个基地的团队去招人、培训、上机实操。而基地的管理层、字节CQC中台部门通过回收审核数据，来检验审核的结果，并不负责调整审核规则。
字节跳动人力资源部门前员工魏洵曾负责该公司某审核基地的人员招聘，如培训师、不同职级的管理岗等。他透露，字节跳动本部负责招聘管理序列，而一线审核员则通过外包的人力资源公司大批量招聘。
不同职级的管理岗支撑起整个审核基地的运作和管理。魏洵和业务部门对齐人才画像后，摸索出了一些心得：和内容审核管理岗最适配的是电销团队的管理者，例如苹果售后、移动客服的管理人员。“（这些业务的）场景很像，都是管一批人进行简单的流水线工作，而且电销会有管理超200人的管理岗，其他单位很少有这样大的管理幅度。一个基地多则上千人，管理难度不亚于一个制造业大工厂。”
除此之外，魏洵还常盯着出身快消品、餐饮连锁店的管理人员，如国美电器、麦当劳、肯德基、手机品牌线下门店的店长或经理等，定向挖人。
实体商业的管理经验有时无法适配到内容审核业务中，所以来自头部快消品的质量管理师有了用武之地。“这类管理者有运用工具保证车间质检率的经验，如果能借此创造出新的测量工具，能作为调整审核员绩效激励机制的参考。”魏洵说。
“红线”和“可见度”
审核员的工作不仅是排“雷”。海量内容经审核、分类处理后，能形成一系列数据，作为衡量各产品内容质量的反馈。一定程度上，内容审核不仅是监管要求使然，其背后还是一家互联网企业价值观的映射：依据什么标准，来分辨一条条内容孰优孰劣。
在大型内容平台上，每天巨量的原创内容必须先经过机器审核，再由审核员识别违规内容、有潜力获得更大流量的优质内容等，背后需要算法和策略部门制定后验式的规则。因此，除了人工审核，后台算法部门和中台策略部门也发挥着重要作用。
一位字节CQC策略部门人士称，他主要负责对接审核基地，参与修订审核规则的工作。如果人力和成本没有上限，平台上的所有的内容都可以过一遍人工审核。正因为有上限，所以需要策略部门来决定哪些内容由机器来审，哪些内容优先审、从严审。
“红线”规则较为明确，即相关监管文件里的条文精神，它是不可逾越的生命线，也是各大厂审核里优先、紧急和重要程度最高的部分。
但除此之外，还有大量内容处在灰色地带。不同平台也在通过机器审核和人工审核等环节，在尽量不影响用户体验的情况下给予这类内容一定的包容度。
上述字节CQC策略部门人士补充说，内容审核的标准不是非红即黑的，有一定的主观性。而且，内容管理也可以非常精细化，平台上的每条内容都有一个维度叫可见度，大厂以此限制内容的传播，例如仅用户自己可见，或是在流量上限定传播范围，包括小端小推（仅在部分端口推广）等。例如，一些博主在视频中分享股票、基金等涉及金融的观点，但他没有给出明确的投资建议。这类内容既有正面科普作用，也可能带来风险，但并非绝对的“红线”风险，所以平台会在可见度等维度上将其限流。
有些用户因为内容阅读量过低，常会投诉平台限流。“有时不关平台的事，单纯只是他的内容没什么人看而已。”上述字节CQC策略部门人士解释。
而对违法内容，平台则会直接删除、不予发布甚至封禁用户的处理。
持续降本课题
站在互联网公司的角度，让审核员保质保量完成工作的同时，持续优化成本，是内容审核业务的重要课题。
将审核基地转外包，便是其中的一个降本思路。2022年，字节CQC内部开始推动审核业务商务流程外包（BPO）实验，将不同核心程度的审核环节外包，并对比效果，以选择最优方案。
苏昉参与了多个字节CQC审核业务从基地转外包的工作。他说，不只是字节跳动在做审核外包，在互联网行业审核业务的用工管理上有个很明显的趋势：外包越来越多了。不同大厂之间比拼的是把降本增效做到极致，又不影响内容质量和安全。
上游的产品部门核算成本时，觉得审核业务所占成本过高，就会向字节CQC发起降本需求。苏昉和团队的工作是给出多个将审核基地（内包）转“卫星城”或转外包的方案，其中包含转外包后成本预计降多少、风险提高多少等数据。苏昉需要给出具体建议，哪些审核项目更适合转成外包，而涉及敏感信息的部分项目，如果交给外包公司做，审核员走神或对规则不熟悉，导致错放、漏放问题内容后，平台可能因此面临处罚。
选择哪些外包公司，是采购部门的工作，苏昉需要给出需求，如外包公司需要具备哪些招人的能力——能否快速招到符合资质标准的人，如果有临时项目或审核业务临时爆量，能否在短时间内招到足量的人。谈好外包公司后，字节CQC还需作为甲方，在前期明确招聘审核员的要求、培训审核规则，在中后期不停地进行抽检等工作。
将基地转去哪里，字节CQC在选址上首先考虑人力成本，其次评估外包公司的报价、口碑，最后才会考虑是否离其办公地更近一些，方便出差。基于此，“审核之都”也在不断下沉，从最初的天津、济南、武汉、西安等青年劳动力充足的二线城市，转移到三四线城市，例如腾讯云雀下沉到河北邯郸、海南澄迈，字节跳动CQC去了四川内江、广东清远。苏昉经手的基地转外包项目，降本比例能达到10%—30%，这和城市能级、人员素质和薪资水平直接相关。
为了承接内容审核业务，许多城市推出税收优惠政策、兴建产业园，以此吸引互联网公司进驻。这个互联网行业边缘工种，能给一座二三线城市创造过万的就业岗位，众多年轻人将留在当地纳税、消费和买房。近年来，天津已有腾讯、字节跳动、快手、陌陌等公司的审核业务落地，武汉凭借高校资源优势，也吸引了字节跳动、腾讯、快手、网易、百度、小红书、B站、斗鱼、金山、小米、搜狐、Soul等公司聚集。
苏昉还表示，拉动就业率能让这些公司获得当地政府的税收政策支持，这也能缩减一定的成本。
被算法代替
先使用机器审核完成初筛，再使用人工审核复审，目前仍是互联网公司采用的主要审核流程。但用机器算法代替人力，已成为内容审核行业降本的另一重要手段。
某家互联网小厂的一位前内容审核基层管理人士称，以前没有人工智能（AI）的年代，需要铺设大量人力去做审核。后来，可以24小时不间断进行审核的AI算法替换了很多人力，留下来的审核员主要做样本校正维护、训练AI、处理AI过滤不了的问题等工作。
AI对审核效率的提升效果十分显著。“以前人工审一张图需要3秒—5秒，会有视觉疲劳，按照政策要求先审后发，会有内容积压。”上述小厂前基层管理人士说，现在内容审核工作已经能实现机器秒过，扫描几十万字符的内容可能只需要十几分钟，大厂的服务带宽和模型库条件更好，机器审核速度就更快了。
上述小厂前基层管理人士表示，2019年，他所在公司刚接入AI审核的时候，机器审核的准确率只有70%。随着各公司的策略部门不断优化模型、补充模型、识别变种模型，目前行业内的机器审核准确率可以达到85%以上。
不过，用户也在不断对抗机器算法，有的用户会将涉敏感内容的图片旋转涂画、将敏感词用谐音字或首字母替代。苏昉说，这意味着人工审核暂时无法完全被机器审核替代，“当审核部门识别到多数用户存在新的违规行为，而机器算法覆盖不了，就必须调整规则，策略部门、算法部门和审核基地迅速开会拉齐信息”。
苏昉还称，不管是审核基地，还是中台的策略部门，现在正配合字节CQC提供审核数据，训练机器算法。“一定程度上，审核部门承担很多投喂数据、训练机器的任务，但把机器训练得越好，审核和策略部门人员被裁得也越快。”
据上述小厂前基层管理人士观察，受机器算法冲击最大的，就是基层审核岗位。很多已经适应当前基层工作、不会去主动学习更深层次的业务、安于现状的审核员，通常是互联网公司的裁员目标。
对陈樊来说，这不算是个好消息。在做了两年视频审核工作后，他发现自己的语言组织能力和逻辑思维能力明显下降。这份重复点击鼠标的工作，几乎不需要他进行表达和创造。
（应受访者要求，陈樊、张塬、苏昉、魏洵为化名）
|
|
|
|
