网络直播内容审核:拒绝黄拒绝赌拒绝黄赌毒！

1

网络直播监管趋严

在刚刚过去的6月，直播平台内容安全管控的问题再被推到风口浪尖。一名法国警察与其女伴在家门口遭人刺死，效忠于极端组织“伊斯兰国”的凶手在Facebook上将13分钟的作案过程进行了全程直播，引发了广泛关注和热议。

在这之前，国内各大直播平台也因“直播造人门”、“直播脱衣门”等事件频发屡被监管机构关照。4月，文化部将斗鱼、虎牙、YY、熊猫、战旗、六间房等19家直播平台列入违禁内容查处名单；6月28日，国家网信办再度发布《移动互联网应用程序信息服务管理规定》，要求所有APP对传播暴力恐怖、淫秽色情及谣言等违法违规信息严加审查，建立健全完善的信息内容审核管理机制。

监管逐渐趋严下，目前各方基本达成一致的做法是①网络直播房间必须标识水印；②内容存储时间不少于60天备查；③所有主播必须实名认证；④对于播出涉政、涉枪、涉毒、涉暴、涉黄内容的主播，情节严重的将列入黑名单；⑤直播平台人工审核人员对平台上的直播内容进行24小时实时监播。

然而，高压之下，仍不乏有“顶风作案”的主播靠着擦边球“激进”内容来吸引观众刷礼物。这不能全怪平台，互动直播就像它在技术上的高门槛一样，内容审核也应该是迄今为止挑战性最高的互联网应用。短短数秒的延时，让平台面临着的问题是：“根本就无法掌控直播的下一秒会发生什么”。

2

当前直播审查面临的困难

1实时性极强，审查难度大

如上所说，直播不像图文、视频文件，发布可以适当滞后，充分预留了内容审核的时间。而当前的互动直播延时一般在5秒内，“根本无法掌控直播的下一秒会发生什么”，目前机器人+人工审查的方式根本保证不了“一网打尽”，当不良直播内容被发现时可能已经直播一段时间了。

2直播规模庞大，峰值集中，审核成本高

在观止云以往文章中，小编曾专门论述过互动直播几大核心特征，其中最主要的就是主播流数量庞大，大平台热点时段同时在线主播逼近上万。我们可以做个计算，电脑一屏能同时刷50张实时截图，一个审查员能够同时盯两个屏幕，那么仅仅对5000个房间同时审查就需要50个审查员。目前平台审查团队一般“三倒班“，但互动直播峰值集中，均在凌晨爆发，这增加了”倒班“的压力。要完全应付这些问题，审查团队至少需要几百人，大平台或许出得起这个钱，对小平台来说审核成本压力就非常大了。

3需要审查的内容太多太杂

除了色情，涉政、涉枪、涉毒、涉暴、涉赌等等一切可能对风俗造成不良影响的内容都需要挑出来干掉。除了视频内容本身，主播说的话（音频），主播举的牌、打的字等等不可预知突发出现的内容都可能存在风险隐患。

4主播实名难验证

虽然大部分平台已经在践行主播实名制，但关键是主播每次直播时，如何确定本场直播是由通过实名制的主播本人发起的，难度也很大。

3

目前直播审查的方法

目前对于互动直播内容审核的办法是机器识别（第三方图像识别服务）+人工审核（平台人肉三班倒）的模式。机器识别主要是依靠直播源站定时（如5秒）对所有直播流进行实时截图，第三方鉴黄系统基于图像识别技术对截图进行分析过滤，经过机器过滤的内容提交给人工进行终审。

随着图像识别技术的发展，人肉审核比例将大幅降低，但就目前，人工审核比重依然较大。以映客为例，未经证实数据表明映客在内容审核上投入了人力800多人，审核基地就占用了近7000平方米。其实违规主播也许不到整个平台的1%，但为了内容尽可能不出问题，平台为此付出了惨重的人力财力代价。

4

完善的直播 审查/播控 技术方案

也许对于互动直播内容监管，当前根本不存在完美的解决方案完全封堵住违规内容的播出通道。但是，作为直播背后的技术支撑平台，我们有必要提供一套完善的直播内容审查、播出控制技术方案，去支撑直播平台尽可能的减少不法主播对平台的滥用。

从技术角度来看，直播的内容管控也是一套体系化的专业控制系统。完善的直播内容控制系统应该包括直播采样（截图）、图像识别、播出控制（延时播出 / 流切换 / 踢流）、安全（referer/IP黑白名单/回源鉴权）、追溯（流水印/直播录制存储）等子功能系统组成。这些系统的联合协同配合，才能最大程度对直播前、直播中、直播后进行全方位内容管控。

上图为观止直播云针对直播内容管控提供的一整套服务功能，除了图像识别需对接第三方专业识别技术提供商外，其它功能均为观止云流媒体服务器BMS功能，其中：

1流矩阵（Stream Matrix）

在直播中播出控制方面，观止云流矩阵（Stream Matrix）在云端实现了上万路流无缝（无黑屏无闪断）的切换，切换延迟约为1s。流矩阵通过HTTP-API对外提供接口服务，可以灵活的、低成本的，远程对直播流进行切换播出。

《网络直播 黑科技 :Stream Matrix》（点击前往）一文详细描述了观止云流矩阵的横向对比及其应用场景，在观止云公众号回复”Stream Matrix“即可获取流矩阵详细技术参数。

2延时播出

即将内容延迟一定时间再播出，比如大型活动现场直播一般都要求延迟10~30s再直播出去，一旦现场出现突发情况或者内容被入侵等问题，能够及时将信号切换到备用信号上。

延时播出大致有三种实现办法：

• 设备延播：采购专业设备做延播，价格十分昂贵；

• HLS伪延播：通过控制HLS播放列表，给到播放器总是延后一点。该方式必须要求CDN边缘支持才行，这对于采用多家CDN服务来说就不太可行了。且实际内容其实已经分发到了节点，只是还不能通过列表文件拿到，存在一定风险。

• 真正的内容延播：在直播源站服务端对直播的内容进行控制，延迟一定时间再输出给客户端。观止云延时播出即在源站实现了真正的内容延迟，该方式不论对前方主播推流，后方CDN分发、播放器播放都没有带来任何改变，只是内容被延迟了个固定时间。

观止云延时播出是将直播流缓存在内存、磁盘或云存储中，延后一个固定时间再从存储中取出来提供给客户端服务。相比于基于HLS实现延播，观止云延时播出不限制前方信号源，比如以往用RTMP怎么推现在也怎么推，同时接入RTMP后，延播的流依然还可以分发成RTMP、HTTP-FLV、HLS、HLS+等，并且不影响以往的业务配置和数据统计。如果是采用基于HLS实现的延播，就不得不对播放器进行修改，对不同CDN需要采用不同的定制支持方案。下图为观止云延时播出的效果截图：

观止云延时播出可应用在：

• 网台延时播出：电视台信号放到互联网上播放一般都会延迟30分钟；

• 活动现场直播审核：大型活动的现场直播可以延迟10~30s,给出足够的内容审核、切换控制等的时间；

• 互动直播播出控制：直播流截图后送往鉴黄系统，同时也会送往CDN进行分发。随着图像识别技术的发展，自动识别能力越来越强，就可以将送往CDN的流比鉴黄系统延迟1~2s，给出系统自动对直播流操控的时间。

3直播录制

直播录制存储至少60天是直播结束后内容审查、追溯的原材料，观止云提供了在云端大规模直播实时录制服务，《如何架构大规模云端直播录制集群？》（点击前往）一文详细介绍了观止云直播录制服务的功能与各种录制问题的解决。

 END 

网络直播正在逐渐形成一个个小型”自媒体电视台“，其内容传播形式及时效上要比以往论坛、微博、朋友圈更快更复杂，由此给直播内容审查带来了巨大的技术难题和成本压力。但从长远看，审查将对行业发展长期利好，擦边球内容将越来越少，才艺化、技能化、专业化的健康内容将越来越多。

直播百团大战的战场上，内容审查是不可或缺的关键一环，不论仗如何打，内容都不能出问题。

观止云致力于打造最专业的运营级视频云平台，现招募以下才俊加盟：

运维：有CDN、视频行业运维经验优先，Linux操作，shell、python等等语言不在话下，沟通能力强。

研发（服务器/大数据/编码器）、市场、售前、销售等岗位OPEN中，请发送简历至邮箱：[e-mail]

 

观止云公众号历史文章中有大规模P2P商用数据、全球主流流媒体服务器功能性能对比、编码器等大量技术文章介绍，有网络直播市场、技术方案等介绍，请在【往期内容】栏目中查看。想要了解更多观止云业务介绍，请点击【阅读原文】