淘丁分享：企业如何解决内容审核的安全风险？

内容审核是什么？

随着互联网的快速发展，与之而来的是信息爆炸式增长，而且这些互联网信息良莠不齐，其发布者也鱼龙混杂，常常混入很多不良或者违规违法信息，例如涉政、涉黄、暴恐、违禁、不良价值观、广告等。

信息发布平台的运营企业要规避内容风险，避免出现内容安全事件；社会需要净化网络空间，营造良好网络生态；个人需要晴朗的网络环境，避免网络暴力、网络谣言、网络诈骗等。因此，也就有“内容审核”需求。

内容审核指的是审核员针对用户在网站上上传的文字、图片、视频、音频等进行审核，检测是否存在广告、涉政、涉黄、敏感人物等内容，此外，一些平台还有AI智能审核，而这样做是为了净化网络和降低业务违规风险。

对于很多企业，尤其是互联网内容企业来说，内容安全是企业的生死线。例如，此前有某文学网站因审核把关不严，履行主体责任不力，对其用户发布的信息未尽管理义务的问题，网站负责人被约谈，责令整改并从严处理相关负责人；2021年，某知名社区类网站因屡次出现违法内容，责令其整改并罚款150万元，该网站当年内被罚20次，累计900万元……

简言之，凡是存在内容生产、内容存储、内容分发或内容展示场景的行业和企业，原则上都必须做内容过滤，内容安全是合规经营的重要组成部分，在建设网络强国的时代背景下，监管层面对于内容安全违规实施“零容忍”的高压态势。

很多企业为了规避内容风险，一般都通过人工和算法的有效结合来识别、过滤不良内容，常用的审核方式基本包含：机器审核+人工审核+用户投诉审核+结果审核。虽然有机器审核，但人工审核仍然是不可或缺的重要部分，因此，很多企业尤其是内容对人工的需求量特别大。

同时，为了降低人工成本，会把人工审核这项工作外包出去，但也给企业带来了数据信息泄露风险。由于外包人员的安全意识相对淡薄，也缺乏劳动合同、保密协议约束，一旦敏感的图文视频等内容被泄露出去，可能会引发法律和舆情风险。

另外，异地审核团队需要通过VPN访问企业内网的审核平台，VPN网速较慢，难以保障视频审核的体验和效率，降低了内容审核的工作效率