内容巡查的概述

针对业务系统包括APP中的文本、图片、音频和视频等信息进行安全检测和过滤，结合***监管政策要求，提供对内容的涉政、违禁、广告等风险内容巡查。

为数据内容提供全方面敏***检测，结合***政策***，提供文本、图片、音频、视频、网页等方面，关于涉政、违禁、广告等内容风险，实现准确、全方面覆盖的内容审核过滤。

内容巡查的能力

定期巡查

对APP进行定期违规信息巡查、智能搜索对抗巡查持续内容运营支撑，根据日历和监管分析更新升级巡查库对巡查结果进行人工校验，人工拓展挖掘

专项巡查

根据监管部门的专项治理要求提供临时专项支撑巡查服务

数据清洗

对APP进行违规内容巡查评估分析，制定清洗策略对后台数据进行数据检索回查和数据焦中过滤对清洗结果进行人工校验，人工拓展挖掘

被忽视的内容安全，App领域成了重灾难区

近年来，各类互联网企业接连不断因内容违规问题被罚。企业有意自查，对内容进行把控，却处处是难题。行业到底怎么了？或者，更多想问的是我们的内容安全屏障到底怎么了？

各家互联网平台都不约而同地开始升级风险管控力度，预防网暴能力，新上线“风险提醒”“发文警示”等功能，整治不当私信和不当评论，推动形成预防网暴的合力。

在加强风险管控的背后，是网暴已达到猖狂的程度。就拿近期的案例而言，上海姑娘因打赏外卖员200元被网暴跳楼；19岁女孩***中被怂恿喝农作物***，类似事件则多次被推上热搜，而这只是互联网内容安全问题的冰山一角。

今年3月份，人民日报连发三篇评论斥责网暴。更早之前，***网信办也开展了“清朗·2022年春节网络环境整治”专项行动，其中***整治任务中，排在首位的就是“网暴、散播谣言等问题”，包括借疫情、社会热点事件等挑动，进行人肉搜索、攻击等情况。

针对此次专项行动，中国信通院与网易、博特智能等企业在2022年也完成了面向互联网信息服务类企业的《内容审核体系成熟度评估规范》，该规范将能帮助互联网信息服务类企业全方面梳理内容安全体系，及时查漏补缺，协助互联网信息服务类企业开展“自查自纠”。

就在近期，中国信通院再次牵头会同阿里、网易、中国移动、博特智能、YY***、映客***等互联网信息平台、机器审核服务商，召开了内容审核机审能力调研会，***对互联网信息平台在文本、图片、视频、音频领域的机审能力进行了深入调研，将为***有关部门开展后续规范工作提供科学依据。

这也预示着内容安全领域的相关行业标准即将出台，平台对展示用户内容的审核负责任，将被正式规范约束。