2.7 内容安全

互联网用户上传的文字、图片、视频等是国家管控最严格的部分，因为它可能影响意识形态。凡是允许内容更新的部分，我们都要考虑是否有涉黄、涉暴、涉恐内容。

2.7.1 内容审核系统的安全功能

针对色情、涉暴、图文违规、垃圾信息等内容安全问题，内容审核系统具有如下功能。

1）自定义审核规则：提供灵活的审核规则配置，支持根据客户需求制定特定的审核标准和规则，例如限制未成年人访问不良内容，通过年龄认证等手段，阻止用户访问敏感内容。

2）利用AI技术：通过各种AI技术，如图像识别、文本分析等对上传的文本、图片、视频、音频等内容进行自动审核，以过滤掉不良内容。

3）支持人工审核：在AI建议的基础上，支持人工审核，让人工审核员参与审核流程，提高审核准确性。

市场上也出现了号称保证业务安全的WAF。本来WAF只是对恶意流量进行拦截的，对业务逻辑并没有更多的深入，但技术的发展也会给产品的形态带来新的变化。

2.7.2 内容安全产品

对于内容安全，政企一般是采购成熟互联网公司的AI自动审查产品及服务，同时以人工辅助审查。国内大的互联网厂商（如阿里）对外提供内容安全服务，此外数美深耕内容安全领域，主要提供内容安全服务和技术解决方案，包括图片、视频、文字等多种内容的安全检测和过滤。 cPkiomV4NXlbVWx7t0Z3MPdZEynCkSFXzaxy3REDwz5FTPO1mXKyeFDVdWuolhwS