当前位置: 首页> 默认分类> 正文

内容审核数据支持的方法

内容审核是为了过滤掉网络中的一些低质、黄色、赌博、辱骂等的内容,从而净化网络环境,提高网民的用户体验。内容审核的数据支持主要包括以下几个方面:

1. 机器审核

机器审核是按照制定好的规则或机器学习算法对内容进行审核。通常,成熟的审核系统能将95%甚至99%以上的内容都自动审核并做出处理。确定有问题的会被自动删除,难以判断是否有问题的会被标注,进入人工审核程序。

2. 人工审核

对于机器无法判别的内容,会进入到人工审核的程序中,审核员会对内容进行进一步的判断。虽然看起来不多,但对于一些大型的内容平台,绝对数量已经很多了。

3. 用户投诉审核

用户投诉审核主要是前两者的弥补,有很多违规内容以前没有出现过;所以不在规则可以过滤的范围内,或者非常隐蔽,规则难以严格过滤。用户的投诉是发现新问题的重要渠道。

4. 结果复审

结果复审通常采取抽查方式,比如通过复审机器删除的内容,看规则或算法是否过于严格;比如通过查看人工删除和通过的内容,看员工的工作是否按要求执行;比如通过内容的整体巡查,看是否存在新的问题未被注意到。

5. 自定义配置功能

内容审核平台提供灵活的自定义配置功能,界面化调整审核维度和松紧度,5分钟即可完成规则配置,高效便捷。

6. 审核结果数据统计

图形化展示各项审核服务的调用统计报表,包括分时段调用量、违规原因分布等,各项关键数据指标一目了然。

7. 审核结果可视化查询

通过可视化界面,一键查看图像、文本审核记录的明细数据。

总结

以上就是内容审核数据支持的主要方法,这些方法各有优势,一般平台都会同时用这两种方式进行审核,以达到最好的效果。