七牛云“明瞳”内容安全产品重磅升级,支持6类互联网有害内容审核

随着近年来短视频和直播等新型内容传播媒体兴起,内容平台因涉及色情、暴恐、敏感、低俗等违法违规内容而下架、封禁等事件屡屡发生。网安、网信、文化部等政府部门对于新媒体平台的内容监管逐渐规范化、体系化。2019年1月,中国网络视听节目服务协会在官方网站公布了《网络短视频内容审核标准细则》100条,对于违规视频内容进行了详细的分类,并重点提出视频弹幕内容必须“先审后播”。

细则中指出,短视频节目及其标题、名称、评论、弹幕、表情包等,同时语言、表演、字幕、背景中均不得出现所提及的问题。包括攻击我国政治制度,法律制度,中国特色社会主义道路、理论、制度和文化以及国家既定重大方针政策、破坏社会稳定如影响公共秩序与公共安全的群体性事件及分裂国家,损害国家形象等的内容均不能在短视频内容中出现,足见对于打击违规内容的决心之强、力度之重。

中国网络视听节目服务协会发布《网络短视频内容审核标准细则》

对此,为了更好的帮助短视频内容平台在合规运营的同时降低成本,七牛云“明瞳”内容安全产品也迎来重磅升级。在图片与视频的基础上新增文本审核功能,在原本三类(色情内容审核、暴恐内容审核、政治敏感审核)的内容审核基础上,新增恶意广告审核、低俗内容审核、违法违禁审核,升级为共支持六类互联网有害内容的审核,提供更为全面的内容审核服务。具体为:

1.色情内容审核:精准识别图片、视频、直播中的涉黄内容,准确率高达98%

2.暴恐内容审核:支持识别血腥、爆炸、枪支等10余种贴合真实场景的暴恐类型

3.政治敏感审核:覆盖2500+政治、敏感人物。第一时间更新,从容应对突发事件

4.恶意广告审核:实时过滤图片、视频中的二维码、QQ号等恶意广告信息

5.低俗内容审核:识别性暗示、恶搞、裸露等消灭违规擦边球,保障内容合规

6.违法违禁审核:对涉赌、涉毒、违禁药物、贩卖人口等严重违法内容专项审核

针对“审核人力成本高”的问题,七牛云“明瞳”可提供一站式的AI机审+专员复审服务体系,有效过滤视频、图片、文本与直播流中99.5%涉黄、涉暴和涉政敏感、恶意广告、低俗内容、违法违禁等一系列有害内容,节约80%的综合成本,实现零风险运营、零开发搭建以及零负担管理。

针对“审核效率低下”的问题,七牛云“明瞳”可提供日均数亿次审核的能力,更是提供了“一键开启”的便捷体验,无需开发一行代码,在portal做简单设置后即可开始审核,审核结果直观可视。“明瞳”还提供了全局内容违规比例以及历史趋势的展示,使得用户对于内容风险程度和趋势一目了然,从而可以更有针对性地从源头做好内容安全。


七牛云“明瞳”分秒即用的可视化审核体验

此外,七牛云与监管部门项目合作,能够深入理解监管标准,提供更加完善的审核能力。

依托于七牛人工智能实验室在视觉智能方面的深耕,同时得力于七牛云在海量图像视频数据的多年管理经验,“明瞳”在各项审核上表现突出,达到行业内领先水平。当下“明瞳”可广泛应用于视频平台、直播平台、电商平台、论坛社区、社交媒体、公共网盘、广播电视等各个领域,更是为诸如中国平安、FaceU、Blued等各种业务类型的客户提供服务,建立了良好的行业口碑。未来,七牛云将致力于保护各行业平台运营,助力互联网环境的净化。