如果卡通人物也玩抖音,你猜他们会经历什么?

「如果二次元人物也能玩短视频,会是什么样的呢?」蜡笔小新在线热舞?猫和老鼠动感跑酷?还是……


年初,中国网络视听节目服务协会正式发布《网络短视频平台管理规范》100 条,文件中详细规定了在网络播放的短视频节目中,不得出现的 21 个方面的具体内容和常见问题。经过小编近两个月的认真领会和仔细研究,发现……假如这些卡通人物真的玩短视频,其实都是在违规的边缘试探!


第九十七条:「 破坏生态环境,虐待动物,捕杀、食用国家保护类动物」


第四十九条:鼓吹通过法术改变人的命运。


第五十一条:宣扬拜金主义和享乐主义


第七十三条:展示男女性器官,或仅用肢体掩盖或用很小的遮盖物掩盖人体隐秘部位及衣着过分暴露的。


第九十八条:展示个人持有具有杀伤力的危险管制物品的。

哎,真的是操碎了心,也不知道他们听不听得进去……

玩笑归玩笑,这一百条红线在三次元的短视频世界里可是绝对的禁区,也希望借着这些卡通形象,让所有短视频的相关从业者都能听得进去……否则稍有越界,就是一曲《凉凉》…… 


新规的颁布给内容产业带来怎样的改变?

内容环境全面净化


《网络短视频内容审核标准细则》的颁布,对互联网内容环境的净化无疑确立了迄今最严的标准。除了此前严令禁止的色情、暴恐、敏感等违规内容之外,新规对于视频中的低俗擦边球、违规广告等内容也做出了明确的定义。

除了新增的违规视频内容之外,细则中指出,短视频节目及其标题、名称、评论、弹幕、表情包等,同时语言、表演、字幕、背景中均不得出现的问题。维度更全面的管理规范无疑将全面整治此前存在的一些视频内容乱象,将互联网内容产业规范提升到更高的标准。 


内容生产标准提高


在新规出台后,曾经依赖「擦边球」博眼球的短视频内容将成为历史,而「标题党」的行为也在限制之列,取流量的「捷径」几已完全封死。


(图片来源于网络)

由此一来,对短视频行业来说其实是重大利好,「劣币驱逐良币」的情况将得到极大改善。同时,也要求内容创作者产生更多高标准高质量的内容,靠「真本事」来获取流量和关注。在另一个层面来说,短视频的「100 条」管理规范,也为所有内容画出了需要遵守的基础和底线。 


审核难度大幅提升


然而,UGC 内容平台在努力净化内容环境的同时,却也不可避免地面对审核难度提升所带来的困扰。原先平台针对图片与视频的审核标准在新规发布后均面临严重滞后的情况,难以满足不断更新的审核要求。

此外,《网络短视频内容审核标准细则》中还重点提出:视频弹幕内容必须「先审后播」。这也意味着,UGC 内容平台除了需要审核海量图片、视频之外,对于数量动辄千万的新增弹幕内容也需要条条把关。



显然,仅仅依靠人工审核来保持网络环境的洁净安全,显然无法应对飞速增长的数据量,其耗时耗力之大更会给平台运营带来重重挑战。 


你的审核系统如何做到真正安全?


综上所述,传统的人工审核系统主要面临三大痛点:
• 审查标准滞后。最新标准难以在第一时间完全同步,由此带来违规内容的审查疏漏;

• 效率低下。 UGC 平台人工审核时间长达 15-60 分钟,极大地影响了用户体验;

• 成本高企。审核团队的组建成了主营业务外的大量支出,成本动辄高达百万。


这三道难题,也成为了内容平台安全运营的主要路障,而能够撬开路障,帮助平台运营的利器,就是 AI。七牛云「明瞳」内容安全产品上线以来,已累计为超过 1000 家内容平台提供一站式「AI+人工复审」内容安全服务体系,日均调用量近 2 亿次,获得了用户的高度信赖。为了在内容审核新标准下帮助短视频内容平台保持合规运营,「明瞳」内容安全产品升级了以下功能。 


01 支持 6 类违规内容

在原本三类审核基础上,新增恶意广告审核、低俗内容审核、违法违禁审核,升级为共支持六类互联网有害内容的审核。 


02 文本审核功能正式上线

除了图片、视频审核之外,「明瞳」新增了文本审核服务,有效识别文本中的色情、暴恐、涉政敏感、辱骂及违禁品等内容,并具有以下特色功能:

• 多模型融合。利用 NLP 技术融合多个策略模型,识别准确率达到 95% 以上


• 百万级敏感词库。多种方式进行多维度敏感词匹配,覆盖各类敏感信息

• 词库快速迭代。基于 AVA 深度学习平台,实现敏感词迭代分钟级响应
 


03 支持用户自定义分类标签

不同属性的平台对于违规内容具有各自的审核标准和特殊需求。对此,「明瞳」为用户提供了自定义分类标签功能。用户可根据自身的业务场景,定义审核阈值,并对违规、疑似内容设置相应的处理方式,满足平台个性化审核需求。
 


小结


2019 年开篇以来的内容领域,UGC 内容平台激烈的行业竞争仍然不可避免。平台运营者在建立好内容供应链的同时,如何提高业务创新成为了在这场竞争中脱颖而出的关键点。而对于平台运营的基本前提——内容安全,七牛云「明瞳」内容安全产品能够胜任 90% 以上的审核工作,并提高 90% 的工作效率,为运营者提供更高效的工作环境和创新空间。无论是稳定可靠的内容审核技术还是细致专业的服务水平,在内容时代,七牛云都将成为 UGC 内容平台最佳的运营助手。


目前,「明瞳」广泛应用于视频平台、直播平台、电商平台、论坛社区、社交媒体、公共网盘、广播电视等各个领域,并已为诸如中国平安、FaceU、Blued 等各种业务类型的客户提供服务,建立了良好的行业口碑。未来,我们将继续致力于保护平台安全运营,助力互联网环境的净化。