焦点资讯 | 拍摄技巧 | 应用 | 上网本 | 评价应用 | 热门导购 | 行业动态 行情报价 | 消费导购 | 数码 | 家电
关键字:  
您当前的位置 : 数码频道 >> 焦点资讯

鉴黄、认脸、看字 小程序内容审核新“帮手”来了

2018-05-25 10:14:44 作者: 来源: 腾讯数码
分享:

  小程序因为内容违规被下线?想审核识别违规内容却不知如何入手?

  上周,我们上线了内容安全接口,用这个“神器”帮助大家解决困扰。

  今天,我们来详细了解一下这个“神器”,帮助大家更好地解决上述的各种问题。

  这个帮手帮你做内容审核

  用户通过小程序发布的内容,数量大、种类多,逐个校验几无可能。

  小程序内容安全接口能够辅助开发者精准快速地校验小程序的文本、图片内容是否含有淫秽色情、涉违法犯罪、涉政有害等内容,抵御不良信息混入,维护小程序内容健康。

  温馨提醒,开发者就算有了内容安全接口这个称心的“好帮手”,也不能对违规内容掉以轻心。

  三大能力,快速发现并处理违规内容

  能成为“好帮手”,当然是有“超能力”。小程序内容安全接口提供三大能力,从图片到文本,精准识别违规内容。

  图片智能鉴黄

  无论是用户通过拍照上传的内容、自定义头像,还是文章评论的图片,图片智能鉴黄接口都能够进行主动识别及获取色情量化程度信息,实现精准快速的色情倾向判断。

  智能人脸识别

  绝不“眼盲”的面部识别能力能够提取图中的人脸信息,进行相似度判断,包括重要政治人物、公众人物等图片人脸识别,帮助开发者避免业务的违规和侵权风险。

  恶意文本检测

  文本包含着很多潜在违法元素,内容安全接口提供了更高级智能的恶意文本检测能力,能够精准识别文本内容中的违规文字信息,辅助发现违规和恶意内容。

  这些场景已经能实际使用了

  目前,内容安全接口已经能够运用在小程序的文本、图片等内容校验中。

  用户的个人资料、媒体类用户发表的文章及评论、游戏类用户编辑上传的素材等,开发者都能借助内容安全接口进行文字检测。

  此外,内容安全接口还能对用户拍照上传、电商类商品上架图片、用户头像、媒体类用户文章配图、社交类用户上传的图片进行检测。

  更多你关注的Q&A

  了解完小程序内容安全接口的基础信息,也许你还会有一些疑问:这个接口到底适合谁?有什么效果?Q&A了解一下——

  Q1:开放内容安全接口能为开发者带来什么好处?

  A:我们注意到,近年来,由于产品中存在违规内容而被处罚,甚至关停下架的事情时有发生,开发者的内容审核工作刻不容缓。因此,我们推出了内容安全接口,希望帮助开发者及时发现并处理图片、文本内容里的违规信息,让开发者能够将精力更集中于高质量的小程序开发当中。

  Q2:哪些小程序可以使用内容安全接口,有使用要求吗?

  A:目前,内容安全接口面向所有的小程序开发者,免费提供一定额度的接口调用量,主要为小程序内容审核工作提供帮助,平台不会留存小程序开发者提交的检测数据。如果调用量需求超出上限,开发者可以通过业务逻辑优化、自行开发内容审核手段、调用其他第三方内容审核接口等方式开展内容审核。

  Q3:有了内容安全接口,开发者是不是就能省略内容审核工作?

  A:目前,内容安全接口只提供内容审核的基础能力,辅助开发者发现有害内容,但对于内容的检测结果,以及其他违法违规内容(如暴力、恐怖、血腥),开发者仍然需要履行好管理职责,自行开展审核并对有害内容进行删除等处理,并不能忽视内容审核工作。

关键词:小程序,内容审核,新“帮手”责任编辑:李晓爽