黄健，人脸识别，读字，小程序内容审查的新“帮手”即将到来！

小程序因内容违规而离线？想要审查和识别违规但不知道如何开始？

上周，我们上线内容安全接口并使用这个“神器”来帮助每个人解决问题。

今天，让我们仔细看看这个“神器”，以帮助您更好地解决上述问题。

这个帮手帮你做内容审核

用户通过小程序发布的内容大而且多变，并且不可能逐个检查。

小程序内容安全接口辅助开发者准确快速验证小程序的文本、图片内容是否包含淫秽色情，非法犯罪，政治参与等，防止不良信息混入，维持小程序内容健康。

温馨提醒，即使开发人员拥有内容安全的界面，这也是一个很好的“帮手”，并且不能掉以轻心。

三大能力，快速发现并处理违规内容

可以成为“好帮手”，当然还有“超级能力”。 小程序内容安全界面提供三种功能，从图像到文本，以准确识别违规内容。

图片智能鉴黄

无论是用户通过照片上传的内容，自定义头像，还是文章评论的图片图片智能鉴黄接口都能够进行主动识别及获取色情量化程度信息，都能实现准确快速的色情倾向判断。

智能人脸识别

“眼盲”面部识别能力可以提取图中的面部信息并执行相似度判断，包括重要政治人物、公众人物和其他图像人脸识别，以帮助开发人员避免违规和侵权风险。

恶意文本检测

该文本包含许多潜在的非法元素。内容安全界面提供更高级智能的恶意文本检测能力，可以准确识别文本内容中的非法文本信息，并协助检测违规和恶意内容。

这些场景已经能实际使用了

目前，内容安全界面已经能够用于小程序处的文本，图像等的内容验证。

用户的个人资料、媒体类用户发表的文章及评论、游戏类用户编辑上传的素材等，开发人员可以使用内容安全界面进行文本检测。

此外，内容安全接口可以检测用户拍照上传、电商类商品上架图片、用户头像、媒体类用户文章配图、社交类用户上传的图片。

更多你关注的Q&A

在了解了小程序内容安全界面的基本信息后，您可能会有一些问题：这个界面适合谁？有什么影响？问答了解——

Q1： 开放内容安全接口能为开发者带来什么好处？

A：我们注意到，近年来，由于产品中存在非法内容，它已经受到处罚，甚至关闭了货架，开发者的内容审核工作刻不容缓。因此，我们推出了内容安全界面，希望能够帮助开发人员及时发现和处理图像和文本内容中的违规行为，从而使开发人员能够专注于高质量的小程序开发。

Q2： 哪些小程序可以使用内容安全接口，有使用要求吗？

A：目前，内容安全接口面向所有的小程序开发者，免费提供一定额度的接口调用量主要为小程序内容审查工作提供帮助，平台不保留小程序开发人员提交的测试数据。如果呼叫量要求超过上限，则开发者可以通过业务逻辑优化，自行开发的内容审查手段和其他第三方内容审查界面进行内容审查。

Q3： 有了内容安全接口，开发者是不是就能省略内容审核工作？

A：目前，内容安全界面仅提供内容审核的基础能力来帮助开发人员发现有害内容，但对于内容检测结果以及其他非法内容（如暴力，恐怖，血腥），开发人员仍需要进行良好的管理职责。自行开展审核并对有害内容进行删除等处理，并且不能忽略内容审核工作。

同时，开发人员可以通过《文本内容安全接口》和《图片内容安全接口》了解有关小程序内容安全接口的更多信息，以创建更环保，更健康的小程序生态系统。