珊瑚内容安全助手小程序上线 帮助开发运营者鉴别内容风险

图说：微信正式上线“珊瑚内容安全助手”

小程序一键就能鉴别内容和产品的安全风险。今日，微信正式上线“珊瑚内容安全助手” （以下简称“珊瑚”）小程序，将为运营者和开发者提供风险自测、内容鉴别、行业动态等功能。

提高小程序内容安全

开发运营者可通过勾选自己的产品功能、各功能发布内容的情况，由“珊瑚”小程序自动计算给出产品风险评级、针对性的风险提示及相应的风险防控建议等，让开发运营者对产品的安全风险了然于心。

在文字鉴别、图片鉴别模块，“珊瑚”小程序还可对用户上传内容中是否含有违法有害信息给出鉴别结果，同时提供能力介绍和接入引导文档，为开发运营者从“体验”、“理解”到“接入”， 提供一站式安全能力服务。后续“珊瑚”小程序还将支持音频、视频鉴别能力，为用户提供更完善的内容安全服务。

此外，“珊瑚”小程序还包含定期更新的互联网行业内容安全动态、相关法律法规等内容，帮助开发运营者及时掌握行业情况。

小程序内容安全成关注重点

随着小程序生态的繁荣，小程序内容安全成为外界关注的重点。部分小微开发运营者缺乏搭建体系化内容安全策略的能力，导致其开发运营的小程序存在安全隐患。

为解决这些问题，2018年5月，微信团队就向开发者开放了文字检查、图片检查两个API接口，辅助开发者及时发现不良内容信息。而在今年6月6日，微信上线了小程序内容安全的异步检查接口（mediaCheckAsync），基于腾讯“云鸮”技术支持，向开发者提供更高级、更强大的内容安全能力，包括异步方式检查图片、音频两种多媒体文件，自动识别色情、暴恐等违法有害高危内容，文件大小限制也从原来同步接口的1M提升到10M，满足常见格式和大小的图片审核需要。

未来，“珊瑚”小程序将基于腾讯云图像分析等AI技术，为广大小程序开发者提供更强、更丰富的内容安全能力，并持续运营、定期更新行业内容安全动态信息，帮助开发运营者了解最新的行业情况，共建健康繁荣的小程序生态。

新民晚报记者　杨玉红