腾讯“珊瑚安全”API正式上线,小程序开发者可以访问内容安全服务
随着互联网的发展和普及,公众获取信息的方式发生了变化。然而,互联网平台上的内容井喷和信息爆炸也增加了内容安全风险,威胁到互联网内容生态的健康发展。与此同时,运营商、开发者、平台等各方也开始对内容体验和内容安全提出了更高的要求。
为了帮助开发者更好地了解和防范内容安全风险,腾讯推出了Coral Content Security Assistant小程序,现在通过微信开放社区服务平台正式推出Coral Security API,向更多小程序开发者开放信息安全优势,帮助查找图片和文字内容中的恶意内容,提供更详细、高效的内容安全服务。
精细化内容安全能力,向小程序开发者开放
目前,“珊瑚安全”API为开发者提供图片内容安全和文本内容安全两种服务,支持用户在各种场景下上传的图片和文本内容的识别。开发者可以根据需要选择色情、赌博、恐怖等恶意内容识别服务,获取恶意点击类型、风险概率等详细信息,帮助开发者做好内容审查工作。
图片内容安全
图像内容安全基于腾讯海量的数据资源和深度学习技术,为用户提供图像内容的智能审核服务,不仅可以帮助运营商和开发者降低内容违规的风险,还可以大大节省人工审核的成本,保障业务的健康发展。
在图片评论的应用场景中,如用户头像、社区照片发布、相册制作、直播封面、信息流、电子商务、游戏等。这个能力支持对色情、赌博、暴力、恐怖等恶意内容的识别,开发者可以根据自己的需要选择相应的识别服务,获得恶意类型、风险概率等详细信息。
文本内容安全
文本内容安全界面可以识别文本信息中的色情、暴力等恶意内容,帮助运营商及时准确防范违规风险。
该功能基于10万级大型敏感词库,结合多种文本对抗方法,利用深度学习技术高效识别高风险、有害内容。同时,根据大规模语料库和实时反过失杀人系统,会不断更新迭代,保证效果的不断提高。
在文本评论的应用场景中,比如用户昵称、社区评论、弹幕、文章内容等。这种能力可以对文本中的恶意词进行分类和识别。
助力开发者,维护健康平台生态
目前,微信小程序每日活跃账号已超过3亿,与微信共同打造的小程序和游戏开发者已超过150万。微信生态系统的繁荣发展需要运营商、开发商、平台的共同努力。
随着小程序用户数量的增加,开