腾讯“珊瑚安全_API正式上线，小程序开发者可接入内容安全服务
互联网的普及改变了人们获取信息的方式。互联网平台的内容爆炸和信息爆炸加剧了内容安全风险，不断威胁着互联网内容生态的健康发展。同时，运营商、开发商、平台等也开始对内容体验和内容安全提出更高的要求。为帮助开发者更好地了解和防范内容安全风险，腾讯在推出“珊瑚内容安全助手”小程序后，通过“微信开放社区服务平台”正式推出“珊瑚安全”API，并在“珊瑚内容安全助手”小程序后，正式推出“珊瑚安全”。它向更多的小程序开发者开放信息安全的优势，帮助他们发现图像和文本内容中的恶意内容，并提供更复杂、更高效的内容安全服务。完善内容安全功能，向小程序开发者开放了“珊瑚安全”API，目前为开发者提供图像内容安全和文本内容安全两大服务，支持用户识别不同场景上传的图像和文本内容，开发者可以轻松了解色情、赌博等。它可以选择恐怖主义等恶意内容识别服务，获取被击中的恶意类型、风险概率等详细信息，帮助开发者更细致地做好内容审核工作。基于腾讯庞大的数据资源和深度学习技术，为用户提供图像内容的智能审核服务，不仅帮助运营商和开发商降低内容违规的风险，还大大节省了人工审核成本，保障了业务的健康发展。在用户头像、社区帖子、专辑制作、直播封面、信息流、电子商务、游戏等图像审核应用场景中，支持对色情、赌博、暴力恐怖等恶意内容进行识别，开发者可根据需要选择相应的识别服务，并针对攻击恶意类型进行识别。您可以获得风险概率等详细信息。文本内容安全接口可识别短信中的色情内容、恐怖主义等恶意内容，帮助运营商及时、准确地防范违规风险。该功能基于100，000个级别的大型机密词典，结合各种文本对抗方法和深度学习技术，有效识别高风险和有害内容。同时，基于大数据和实时防误杀系统，不断更新，有效性不断提高。在用户昵称、社区评论、弹幕、文章内容等文本审核应用场景中，这种能力可以对文本恶意进行排名、分类和识别，并识别文本中恶意涉及的关键字。支持开发者，维护健康的平台生态系统目前，微信小程序的日活跃账户数已超过3亿，与微信一起“创建”的小程序和小游戏开发者已超过150万。微信生态系统的繁荣需要运营商、开发商和平台的共同努力。随着小程序用户数量的增加，开发人员在审查用户内容时承担了越来越多的负担。为了应对开发者在内容安全审核中的痛点，腾讯于2019年6月推出了微信首款移动安全识别工具“珊瑚内容安全助手”小程序。这使得运营商和开发人员可以随时随地检查小程序中文本和图像的合规性，体验内容识别的效果，并对自己的产品进行风险自我评估。Coral Content Security Assistant小程序使运营商和开发人员能够体验和理解内容安全风险，而Coral Security API使运营商和开发人员能够访问内容安全服务。“珊瑚安全”API基于腾讯Cloud AI、“Cloud Owl”等内部优势功能包，并通过微信开放社区输出给开发者。腾讯安全专家表示，未来的“珊瑚内容安全助理”将在今天的图像、文本识别能力的基础上，继续提升识别能力，丰富识别类型，提升视频内容识别能力。此外，Coral Content Security Assistant小程序还将添加一个用户反馈门户，开发人员可以在此随时提交反馈。目前，“珊瑚安全”API已经在微信服务市场对接，包括“小年糕”、“小拳”、“票环长视频”、“车群空间”等小程序。“小米糕”小程序团队表示，在有害内容的控制方面，微信为开发者提供了一系列工具，帮助开发者自动筛选有害信息，防止有害信息的过度传播，不仅节省了开发者的时间，而且有效地促进了行业内容的安全。“珊瑚安全”API不仅提高了开发者的内容审核能力，大大节省了开发者在内容安全方面投入的精力和成本，还提高了微信应用生态安全要求的能力，专注于打造健康繁荣的平台生态系统。