商汤科技张望：AI治理需要适应技术创新节奏，做到张弛有度
（2022年北京第三届人工智能合作与治理国际论坛在清华大学网上开幕，论坛将聚焦构建适合人工智能健康发展的治理体系，通过技术工具的开发，实现人工智能已知、可信、可控、可用等议程。汇集了国内外人工智能行业各方面的知名代表。商汤科技副总裁、人工智能伦理与治理委员会主席作为人工智能治理领域创新企业代表，应邀出席人工智能产业发展与治理专题论坛，并向国内外专家学者发表题为“构建安全开放可评价的人工智能治理生态”的主题演讲，阐述了商汤科技均衡发展的伦理观。他重点分享了他在构建负责任和可评估的人工智能方面的实践和探索。
商汤科技副总裁、人工智能伦理与治理委员会主席表示，人工智能的快速发展使数字经济进入2.0时代，给人类社会带来巨大的发展红利，但也带来了数据、算法、应用等层面的伦理与安全风险。作为领先的人工智能软件公司，商汤科技在坚持原创、推进技术创新、赋能百业的同时，高度重视人工智能伦理治理，于2020年1月正式成立“人工智能伦理治理委员会”，成为业内首家成立人工智能伦理治理委员会的企业。成为以道德治理工作为公司战略级方向的科技创新企业之一。经过多年的探索，商汤科技初步建立了人工智能伦理管理体系，实现了从理论到实践、从组织到机制、从研发到产品的全生命周期的多维闭环。
商汤人工智能伦理管理体系修炼内功产品全生命周期伦理闭环管理基于委员会规范化、机制化、系统化伦理管理实践，商汤创新提出了均衡发展的人工智能伦理观，提出了“可持续发展、技术可控、以人为本”的三大原则，并明确了“负责任和可评估”人工智能管理的愿景目标。围绕这一目标，商汤建立了覆盖产品全生命周期的风险控制机制，开发了一系列工艺工具和技术平台，全面推出了商业化的安全健康检查模式，开展了内部科技伦理宣贯，构建了国际化伦理管理生态系统，全面推进了人工智能伦理管理实践。针对人工智能领域面临的数据、算法和应用管理风险，SenseTime覆盖产品全生命周期的风险控制机制，初步形成了治理闭环。其中，在应对算法风险方面，商汤建立了“算法分级记录管理和安全评估机制”，成立了“算法安全管理工作组”，从技术极限、算法设计、软件缺陷、数据安全、框架安全等多个维度对算法风险进行安全评估。在应对应用管理风险方面，商汤实行“风险管理体制”、“风险审核小组”，对开发、配置、运营的整个生命周期实施分阶段、分目的的管理。商宇还将开发一系列涵盖数据治理、算法评估、模型健康检查和伦理审查的流程工具和技术平台，构建基于真实场景数据的算法评估系统。其中，在应对数据风险方面，商汤开发了统一的数据治理平台和规范的数据采集流程，通过自动化标记工具，减少了人工接触的数据量，降低了模型训练源中的人为偏差风险，并且数据标记平台具备访问控制和身份认证功能。只有经过认证的数据标记人员才能访问。商汤还在现实场景中对数据集的算法验证和评价的基础上，开发了“算法评价工具”，实现了商业化算法的可靠性和控制，同时设计了多样化的评价项目和指标体系，对算法进行了充分、全面的评价，积极参与行业标准的建立。面向系统安全需求，商汤自研的模型健康诊断工具面向生物识别、图像分类、目标检测等商业化应用，开展了对抗安全检测、鲁棒安全检测、后门安全检测，不仅支持多种任务类型，而且开箱即用。提供一键式评价反馈。目前已应用于商汤大量商业化模型的检测.我们也深刻认识到，发展负责任和可评估的人工智能的关键在于在集体层面形成道德治理的组织文化，从而建立定期的道德宣传和培训机制，每周向全体员工发送与人工智能治理相关的重要趋势，并定期举办研讨会。我们邀请内部和外部专家进行道德治理培训。通过共创构建共同治理为了促进安全、开放、可评价的人工智能治理生态系统的建设，商汤积极推进国际化伦理研究治理生态系统的建设。他希望通过持续发表相关研究成果来分享治理实践，吸收行业反馈，不断完善治理标准。商汤还与高校、研究机构、政府机构开展正常化交流，今年与国际金融论坛、新加坡人工智能国际研究院等国内外机构共同成立“亚洲科技推进可持续发展目标联盟”Tech4SDG，将科技治理伦理研究与治理作为重要事项，与国内外专家学者进行集思广益。人工智能正在推动数字经济的迭代和可持续发展。论坛期间，望望还应邀参加圆桌讨论，进一步解读了“均衡发展”这一人工智能伦理观的内涵。人工智能治理和创新之间的关系类似于汽车的“方向盘”、“刹车片”和“加速器”之间的关系。人工智能治理不仅像一个“把手”，可以引导技术研发和产品开发朝着正确方向发展，而且还具有“刹车片”功能，可以及时阻止人工智能创新朝着错误的方向前进。而由于“方向盘”和“刹车片”的功率大小需要根据“加速器”的优先级动态调整，人工智能治理需要适应技术创新的节奏变化，实现缓解。随着技术及相关应用的不断发展，全球人工智能伦理治理也将保持动态发展。面对新阶段、新趋势、新变化，商汤科技也在积极推进伦理治理，从对AI自身治理的探索扩展到对智能驾驶、元宇宙等商业场景的探索，与高校智库、科研院、行业同行们不断探讨、携手共进。加快构建安全、开放、可评估的人工智能治理生态。