商汤科技发布AI治理白皮书：践行“负责任且可评估_的人工智能
（2022年9月3日，上海）在2022WAIC世界人工智能大会“亚洲科技伦理治理与可持续发展论坛”上，商汤科技正式发布《人工智能治理促进平衡发展白皮书--商汤人工智能伦理与治理年度报告（2022）》（以下简称《报告》）与会者深入讨论并分享了商汤在推进人工智能治理过程中的见解、思想、目标和实践。商汤科技智能产业研究所所长田峰应邀就白皮书的重要内容进行了阐述。报告指出，目前人工智能治理已进入基于技术验证的实践阶段。今年以来，新加坡、欧盟、美国、中国等国家的监管机构和第三方机构纷纷发布人工智能治理测试工具箱和技术监管沙箱，以推动人工智能治理的实施。作为全球领先的人工智能软件公司，商汤科技一直高度重视人工智能治理，去年正式提出了“平衡发展”的人工智能伦理理念，同时明确了“以人为本、技术可控、可持续发展”的伦理原则。随着人工智能治理进入实用阶段，商汤科技进一步倡导发展“负责任、可评估”的人工智能，并将其作为人工智能治理的愿景目标，创造了道德治理的闭环。人工智能治理已进入负责任实践阶段，需要进行评估。从发展的角度来看，人工智能治理经历了以原则讨论为中心的1.0阶段和以政策讨论为中心的2.0阶段。随着我们进入2022年，随着全球人工智能治理进程的持续推进，以及可信和负责任的人工智能等相关概念的持续渗透，我们看到越来越多的举措来验证人工智能治理的实施方式。人工智能治理已经开始进入基于技术验证的3.0阶段，即落地实践阶段。当前，人工智能治理实践仍面临诸多挑战，各行各业都需要聚焦“理念与行动”、“政策与实践”、“技术与用户”三个关系，践行人工智能伦理的共同原则。将政策要求转化为技术和业务团队可执行的实践标准。处理好技术与用户的关系，促进用户对AI治理的理解，最终进一步推动AI治理。为了有效推进人工智能治理，商汤科技在分析全球人工智能治理需求的基础上，结合对技术和市场的理解，在白皮书中提出“人工智能治理应该是一个价值驱动、技术优先、多方参与、分层的动态过程”。它为人工智能治理的实施实践建立了有效的路径。从治理效果上看，人工智能治理的实现从低到高，可分为可用性、可靠性、可控性和可靠性四个层次。“可用”是指AI系统能够在功能和性能层面满足应用场景的需求。“可靠性”意味着人工智能系统能够满足部署环境和安全性和稳健性方面的可持续运营要求。“可控”是指人工智能系统能够在功能层面充分保护人类的自主意志和权利，保证人类对系统的控制。“可信”意味着人工智能系统的设计和应用符合人类价值观和道德规范。
因此，建立人工智能治理体系的目标是发展负责任的人工智能，这需要跟踪和记录。商汤科技基于“均衡发展”的伦理观、“以人为本、技术可控、可持续发展”的伦理原则，在业界率先提出发展“负责任、可评估”的AI，并将其作为AI治理的愿景目标。
“负责任、可评估的人工智能”的核心要求是建立覆盖全生命周期的治理体系，成立行业首家人工智能伦理治理委员会，构建人工智能治理闭环，将伦理治理视为具有企业战略方向的科技创新企业之一。商汤科技自2020年1月推动人工智能伦理治理体系建设以来，在公司内部实施了多项治理创新实践。它还将道德原则融入到产品设计、开发和部署的整个生命周期中，形成了人工智能治理的闭环，形成了人工智能治理的闭环。在数据风险方面，商汤科技将个人信息保护整合到产品开发的整个生命周期中，成立了“数据安全与个人信息保护委员会”，并进行个人信息保护评估审查，以确保产品默认满足个人信息保护的设计要求。在算法风险方面，商汤科技作为人工智能领域的龙头企业，将积极承担算法开发者的主要责任，针对实际应用的算法场景进行基于实际场景的算法验证和评估，真正实现人工智能技术的可靠性和可控性。在应用风险方面，商汤科技不断完善人工智能伦理治理体系，建立涵盖设计、开发、部署全生命周期的产品伦理风险审核流程。跟踪全球人工智能产业的发展变化，建立“全球人工智能伦理风险银行”。定期对员工进行人工智能道德培训，不断完善内部道德沟通体系，不断提高员工道德素养。
为确保人工智能治理体系的有效实施，推动形成“人人负责”的道德治理企业文化，商汤科技建立了道德风险目标管理机制、道德风险事件处理机制、道德治理质量管理机制。此外，为了推动“负责任和可评估”人工智能的发展，商汤科技正在内部开发一套流程工具和技术平台，涵盖数据治理、算法评估、模型检查和道德审查。随着人工智能产业应用的逐步深化，人工智能发展与治理的关系相辅相成，不可或缺，就像汽车的“发动机”和“方向盘”一样。在本次论坛上，商汤科技智能产业研究院科技政策与伦理研究主任宫超也应邀参加了题为“拥抱科技伦理治理体系，实现可持续发展之路”的圆桌讨论，并结合商汤科技在人工智能治理方面的实践成果。在与业内嘉宾深入讨论商汤人工智能治理建议时，他强调商汤将继续推动负责任、可评估的人工智能发展，为人工智能治理实践提供完善可行的落地解决方案。