旷视AI治理经历三个阶段、设立三个机构、关注三件事情

中国网科技1月30日讯（记者 柏林）近几年，随着人工智能产业快速发展，信息泄露、大数据杀熟等问题也随之而来，而如何正确引导人工智能技术的发展，实现人工智能等前沿科技领域有效治理，也成为了社会各界人士共同热议的话题。

作为第一批开展AI商业化落地的企业，旷视科技在多年的实践经验中深知善用技术的重要性，始终坚持在AI治理中不缺席、不对立、行胜于言的原则。近日，旷视AI治理研究院携手权威研究机构人民智库联合发布了《2020年度全球十大人工智能治理事件》，回顾并分析了过去一年中最具理论价值、实践价值、新闻价值、以及研究价值的人工智能大事，希望以此推动多方对话、多元治理。

对此，记者对话旷视首席发展官、AI治理研究院院长徐云程，探讨企业AI治理等话题。

徐云程在接受采访时表示，旷视从2019年涉足AI治理领域，到现在整整两年的时间，经历了三个阶段。“我们刚开始是通过海外媒体关注到这件事情，在2019年海外媒体和旷视做交流的时候，三句不离和AI伦理有关的事情，以及企业在做哪些治理工作。因此，我们更多是跟海外沟通并寻找一些全球可借鉴的经验。第二个阶段是2019年中后期，我们看到国内社交媒体上越来越多的人开始关注AI技术是不是在向可持续的、负责任的方向发展。因此，我们意识到，这是个全球性话题，需要社会各界、国内外各方共同参与。到2020年，旷视开始在企业内部管理上做更多的反思和突破，发现在企业运营的流程中和人员培训的过程中，AI治理对企业的健康发展可以带来很多价值，具有很多优势。”

徐云程表示，当旷视决定做这件事情时，就面临怎么做的问题。旷视设立了三个机构，两个实体机构和一个虚拟机构。实体机构首先设立的是“旷视人工智能道德委员会”，这是作为决策机构，用来给公司在整个治理方向上、战略上做指导。

据了解，2019年7月，旷视对外发布了《人工智能应用准则》、作为企业自律的指导性原则。同年8月，旷视成立了国内AI行业首家人工智能道德委员会，由企业核心高管和外部专家联合组成，为企业探讨AI治理的方向和措施给予指导意见。企业内部随后也基于自身管理标准，面向全体员工发布了《人工智能道德行为规范》，让每位员工在日常工作中都能够有所参照。

第二个实体机构是建立“旷视AI治理研究院”。2020年1月，旷视在人工智能道德委员会下新设了AI治理研究院，将社会的关切与旷视的业务相结合，从中确定AI治理的研究方向，并开展一系列相关研究工作。此次进行的“全球十大AI治理事件”评选活动，是旷视AI治理研究院第二次举办该项评选活动，是旷视与公众和专家对话、了解AI治理最新趋势的有效途径。此外，旷视还联合了北大、清华、北京智源等多家国内前沿学术机构，开展AI治理相关课题的深入研究。

所谓虚拟机构，是在旷视内部为了推动AI治理在各个方面落地而组建的管理委员会，从研发学术、产品工程、客户渠道和运营管理四个方面开展了务实的工作，实现在日常工作中自我管理、自我约束。比如在客户管理沟通中，旷视科技在每件软、硬件产品中都放入了《正确使用人工智能产品倡议书》，倡导客户和合作伙伴一起加入AI治理的行列。

那么，在AI治理领域，旷视关注的重点有哪些？在2021年，旷视AI治理研究院的研究方向是什么？“旷视AI治理研究院的研究课题来源于两条主线，一条主线是看公众或者社会最关注的热点问题是什么，另一条主线是企业从业务角度来看，哪些问题是在经营中常见的。”徐云程告诉记者，从业务角度来看，旷视目前关注三个重点问题。

一是回到人工智能最重要的“数据”问题。据徐云程介绍，旷视一直高度重视数据安全与合规问题，历来严格遵守国家相关法律法规，并在企业内部制定、实施了完善的数据安全与合规管理制度。同时，数据隐私保护与数据安全，是需要全社会长期关注的事情，这不光涉及到科技伦理问题，也涉及到法律法规的制定，以及技术应用本身。就加密技术而言，数据隐私保护的手段已经有同态加密、联邦学习、密码学等多种方法。但有了技术手段，是否就能解决社会上各种隐私泄露和信息滥用的问题？这不一定，还需要相关各方去界定隐私的含义和边界、数据使用的规则和惩戒，以及如何形成对各种数据管理的多元共治。面对这个复杂课题，企业会是积极行动的一方，但同时还需要产、学、研、政等相关方一起加入。

二是关于技术产品的问题。旷视是一家用人工智能来赋能物联网的企业，发展战略聚焦在个人物联网、城市物联网和供应链物联网三大赛道。在每个领域，旷视都在推出或计划推出很多产品和解决方案。“旷视AI治理研究院的重点课题方向之一，就是要研究在哪些场景下技术的产品化是要面临红线的，这对我们来说非常重要。旷视一直在努力探索企业内部风险评估与管理的路径，希望通过将目标、人员、规则、机制、技术进行有机融合，形成一套管控体系。”

此外，徐云程提到，“最后一个研究的重点是我自己最感兴趣的，AI治理对企业来说有很多管理学价值。一个企业的长远发展，离不开技术创新、模式创新、和管理创新。企业的AI治理作为将来高科技企业的标配，不能只是靠一个部门几个人在摸索，或者是靠自上而下的指导性意见在推动，它要变成管理学里面企业运营的一种方式。这也是旷视AI治理研究院在软性层面做的一些研究课题。”

在旷视看来，人工智能的治理不仅仅只是监管机构的责任，企业作为AI技术研发与应用的主要力量和一线实践者，亦承担着重要的社会责任。只有企业主动开展AI治理工作，产业界积极探索技术的合理应用、学术科研机构努力研究科技带来的伦理问题、政府部门及时推出既符合社会期待又能促进科技发展的良好政策，社会各界形成合力，共同构建良好的生态环境，才能推动AI行业朝可持续发展的方向迈进。