当前位置:首页 >铂金 >

西安交大沈超：可信AI实战竞技节目引领科技风气，需被更多看见

来源：中国网科技 2022-06-23 16:22:23

（作者系西安交通大学教授、网络空间安全学院副院长）

AI作为一项伟大的技术发明，被广泛应用到各行各业。近年来随着AI技术的规模化产业落地，逐渐暴露出越来越多的诸如“算法安全”、“隐私泄露”、“数据歧视”等问题，将AI指向了“不被信任”的困境。

可信被认为是下一代人工智能的基础。工业界2015年起在一些业务场景中采用AI安全技术，来保护用户隐私；微软、谷歌、IBM等科技巨头纷纷重投可信AI，设立相关部门或项目，开始为AI“刹车”。2017年，中国科学家何积丰首次在国内提出可信AI的概念；2021年，蚂蚁集团首度公开了包含数据隐私保护、公平性、鲁棒性（Robustness）、可解释性的“可信AI”架构体系；2021年10月，华人计算机科学家，ACM、IEEE 双Fellow周以真发表了《可信人工智能》一文，详细溯源了可信AI的发展脉络和技术内核。可信AI逐渐形成了“公平性、可解释性、鲁棒性、隐私保护”四大主要特征，成为全球科技公司和学术界追逐的技术领域。

而对于可信AI技术人才的培养，也逐渐成为高校教育的重点。西安交通大学与蚂蚁集团合作，开设了国内第一门以“可信AI理论及应用实践”为核心内容的产学合作课程——《对抗性机器学习与人工智能安全》。由西安交通大学教授与蚂蚁集团技术专家共同讲授，围绕“数据隐私保护”、“鲁棒性（Robustness）”、“可解释性与因果分析”、“公平性”四个部分进行设计，涵盖了可信AI领域中的重要技术理论以及应用实践。

最近，国内一档ATEC科技精英挑战赛《燃烧吧！天才程序员2·可信AI》更是将可信AI推向更纵深的产学研结合，在青年人中掀起了一股科技风潮。比赛中以可信AI在反诈实践中的应用，考察了青年技术人们对可信AI鲁棒性和隐私保护的技术应用能力，将技术积累转向实战化，为高新技术人才打造了一些通向产业的通道。

当然，一档技术节目并不能反映实际业务中的全貌和复杂度，它的实际意义在于，在比赛过程之中，让青年科技人更加融入到产学研的体制中，产生产学研结合的意识。这些“素人”青年技术人展现出来的科技求真的精神，也是引导青年关注科技风尚的重要渠道。

用技术的力量让AI变得更安全，让可信AI走向普惠，很长一段时间都会面临着政策法规、技术演进、标准建设、产学研结合、社会认知的挑战，需要技术人、学者、政策研究者们的共同努力。但不可否认的是，今天的青年技术人，是未来的重要技术力量，为他们提供更多元化的技术理解、走向实践的通道，也是一件难而正确的事，值得被更多人看见。