旷视“开源”初露锋芒 “天元”助力AI应用加速落地

人工智能产业正加速迎来发展新浪潮。

“开源”一词成为今年AI界探讨的焦点话题之一。何为“开源”？其本质上是一种人才、智慧、技术的大聚合，是AI产业升级的加速器。“开源”一方面为AI创建了一个开放共进的生态环境，可以帮助各行业加速AI应用落地；另一方面，开源在解决行业实际问题时持续更新和迭代，可反向给AI领域输送技术养料和创造力。

据悉，今年包括清华大学深度学习框架计图（Jittor）、腾讯TNN、华为的MindSpore相继宣布对外正式开源，各家企业对于AI深度学习框架研发愈发重视。更有相关人士指出，2020年可以说是AI深度学习框架开源元年。

人工智能公司旷视科技在今年3月份正式宣布其自主研发的深度学习框架天元（MegEngine）对外开源，而值得注意的是，天元（MegEngine）也是旷视科技AI生产力平台Brain++的核心组件。

旷视开源深度学习框架天元的负责人田忠博表示，旷视在深度学习框架和AI生产力平台上取得了领先成果，并经过了多年实践验证。在AI产业加速进程中，旷视希望将核心能力开放出来，帮助更多AI开发者，通过更好用的框架和平台去创新。

半年时间9次迭代 旷视天元“进化”提速

2020年3月，旷视科技对外推出天元（MegEngine）Alpha版本，并正式向全球开发者开源。

在短暂三个月过后，旷视科技推出天元（MegEngine）Beta版本，据介绍，此次天元beta版本与小米的MACE深度学习推理框架、OPEN AI LAB（开放智能）的Tengine框架实现了深度集成。

在9月份旷视推出天元（MegEngine）1.0预览版，在经过一个月时间测试调整后，天元（MegEngine）1.0正式版对外发布。旷视开源深度学习框架天元的负责人田忠博向中国网财经记者介绍，天元1.0正式版，相比之前的版本实现了5项重要的技术升级。

首先，全新的Imperative Runtime。天元通过重写动态执行引擎，打破过去几个版本中动态图的限制，解决了一系列资源释放的问题，并大幅提升了动态自由度，让使用GPU计算像numpy一样方便自如。

天元1.0正式版还新增了自动代码裁剪功能，用户可以全自动的针对自己网络使用的算子进行代码裁剪，不用手工配置就能最小化推理时的代码体积，极大提升端侧推理的竞争力。

此外，天元1.0进行了10余项推理侧性能优化，进一步提升了端侧推理性能。同时，天元支持了更多的国产硬件。天元对于主流的一些国产硬件进行了接入，方便在国产NPU芯片上进行推理工作。

最后，天元实验性的开发了一套基于MLIR的JIT引擎，尝试利用MLIR这一项非常有前景的方案进行计算图的进一步融合、优化。希望能探索新兴技术，与新技术一同发展，提升。

“天元”三大核心优势 赋能用户“小时级” 转化能力

在经历过多次迭代升级后，旷视天元逐渐从“稚嫩”走向“成熟”，底层技术支撑更加高效、全面，大大提升了用户实际处理问题可操作丰富度。

据旷视方面介绍，第一，天元可实现“训练推理一体”。在传统深度学习模型开发流程中，从训练到推理，开发者需要经过一系列格式转换，随之而来也会带来种种难题。为了解这一痛点，天元在训练和推理侧均是一套底层框架提供支持，让训练与推理不再是完全孤立的两个步骤，开发者不再需要为了模型转换而头疼。

第二，全平台高效支持。天元对于常用的各类 CPU、GPU 和 NPU 提供了全面而高效的支持，让用户无需为每个平台重新学习重新开发。旷视方面表示，只有在各个平台上都提供足够高效便捷的推理能力，才能真正的让用户和企业免除模型转换工作。

第三，动静结合的训练能力。据了解天元一方面可通过动态模式支持快速设计模型，另一方面通过动静结合方案，让动态训练代码无缝转换为静态图，从而利用算子融合、亚线性内存优化等技术，使得内存消耗和训练速度达到最优。

旷视方面表示，天元凭借其三大核心优势，能够帮助企业与开发者大幅节省产品从实验室原型到工业部署的流程，提高其产品“转化”能力。

重视开发者生态建设 开源社区蓬勃发展

在以数字科技创新为引擎的经济发展新阶段，开源社区作为社会高效协作打造计算生态的重要模式，自然得到旷视方面十足重视。

对此，旷视在线上推出了《深度学习实践》和《天元深度学习框架入门》系列视频课程，帮助开发者快速学习掌握天元使用方法。在天元官网上，记者还看到旷视开设“天元模型中心”板块，板块中提供了图像分类、图像检测、图像分割、关键点、自然语言处理、生成对抗网络等方面的基础预训练模型，让开发者可以便捷上手，快速开始自己的科研工作。

此外，旷视还举办面向高校学生和全球AI青年人才的开源大赛和一系列人才培养计划活动，旨在吸引并鼓励开发者共同参与开源社区的生态建设。

面向未来，人工智能正在“潜移默化”的改变我们的生活，而开源对于整个AI行业而言，不光是技术架构、行业应用的具体落地和蓬勃发展，其背后更是代表了广大科研人员强大的创造力与研发能力。相信随着我国将科技自立自强作为发展的战略支撑，AI开源生态在将来也会拥有更广泛的机会和充满希望的前景。