MENU
媒体资讯

媒体资讯

聚焦之江实验室最新动态及媒体关注热点。

来源: 宣传文化中心  作者: 周立超  发布日期:2021-01-24
宣传文化中心
周立超 1611489619 https://www.zhejianglab.com/upload/2021/01/25/16115379563293di2lb.jpg

新增功能+优化性能 天枢平台新版本发布上线

之江天枢人工智能开源平台自去年上线开源后,一直保持着近90天一版本的快速迭代频率,各项性能指标持续优化提升,天枢开发团队正不断擦亮天枢平台“极致性能、至快至简”的铭牌。近日,之江天枢人工智能开源平台正式对外发布最新V1.2版本,新增了云端Serving(服务)、模型优化等重大功能模块,对模型炼知平台、深度学习训练框架、数据处理等已有系统进行了技术优化,大幅提升了各项性能。

模型炼知技术是天枢平台的“杀手锏”之一,它让算法“七十二变”成为可能。以天枢平台重点服务的视频安防领域为例,目前的视频监控白天需要一种模型实现行人识别和跟踪,为了适应夜间环境晚上的监测则需要另一种模型。模型炼知技术可使两种模型进行融合,既适用于白天,也适用于晚上,有效扩大算法模型的应用范围。本次版本更新,天枢团队对原有的模型炼知平台进行了架构重组,使其前端和后台平台管理模块与一站式AI平台融合,模型图谱与重组引擎等仍保持独立,最大化精简天枢平台的架构。而要将若干AI模型通过重组算法“炼知”成一个复合模型,首先需要判断原有模型是否具备模型炼知的条件。天枢平台的度量管理工具能够自动判断模型之间的相似度,图谱可视化、图谱列表等工具可将万余种AI模型之间的关联性实现可视化呈现,以更直观的方式帮助开发者理清关系,更加合理地进行模型“炼知”。

训练完成的AI模型,要真正能够像软件一样应用,还需要对其进行部署。为此,天枢平台此次上线了云端Serving模块,为AI模型提供了部署和发布所需的强大环境和工具,包括支持主流深度学习框架Oneflow、Tensorflow、Pytorch和Keras,支持多种通信方式、支持在线服务和批量服务等。

天枢平台本次版本更新的另一大亮点就是上线了自研的模型优化模块。为了应对更加复杂、难度更高的AI任务,开发者的预训练模型往往非常“臃肿”,运行起来需要巨大的计算资源进行支撑,对部署环境和设备提出了很高的要求。天枢平台的模型优化模块,本次上线了12种模型压缩策略,采用权重量化、模型剪枝、模型蒸馏等技术手段,帮助开发者将复杂AI模型进行“瘦身”,实现AI模型轻量化,减少对计算资源的依赖,使复杂AI模型能够在手机端、汽车端乃至众多IoT终端上顺利部署与运行,为“普及化”和“轻量化”人工智能提供了技术路径。

作为天枢平台的核心部件,深度学习框架也迎来了一次性能上和用户体验上的较大提升。新版本框架在硬件适配上率先支持CUDA 11.1版本以及安培架构显卡;优化了内存调用逻辑,实现了保持训练速度的前提下,大幅节省计算内存;支持量化感知训练,让量化压缩模型在部署时精度损失更小;支持CFG(Control Flow Graph,控制流图),提升了系统消息传递效率;新增、优化几十个算子,让深度学习模型计算更快,支持的模型更全等。

随着版本不断迭代,性能持续优化,天枢生态圈建设正在稳步推进中。截至目前,平台已汇聚来自产学研各界600余家机构和个人部署使用,核心生态合作伙伴达66家。


天枢官方网站:

http://tianshu.org.cn/ 

代码托管平台“聚码坊(Codelab):

http://codelab.org.cn/


上一条:团结青年、服务青年 之江实验室青年工作委员…

下一条:余杭区委书记张振丰赴之江实验室新园区开展…

该内容仅限
内部人员查看

请登录