1版权声明本白皮书版权属于中国人工智能产业发展联盟，并受法 律保护。转载、摘编或利用其它方式使用本白皮书文字或者 观点的，应注明“来源：中国人工智能产业发展联盟”。违 反上述声明者，编者将追究其相关法律责任。 2前言人工智能是一种引发诸多领域产生颠覆性变革的前沿技术，当前 以机器学习，特别是深度学习为核心，在视觉、语音、自然语言等应 用领域迅速发展，已经开始像水电煤一样赋能于各个行业。深度学习软件框架及相关工具集是人工智能应用落地的重要抓 手，是人工智能相关服务及产品的核心。本白皮书专注于以深度学习 为核心的软件框架及工具，以实际需求为指引，提出深度学习技术选 型考虑及指标，旨在为企业应用深度学习技术开展业务提供参考，同 时为以开源框架为技术核心的服务及产品选型评测提供依据。深度学习技术选型白皮书是中国人工智能产业发展联盟开源开 放推进组的研究成果。本白皮书从深度学习训练框架、推断框架及技 术生态工具集三个维度系统梳理总结了基于开源的深度学习技术体 系，结合企业自身业务开展需求，分析了技术选型因素，提出了选型 指标体系，并就软件框架目前存在的问题及技术发展趋势进行了研判。 中国人工智能产业发展联盟后续将在此研究基础上继续深入开展相 关研究及评估标准制定工作，并继续发布相关研究成果。 1目录目录 ... 1一、 深度学习软件框架发展概述3（一） 深度学习框架是人工智能产业化落地的核心3（二） 深度学习框架的分类 .... 4二、 深度学习训练框架技术选型5（一） 深度学习训练框架应用现状 .... 51. 深度学习训练框架使用趋同52. 产业对训练框架提出新需求9（二） 训练框架选型考虑 ...... 10（三） 产业优秀使用案例 ...... 141. 基于TensorFlow构建大规模应用系统 ..... 142. 基于Keras简洁高效实现智能化运维 ....... 173. 基于PaddlePaddle实现多种业务部署 ...... 174. 基于Caffe满足目标检测实际业务需求 ... 18三、 深度学习推断框架技术选型 .......... 19（一） 深度学习推断框架应用现状 .. 191. 推断框架体系呈现碎片化 .. 192. 推断框架滞后于实际需求 .. 21（二） 推断框架选型考虑 ...... 22（三） 产业优秀使用案例 ...... 241. 面向移动终端的HiAI计算平台 ..... 252. 面向工业的轴承故障推断应用 ...... 253. 企业研发助力推断框架性能显著提升 ...... 26四、 深度学习技术生态工具集 .. 261. 深度学习编译中间件 .......... 272. 数据及模型表示格式 .......... 283. 深度学习可视化工具 .......... 284. 标准模型算法资源库 .......... 29。。。。。。