近日,国产深度学习框架OneFlow发布了人工智能方向深度学习领域的DLPerf测评报告,填补了业内针对深度学习框架测评的空白。
报告数据显示,OneFlow在4机32卡下的ResNet50-v1.5和BERT-base两个模型中,无论是Float32类型还是自动混合精度,在同样的算法和硬件条件下,吞吐率及加速比均优于其他深度学习框架。
ResNet-50是计算机视觉(Computer Version)领域最主流的深度学习模型之一,而BERT是自然语言处理(Natural Language Processing)领域的进行预训练的主流模型。OneFlow以这两种模型为基础的测试结果,对深度学习算法及硬件调优有着重要的参考价值。
OneFlow是一流科技自主研发、拥有完全自主知识产权的深度学习框架软件,是国内首个由初创团队研发并开源的AI框架,于今年7月31日正式开源后获得了广泛的业内关注。
此次测评是OneFlow开源百天后向广大开发者交出的第一份“大型答卷”。对此,创始人袁进辉表示:“OneFlow从研发之初就主打高效性,致力于解决大规模分布式AI训练问题。这三个多月来,我们做了大量工作来增强稳定性、图编译和运行速度,在多机多卡场景下持续优化,以达到分布式最佳性能。”
除了数据对比,在本次测评报告中,OneFlow还公布了对其他深度学习框架进行调优的过程,以保证测评报告公正、准确、可复现。
在谈到为何公布如此详细的调优过程时,袁进辉说道:“首先,我们要保证这份测评报告是客观、可复现的,这样才能帮助到开发者的日常工作。随着数据量级的增长,开发者对于深度学习框架如何激发硬件性能持续关注,我们希望这份报告可以给开发者在应用深度学习框架时提供必要的助力,并以此填补业界没有DLPerf测评报告的空白。”
OneFlow开源后,收到了来自世界范围内的广泛关注,关注者来自谷歌、脸书、微软、亚马逊、阿里、字节跳动、腾讯、百度、商汤、旷视等企业的核心技术人员。开源一个多月后,接到多家头部互联网企业和人工智能企业的使用意向。
下一步,OneFlow将基于本次DLPerf测试报告,为开发者提供更多关于深度学习框架的系列课程、分享与论文,继续支持企业与机构对深度学习框架的性能优化,提升深度学习框架在行业中的应用水平。
随着十四五规划纲要的出炉,人工智能成为国家级战略重点,其中深度学习框架因其重要的行业位置受到各界关注。深度学习框架是基于深度学习的操作系统,帮助企业更高效的进行深度学习算法研发,与Windows、IOS有相似的作用。
中科院院士、清华大学人工智能研究院院长张钹表示,目前国际巨头纷纷投入重金研究深度学习框架,比如谷歌、Facebook和亚马逊等等,谁掌握了操作系统技术,并围绕操作系统技术建立起生态,谁就能在全球竞争中掌握主动权,这是中国需要加强研发的重要人工智能技术,以实现底层核心技术的自主创新。
北京一流科技公司创立于2017年1月,始终立足于通用性深度学习标准框架的研发和推广使用,力争打造人工智能深度学习框架产品的引领者和事实工业标准。目前,一流科技公司连续完成由九合创投、天目创投、快手战投、聚卓资本等国内知名投资机构的数千万级风险投资。
事实上很早就已经有企业推出AI开发框架,包括TensorFlow、Pytorch,不过,现在深度学习,模型越来越大,大规模训练需求提升,速度成为AI框架核心痛点,而这也是OneFlow要解决的重点问题,未来深度学习框架将形成以TensorFlow、Pytorch、OneFlow为主的市场局面。
OneFlow具备其他深度学习框架所没有的超大规模数据训练的能力,已经在不少应用场景中实现落地,比如,因为天生支持数据并行、模型并行和混合并行,已经在安防领域人工智能公司落地,实现千亿级人脸识别。
谈到未来发展,袁进辉此前对媒体说道:“未来,我们将继续保持OneFlow在高效性方面的优势,全面提升易用性和完备性,让更多的开发者愿意使用,爱上使用全新一代的深度学习框架,降低使用人工智能技术的成本和难度,解放生产力,把机械化的事情交给机器,让人去做更有创造力的事情。”
全部0条评论
快来发表一下你的评论吧 !