近日,MLPerf基准联盟公布了首轮AI推理基准测试结果,阿里巴巴旗下平头哥半导体自主研发的含光800AI芯片,在Resnet50基准测试中摘得单芯片性能第一的好成绩。
MLPerf是一个由图灵奖得主DavidPatterson联合谷歌、百度、英特尔、AMD、哈佛大学与斯坦福大学共同打造的新型基准测试工具,专门用来测试机器学习软件与硬件的执行速度,就如同手机性能跑分测试。MLPerf基准测试工具的出现,让各大AI公司发布的芯片性能真实的体现,避免了对产品的自吹自擂、商业炒作、夸大性能的虚假情况。
据了解,含光800参加了MLPerf基准测试下适用于图像分类任务的Resnet50基准测试,在离线模式、服务模式、多路模式和单路模式四个场景都取得了单芯片第一的亮眼成绩。在离线模式测试与对手的较量中,含光800的成绩为69306.60IPS,单芯片性能达到了谷歌TPUv3的8.5倍,是英伟达 T4的12倍。这也说明,在当前AI芯片系统推理水平上,平头哥的含光800以及达到了世界领先水平。
作为阿里平头哥目前主打的AI芯片产品,含光800自诞生之日起就受到业内热捧。含光800通过自研芯片架构、推理加速等技术有效解决芯片硬件层面的性能瓶颈问题。加上达摩院先进算法的支持改进芯片的软件生态,使得含光800在计算效率上得到大幅提升。
目前,含光800已开始广泛应用在阿里的内部核心业务中。比如杭州城市大脑业务处理杭州主城区交通视频,使用含光800仅需4颗芯片,延时降至150ms。而传统的方式则需要40颗传统GPU,延时达到300ms。除了城市大脑以外,含光800还可以应用在视觉处理、数据计算等多个方面。
随着我国科技生产力水平不断提高平,除了阿里平头哥的含光800以外,还涌现了大批优秀的AI芯片企业,比如寒武纪、地平线、比特大陆等。就目前发展情况来看,虽然在专用芯片技术水平上,国内厂商完全可以与众多国外老牌厂商一较高下。但在通用芯片技术水平上与英特尔、高通等国外巨头还存在一定距离。取长补短,努力发展我们不足的地方,或许才是国内芯片厂商未来最重要的任务。对此你有什么看法?欢迎回帖讨论,凡回帖参与本次话题讨论,均可获得5积分奖励!
往期话题帖子如下,欢迎前往参与讨论: