近日，斯坦福大学公布最新DAWNBench深度学习推理榜单，该榜单是人工智能领域最权威的竞赛之一，亚马逊AWS及谷歌均榜上有名，它要求参赛机构的计算平台对5万张图片进行精准识别并分类。在最近的一次测试结果中，阿里云的识别速度打破了亚马逊保持八个月的记录，成为首次出现在该榜单的中国科技公司。

根据结果显示，阿里云识别图片的速度比亚马逊快2.36倍，比谷歌快5.28倍。阿里云可以获胜的关键是强大的计算能力，其突破点在于针对图像识别任务研发了加速框架，可以自动将深度学习推理模型从32比特压缩到8比特，占用的计算资源将减少4倍，速度也由此提升了4倍。

阿里云参与了DAWNbench竞赛中的两个项目：一是针对ImageNet验证集中50000张图片的分类任务，要求分类模型的Top-5精度不低于93%，统计分类每一张图片的平均延迟，延迟越低，性能越高，排名越高；二是在每次一张的情况下，完成50000张图片推理的平均成本。比赛中，阿里云技术团队使用ecs.gn5i-c8g1.2xlarge实例，以每张图片4.218ms的性能，0.00000154美金的推理成本分别登顶推理性能和成本榜单，不仅性能是第二名基于Amazon EC2 [c5.18xlarge]实例的2.36倍，而且平均每张图片的推理成本也比第二名低6.1%。

DAWNbench竞赛的推理性能榜单

在人工智能技术领域的研究中，尽管研究人员对系统、算法和硬件进行了大量的研究，以加速深度学习的工作负载，但是却没有标准的方法以评估端到端深度学习（end-to-end deep learning）性能。斯坦福大学提出的Dawnbench就是一种用于端到端深度学习训练和推理的基准套件，它提供了一组常见的深度学习工作负载，用于在不同的优化策略、模型架构、软件框架、云和硬件上量化训练时间、训练成本、推理延迟和推理成本。

此前，Intel的ResNet模型(Caffe框架)，即完全由Xeon处理器构建的亚马逊EC2平台，在推理延迟和推理成本上都拿下第一。具体来说，Intel平台处理10000张图片的延迟是9.96ms，成本0.02美元。阿里云本次获得了图像识别性能及成本双料冠军，其中一项的成本同样为0.02美元。

DAWNbench竞赛的推理成本榜单

早在今年5月份，阿里巴巴集团CEO张勇就在发言中表示：AI（人工智能）对于很多人来说可能是新事物，但阿里巴巴早已大规模应用。当大家第一次听到AI时，我们还以为说的是Alibaba Intellegence（阿里智能）。阿里云弹性计算负责人余锋表示，随着人工智能等计算场景的普及，计算芯片将术业有专攻，算力的大幅提升将成为业务创新的基石。

创作场景

首家上榜中国公司，阿里云图像识别比亚马逊快 2.36 倍