QCon全球软件开发大会8折优惠倒计时,购票立减¥1760!了解详情 >>> 了解详情
写点什么

莱斯大学和英特尔的新研究:训练深度神经网络,CPU 可以比 GPU 更快

2021 年 4 月 19 日

莱斯大学和英特尔的新研究:训练深度神经网络,CPU 可以比 GPU 更快

莱斯大学(Rice University)的计算机科学家展示了一种在普通处理器上运行的人工智能软件,它训练深度神经网络的速度是基于图形处理器的平台的 15 倍。

 

莱斯大学布朗工程学院计算机科学助理教授 Anshumali Shrivastava 表示:“训练成本是人工智能的真正瓶颈,企业每星期都要花上数百万美元,仅仅是为了训练和微调他们的人工智能工作负载。”

 

Shrivastava 和来自莱斯大学与英特尔的合作者在 4 月 8 日的机器学习系统会议 MLSys 上展示了解决这一瓶颈的研究成果。

 

深度神经网络是人工智能的一种强大形式,在某些任务上超越了人类。对于深度神经网络的训练通常是一系列矩阵乘法运算,而矩阵乘法运算是图形处理单元(GPU)的理想工作负载,其成本约为通用中央处理单元(CPU)的三倍。

 

Shrivastava 说:“整个行业都集中在一项改进上:更快的矩阵乘法。所有人都在寻找专门的硬件和架构来推进矩阵乘法。如今,甚至有人说要为特定种类的深度学习提供专用的软硬件组合。与其把整个系统优化的世界都抛到昂贵的算法面前,我还不如这么说:‘让我们重新审视一下算法。’”

 

Shrivastava 的实验室在 2019 年完成了这项工作,他们将深度神经网络的训练重铸为一个搜索问题,并使用哈希表解决。他们的“次线性深度学习引擎”(sub-linear deep learning engine,SLIDE)是专门为使用普通 CPU 而设计的,由 Shrivastava 和来自英特尔的合作者在 MLSys 2020 上发布,证明了它的性能能够超越基于 GPU 的训练。

 

不久前,他们在 MLSys 2021 上发表了一项研究,探索了在现代 CPU 中使用向量化和内存优化加速器是否可以提高 SLIDE 的性能。

 

该研究报告的共同作者,莱斯大学的研究生 Shabnam Daghaghi 说:“基于哈希表的加速性能已经超越了 GPU,但 CPU 也在不断发展,”。他说,“我们利用这些创新让 SLIDE 更进一步,表明如果你不坚持矩阵乘法,你可以利用现代 CPU 的能力,训练人工智能模型的速度比最好的专业硬件替代方案快 4 到 15 倍。”

 

研究报告的作者之一、莱斯大学本科生 Nicholas Meisburger 称:“CPU 仍然是计算领域最普遍的硬件。在人工智能工作负载中,让它们更有吸引力的好处是不可低估的。”

 

原文链接:


https://techxplore.com/news/2021-04-rice-intel-optimize-ai-commodity.html

2021 年 4 月 19 日 10:11814

评论

发布
暂无评论
发现更多内容

第二周-作业

ray-arch

极客大学架构师训练营

牛皮了!字节面试官爆肝七天七夜总结了一份算法面试笔记

互联网架构师小马

Java 程序员 字节跳动 面试 算法

架构师训练营第 1 期 week6 总结

张建亮

极客大学架构师训练营

深入浅出System.gc() 源码解读

AI乔治

Java 架构

写时复制集合 —— CopyOnWriteArrayList

程序员小航

Java 源码 并发 源码阅读 JUC

cglib 入门前篇

Rayjun

Java cglib

二、ood原则

Geek_28b526

架构师训练营第 2 周课后练习

菜青虫

极客大学架构师训练营

软考资料学习库

玄兴梦影

牛皮!GitHub上标星90.6K的Java面试指南+笔记

互联网架构师小马

Java GitHub 学习 程序员 面试

最实用的无线PORTAL测试案例

测试 无线网络 网络

jdk 源码系列之HashMap

sinsy

源码 jdk HashMap底层原理

新手初学Java性能之 垃圾收集器

Java架构师迁哥

第六周 Doris临时故障时序图

Geek_fabd84

成为架构师 - 架构师训练营第 02 周

陈永龙Vincent

钻石与小度:智能语音助手背后的“马斯洛需求模型”

脑极体

使用抓包工具fiddler和apipost进行接口测试

测试人生路

测试工具 fiddler

架构师训练营第 2 周学习总结

菜青虫

极客大学架构师训练营

CAP 原理

黄立

CAP

架构训练营-week6-作业

于成龙

CAP 架构训练营

架构师训练营第 1 期 week6

张建亮

极客大学架构师训练营

架构师训练营第六周作业

我是谁

极客大学架构师训练营

架构训练营第二周学习小结

李日盛

作业一:

丁乐洪

Mysql中,这21个写SQL的好习惯,你值得拥有呀

捡田螺的小男孩

MySQL sql SQL优化 sql习惯

阿里内部首发Spring Cloud全套微服务架构笔记,速拿去怼面试官!

Java架构追梦

Java 编程 面试 微服务架构 SpringCloud

架构训练营-week6-学习总结-技术选型(二)

于成龙

架构训练营

Java程序员必会的三个技能:Spring+MySQL+并发编程

Java架构师迁哥

一整套Java线上故障排查技巧,爱了!爱了!

互联网架构师小马

架构师训练营第 1 期第 6 周作业

du tiezheng

极客大学架构师训练营

三分钟带你分清Mysql 和Oracle之间的误区

华为云开发者社区

MySQL 数据库 oracle 安全 关系型数据库

移动应用开发的下一站

移动应用开发的下一站

莱斯大学和英特尔的新研究:训练深度神经网络,CPU 可以比 GPU 更快-InfoQ