异构计算系列(二):机器学习领域涌现的异构加速技术

易小萌、郭人通

2020 年 3 月 07 日

异构计算系列(二):机器学习领域涌现的异构加速技术

“异构计算”(Heterogeneous computing),是指在系统中使用不同体系结构的处理器的联合计算方式。在 AI 领域,常见的处理器包括:CPU(X86,Arm,RISC-V 等),GPU,FPGA 和 ASIC。(按照通用性从高到低排序)本文是异构计算系列的第二篇文章,重点介绍机器学习领域涌现的异构加速技术。

机器学习与异构计算

在机器学习领域,异构计算技术的应用是近年来备受产业界和学术界关注的话题。在数据高速增长的背景下,异构计算技术是提升机器学习应用开发流程中“人”与 “机”的效率的重要途经。本文将结合机器学习应用的开发闭环对近期涌现的相关异构加速技术进行介绍。

如上图所示,机器学习应用的开发闭环包括数据整合、特征提取、模型的设计、训练和验证等多个环节。首先需要对原始数据进行汇聚整理,然后进行数据分析并提取数据特征作为模型输入。在模型设计环节,需要对模型类型、优化算法和配置参数进行选择。在模型训练完成后,需要数据科学家根据模型验证的结果对上游的各环节进行调整,例如补充新的数据源、扩展数据特征、调整模型的选择和参数设计,然后重新训练和验证模型,直到多次迭代之后得到令人满意的结果。

先谈谈上述流程中的“人”。“有多少人工就有多少智能”这个现象在生产应用中较为普遍。上述流程中存在大量的人工决策环节,需要数据科学家根据专业知识和经验进行合理决策。由于应用场景的多样性,通用的设计通常无法满足各种场景下对机器学习系统的特定需求。数据科学家需要结合实际问题,通过大量的观察分析以及多次的尝试和调优之后才能获得真正合适的设计。随着机器学习理论方法和应用场景的日益丰富,数据科学家正面临着前所未有的决策数量和难度。随着工作难度的增加,人力对机器学习系统开发效率的影响也将逐渐增大,甚至成为整个流程的瓶颈。

原文链接:【 https://www.infoq.cn/article/wDVz9rkO1jNHRoTBC9xP 】。未经作者许可,禁止转载。

登录后可解锁全站优质内容

免费畅享技术公开课、顶尖技术团队访谈、一线互联网大厂技术实践

文章
视频
电子书
研究报告
立即登录
2020 年 3 月 07 日 08:00 1269

评论

发布
暂无评论
发现更多内容

微服务架构关键点思考

dony.zhang

Dubbo的服务注册与调用

superman

架构训练营第十周感悟

张锐

week10 作业

雪涛公子

【数据结构与算法】如何高效学习数据结构与算法

三钻

学习日记 数据结构与算法 学习法

Python中list操作之append、extend

王坤祥

Python Python基础

让我们慢慢地成长

姜海天

个人成长

【架构师训练营】第 10 周作业

花生无翼

【FCC前端教程】28关学会HTML与HTML5基础

三钻

CSS html 前端 前端训练

架构师课程第十周总结

dongge

iOS Abort问题系统性解决方案

应用研发平台EMAS

ios 监控 移动

架构师第十周

Tulane

架构师训练营——第10周学习总结

jiangnanage

致力打造下一代云原生分布式消息系统,StreamNative 完成源码资本数百万美元 Pre-A 轮融资,红杉中国种子基金跟投

Apache Pulsar

kafka Apache Pulsar StreamNative

服务化问题与方案简述

superman

微服务 微服务架构 服务化改造

基于小程序云Serverless开发微信小程序

应用研发平台EMAS

架构师训练营——第 10 周作业

jiangnanage

架构师课作业 - 第十周

Tulane

憋再PS抠图了,3行代码给你安排的明明白白!

王坤祥

生产力 图像识别

浅析Python3列表操作之*和*=

王坤祥

Python Python基础

手动实现mini-vue

晓枫

JavaScript vue.js

Django单元测试用法及Fixtures用法

Young先生

Python django 单元测试 Fixtures

下载的附件名总乱码?你该去读一下 RFC 文档了!

Java课代表

Spring Boot

架构训练营第十周作业

张锐

【FCC前端教程】44关学习CSS与CSS3基础「一」

三钻

CSS css3 程序员成长 前端训练

Lambda架构已死,去ETL化的IOTA才是未来

易观大数据

微服务、中台和 DDD

dongge

架构师训练营第十周学习总结

Bruce Xiong

Dubbo微服务调用过程时序图

2流程序员

职业发展的迷茫与困境:你真的了解晋升机制吗?

伴鱼技术团队

职业规划 技术管理 技术交流 职业成长 技术人生

威联通(NAS)应用篇:搭建个人图床

Young先生

图床 NAS QNAP 威联通 自建

异构计算系列(二):机器学习领域涌现的异构加速技术-InfoQ