2天时间,聊今年最热的 Agent、上下文工程、AI 产品创新等话题。2025 年最后一场~ 了解详情
写点什么

用 WebAssembly 赋能 AI 硬件

  • 2020-02-08
  • 本文字数:1004 字

    阅读完需:约 3 分钟

用 WebAssembly 赋能 AI 硬件

GMTC 深圳 2019 大会上,吕艺讲师做了《用 WebAssembly 赋能 AI 硬件》主题演讲,主要内容如下。


演讲简介


硬件加速的神经网络芯片可以极大提高 AI 应用的用户体验,如今,市场上的中低端手机大多已经预装 AI 加速的芯片,但是传统浏览器与 App 开发工具并不能直接触达这样的芯片层硬件功能。


WebAssembly 技术能让广大用户与开发者真正从 AI 加速获益。WebAssembly 是一个在前端设备上有广泛支持,为性能优化的虚拟机。通过 WASI 扩展接口,我们可以使用它支持的 20 多种编程语言直接调用硬件接口,WebAssembly 的模块化安全设计保证了虚拟机硬件调用的安全。


我将会为大家介绍与演示 Second State 与 Qualcomm(高通)公司合作的开源 WebAssembly 虚拟机 SSVM。SSVM 与高通骁龙处理器的神经网络加速器结合,让中端手机也可以快速在本地完成图像识别与人脸识别等重度 AI 工作。


当然,硬件加速的 AI 芯片不只应用于手机终端。在数据中心与服务端的 AI 应用也越来越多。SSVM 可以在云原生的服务端提供 Serverless 的 AI 微服务。


内容大纲


  1. WebAssembly 的介绍

  2. 用 Rust 写 WebAssembly 应用程序

  3. WASI 的介绍

  4. 高通骁龙神经网络加速器的编程实践

  5. WebAssembly 在服务端的应用与示例


听众受益点


  1. WebAssembly 的基础知识

  2. Rust 的编程入门

  3. 开源 WebAssembly SSVM 的安装与使用

  4. 用高级语言通过 SSVM 调用 AI 加速器

  5. 用 RPC 调用服务端的 WebAssembly 微服务


讲师介绍


吕艺,Second State 技术副总裁。


吕艺,在 IT 技术领域从业 19 年,从事过 CRM、CallCenter 的系统集成与架构设计,在亚信工作期间成为移动业务专家。


2012 年,在掌阅科技带领团队完成系统向微服务化方向的演进。


2015 年,加入 5miles,任 CTO,5miles App 是一款在美国市场排名靠前的二手交易平台,系统基于 AWS 云进行部署运行,在运用 Docker、Lambda 等容器技术与 Serverless 等方面有丰富的经验。


2017 年,成立 CyberMiles 团队,开始区块链领域的研究工作,并于 2018 年 10 月与团队完成公链的开发与上线。在区块链应用研究方面,组织开发了区块链交易网关,可以让中心化的应用系统快速接入多种区块链体系。


2019 年上线的 openbay.io 系统是基于区块链智能合约的电商平台,这是区块链应用的一次重要的尝试。


2019 年中,在新创业公司 Second State 任技术副总裁,进行 WebAssembly 与 AI 硬件以及 Serverless 应用方面的研究和实践。












完整演讲 PPT 下载链接


https://gmtc.infoq.cn/2019/shenzhen/schedule


2020-02-08 19:041156

评论

发布
暂无评论
发现更多内容

Android中的图像格式

如浴春风

android 音视频 安卓 签约计划

陪伴

小天同学

陪伴 育儿 个人感悟 4月日更

TIOBE榜单四月已出:上古语言Fortran重回前20?

Bob

编程语言、 4月日更 Tiobe

从石器时代到田园牧歌:如何对 API 统一建模

李宇飞

API

重读《重构2》

顿晓

重构 4月日更

AI数据科学认证-2021年的最佳选择 John 易筋 ARTS 打卡 Week 44

John(易筋)

ARTS 打卡计划

初入江湖,IT从业者应该如何选择?

云峰

css

赫鲁小夫

4月日更

企业上云一张网,华为将在分析师大会上亮出哪些大招?

脑极体

「 优秀主题征文名单公布 」—— InfoQ 写作平台【 1 周年盛典 】

InfoQ写作社区官方

1 周年盛典 热门活动

浪潮签约“数字基建”合作伙伴共促工业互联网创新发展

工业互联网

「架构师训练营 4 期」大作业一&二

凯迪

架构师训练营 4 期

嘉云公司研发效能平台实践

小江

研发效能 CI/CD

「免费开源」基于Vue和Quasar的前端SPA项目crudapi后台管理系统实战之业务数据增删改查(七)

crudapi

Vue API crud crudapi quasar

架构师训练营 4 期 大作业

引花眠

架构师训练营 4 期

模块二作业

c

架构实战营

WebRTC基础知识详解

IT酷盖

签约计划

更简的并发代码,更强的并发控制

万俊峰Kevin

并发 go-zero Go 语言

「 最佳内容公布」—— InfoQ 写作平台【 1 周年盛典 】

InfoQ写作社区官方

1 周年盛典 热门活动

微服务网关方案:Kong & Nacos

程序员架构进阶

架构 微服务 API网关 28天写作 4月日更

最详细的基于 Prometheus 的 Azure 指标监控

耳东@Erdong

azure Prometheus 4月日更

猫鼠游戏,一个刷票老千看在线投票项目的防范与取舍

ucsheep

安全 在线投票 防作弊 刷票

Java 并发基础(五):面试实战之多线程顺序打印

看山

Java并发

Seldon 使用 (二):打包模型

托内多

tensorflow kubeflow Kubernetes PyTorch seldon

对前端趋势的一些理解

葱小白

大前端

Python变量作用域与LEGB规则

大奎

语法 Python Monad 作用域

Spark原理与实战之部署模式与运行机制

小舰

spark Spark调优 4月日更

「架构师训练营 4 期」大作业二

凯迪

架构师训练营 4 期

浅析LSM-Tree存储模型

正向成长

LSM树 KV存储引擎

MySQL多表查询详解

若尘

MySQL 查询

AI数学基础之:确定图灵机和非确定图灵机

程序那些事

人工智能 AI 程序那些事 图灵机

用 WebAssembly 赋能 AI 硬件_GMTC_吕艺_InfoQ精选文章