用 WebAssembly 赋能 AI 硬件

发布于:2020 年 2 月 8 日 19:04

用 WebAssembly 赋能 AI 硬件

GMTC 深圳 2019 大会上,吕艺讲师做了《用 WebAssembly 赋能 AI 硬件》主题演讲,主要内容如下。

演讲简介

硬件加速的神经网络芯片可以极大提高 AI 应用的用户体验,如今,市场上的中低端手机大多已经预装 AI 加速的芯片,但是传统浏览器与 App 开发工具并不能直接触达这样的芯片层硬件功能。

WebAssembly 技术能让广大用户与开发者真正从 AI 加速获益。WebAssembly 是一个在前端设备上有广泛支持,为性能优化的虚拟机。通过 WASI 扩展接口,我们可以使用它支持的 20 多种编程语言直接调用硬件接口,WebAssembly 的模块化安全设计保证了虚拟机硬件调用的安全。

我将会为大家介绍与演示 Second State 与 Qualcomm(高通)公司合作的开源 WebAssembly 虚拟机 SSVM。SSVM 与高通骁龙处理器的神经网络加速器结合,让中端手机也可以快速在本地完成图像识别与人脸识别等重度 AI 工作。

当然,硬件加速的 AI 芯片不只应用于手机终端。在数据中心与服务端的 AI 应用也越来越多。SSVM 可以在云原生的服务端提供 Serverless 的 AI 微服务。

内容大纲

  1. WebAssembly 的介绍
  2. 用 Rust 写 WebAssembly 应用程序
  3. WASI 的介绍
  4. 高通骁龙神经网络加速器的编程实践
  5. WebAssembly 在服务端的应用与示例

听众受益点

  1. WebAssembly 的基础知识
  2. Rust 的编程入门
  3. 开源 WebAssembly SSVM 的安装与使用
  4. 用高级语言通过 SSVM 调用 AI 加速器
  5. 用 RPC 调用服务端的 WebAssembly 微服务

讲师介绍

吕艺,Second State 技术副总裁。

吕艺,在 IT 技术领域从业 19 年,从事过 CRM、CallCenter 的系统集成与架构设计,在亚信工作期间成为移动业务专家。

2012 年,在掌阅科技带领团队完成系统向微服务化方向的演进。

2015 年,加入 5miles,任 CTO,5miles App 是一款在美国市场排名靠前的二手交易平台,系统基于 AWS 云进行部署运行,在运用 Docker、Lambda 等容器技术与 Serverless 等方面有丰富的经验。

2017 年,成立 CyberMiles 团队,开始区块链领域的研究工作,并于 2018 年 10 月与团队完成公链的开发与上线。在区块链应用研究方面,组织开发了区块链交易网关,可以让中心化的应用系统快速接入多种区块链体系。

2019 年上线的 openbay.io 系统是基于区块链智能合约的电商平台,这是区块链应用的一次重要的尝试。

2019 年中,在新创业公司 Second State 任技术副总裁,进行 WebAssembly 与 AI 硬件以及 Serverless 应用方面的研究和实践。

用 WebAssembly 赋能 AI 硬件

用 WebAssembly 赋能 AI 硬件

用 WebAssembly 赋能 AI 硬件

用 WebAssembly 赋能 AI 硬件

用 WebAssembly 赋能 AI 硬件

用 WebAssembly 赋能 AI 硬件

用 WebAssembly 赋能 AI 硬件

用 WebAssembly 赋能 AI 硬件

用 WebAssembly 赋能 AI 硬件

用 WebAssembly 赋能 AI 硬件

完整演讲 PPT 下载链接

https://gmtc.infoq.cn/2019/shenzhen/schedule

阅读数:79 发布于:2020 年 2 月 8 日 19:04

GMTC

评论

发布
暂无评论