写点什么

用 WebAssembly 赋能 AI 硬件

  • 2020-02-08
  • 本文字数:1004 字

    阅读完需:约 3 分钟

用 WebAssembly 赋能 AI 硬件

GMTC 深圳 2019 大会上,吕艺讲师做了《用 WebAssembly 赋能 AI 硬件》主题演讲,主要内容如下。


演讲简介


硬件加速的神经网络芯片可以极大提高 AI 应用的用户体验,如今,市场上的中低端手机大多已经预装 AI 加速的芯片,但是传统浏览器与 App 开发工具并不能直接触达这样的芯片层硬件功能。


WebAssembly 技术能让广大用户与开发者真正从 AI 加速获益。WebAssembly 是一个在前端设备上有广泛支持,为性能优化的虚拟机。通过 WASI 扩展接口,我们可以使用它支持的 20 多种编程语言直接调用硬件接口,WebAssembly 的模块化安全设计保证了虚拟机硬件调用的安全。


我将会为大家介绍与演示 Second State 与 Qualcomm(高通)公司合作的开源 WebAssembly 虚拟机 SSVM。SSVM 与高通骁龙处理器的神经网络加速器结合,让中端手机也可以快速在本地完成图像识别与人脸识别等重度 AI 工作。


当然,硬件加速的 AI 芯片不只应用于手机终端。在数据中心与服务端的 AI 应用也越来越多。SSVM 可以在云原生的服务端提供 Serverless 的 AI 微服务。


内容大纲


  1. WebAssembly 的介绍

  2. 用 Rust 写 WebAssembly 应用程序

  3. WASI 的介绍

  4. 高通骁龙神经网络加速器的编程实践

  5. WebAssembly 在服务端的应用与示例


听众受益点


  1. WebAssembly 的基础知识

  2. Rust 的编程入门

  3. 开源 WebAssembly SSVM 的安装与使用

  4. 用高级语言通过 SSVM 调用 AI 加速器

  5. 用 RPC 调用服务端的 WebAssembly 微服务


讲师介绍


吕艺,Second State 技术副总裁。


吕艺,在 IT 技术领域从业 19 年,从事过 CRM、CallCenter 的系统集成与架构设计,在亚信工作期间成为移动业务专家。


2012 年,在掌阅科技带领团队完成系统向微服务化方向的演进。


2015 年,加入 5miles,任 CTO,5miles App 是一款在美国市场排名靠前的二手交易平台,系统基于 AWS 云进行部署运行,在运用 Docker、Lambda 等容器技术与 Serverless 等方面有丰富的经验。


2017 年,成立 CyberMiles 团队,开始区块链领域的研究工作,并于 2018 年 10 月与团队完成公链的开发与上线。在区块链应用研究方面,组织开发了区块链交易网关,可以让中心化的应用系统快速接入多种区块链体系。


2019 年上线的 openbay.io 系统是基于区块链智能合约的电商平台,这是区块链应用的一次重要的尝试。


2019 年中,在新创业公司 Second State 任技术副总裁,进行 WebAssembly 与 AI 硬件以及 Serverless 应用方面的研究和实践。












完整演讲 PPT 下载链接


https://gmtc.infoq.cn/2019/shenzhen/schedule


2020-02-08 19:041080

评论

发布
暂无评论
发现更多内容

高效微调大模型的新方法

百度开发者中心

nlp 大模型 #人工智能

c++类 | AI工程化部署

AIWeker

c AI工程化部署

实例讲解Python 解析JSON实现主机管理

华为云开发者联盟

Python json 开发 华为云 华为云开发者联盟

从 Logstash 到 TDengine 数据接入功能,原来有这些“不一样”

TDengine

tdengine 时序数据库

软件测试/人工智能|人工智能与智能化测试Workshop

霍格沃兹测试开发学社

灵活易用的即时通讯组件设计思路和最佳实践

融云 RongCloud

ios 设计 即时通讯 API Global IM UIkit

如何使用京东商品详情 API 获取用户评价最多的商品详情?

技术冰糖葫芦

API 开发

IDC 中国数字化转型盛典:兴业银行「基于悦数图数据库」的「智能大数据云平台」获奖

悦数图数据库

大数据 云平台 图数据库 智能大数据云平台

别让错误的SQL变更毁了你的数据!那该如何审核变更SQL?

NineData

sql 数据 开发 变更 NineData

Go语言很难吗?为什么 Go 岗位这么少?

伤感汤姆布利柏

Go 后端 低代码 Go 面试题 面经 后端 大厂

融云 CEO 董晗获评甲子光年「2023 中国数字经济创新人物」

融云 RongCloud

互联网 通信 数字经济 wicc 光年20

又一次了,该认真考虑“混合多云”了!

京东科技开发者

云计算 云服务 混合多云

大模型训练的得力助手

百度开发者中心

大模型 #人工智能 LLM

诚邀报名|谭中意邀您共论“大模型应用开发之道”

开放原子开源基金会

Java 开源 程序员 开发者 算法

【写作训练营打卡|01】

写作

万界星空科技MES系统在设备管理中的多个应用场景

万界星空科技

数字化转型 mes 制造业生产管理系统 云mes 万界星空科技mes

万界星空科技智能工厂的主要建设模式

万界星空科技

数字化转型 智能工厂 智能工厂解决方案 #人工智能 万界星空科技mes

两道题浅析PHP反序列化逃逸

不在线第一只蜗牛

php 面试 PHP开发

分布式基础概念-分布式缓存[3]

派大星

分布式 Java 面试题

Docker镜像构建:技术深度解析与实践

树上有只程序猿

Docker 镜像

​HTML代码混淆技术:原理、应用和实现方法详解

Mac版VMware Fusion Pro激活中文包

胖墩儿不胖y

Mac软件 VM虚拟机 虚拟机软件

2023 IoTDB 用户大会成功举办,深入洞察工业互联网数据价值

Apache IoTDB

2024年API安全趋势预测

互联网工科生

API API 安全

用 WebAssembly 赋能 AI 硬件_GMTC_吕艺_InfoQ精选文章