写点什么

用 WebAssembly 赋能 AI 硬件

  • 2020-02-08
  • 本文字数:1004 字

    阅读完需:约 3 分钟

用 WebAssembly 赋能 AI 硬件

GMTC 深圳 2019 大会上,吕艺讲师做了《用 WebAssembly 赋能 AI 硬件》主题演讲,主要内容如下。


演讲简介


硬件加速的神经网络芯片可以极大提高 AI 应用的用户体验,如今,市场上的中低端手机大多已经预装 AI 加速的芯片,但是传统浏览器与 App 开发工具并不能直接触达这样的芯片层硬件功能。


WebAssembly 技术能让广大用户与开发者真正从 AI 加速获益。WebAssembly 是一个在前端设备上有广泛支持,为性能优化的虚拟机。通过 WASI 扩展接口,我们可以使用它支持的 20 多种编程语言直接调用硬件接口,WebAssembly 的模块化安全设计保证了虚拟机硬件调用的安全。


我将会为大家介绍与演示 Second State 与 Qualcomm(高通)公司合作的开源 WebAssembly 虚拟机 SSVM。SSVM 与高通骁龙处理器的神经网络加速器结合,让中端手机也可以快速在本地完成图像识别与人脸识别等重度 AI 工作。


当然,硬件加速的 AI 芯片不只应用于手机终端。在数据中心与服务端的 AI 应用也越来越多。SSVM 可以在云原生的服务端提供 Serverless 的 AI 微服务。


内容大纲


  1. WebAssembly 的介绍

  2. 用 Rust 写 WebAssembly 应用程序

  3. WASI 的介绍

  4. 高通骁龙神经网络加速器的编程实践

  5. WebAssembly 在服务端的应用与示例


听众受益点


  1. WebAssembly 的基础知识

  2. Rust 的编程入门

  3. 开源 WebAssembly SSVM 的安装与使用

  4. 用高级语言通过 SSVM 调用 AI 加速器

  5. 用 RPC 调用服务端的 WebAssembly 微服务


讲师介绍


吕艺,Second State 技术副总裁。


吕艺,在 IT 技术领域从业 19 年,从事过 CRM、CallCenter 的系统集成与架构设计,在亚信工作期间成为移动业务专家。


2012 年,在掌阅科技带领团队完成系统向微服务化方向的演进。


2015 年,加入 5miles,任 CTO,5miles App 是一款在美国市场排名靠前的二手交易平台,系统基于 AWS 云进行部署运行,在运用 Docker、Lambda 等容器技术与 Serverless 等方面有丰富的经验。


2017 年,成立 CyberMiles 团队,开始区块链领域的研究工作,并于 2018 年 10 月与团队完成公链的开发与上线。在区块链应用研究方面,组织开发了区块链交易网关,可以让中心化的应用系统快速接入多种区块链体系。


2019 年上线的 openbay.io 系统是基于区块链智能合约的电商平台,这是区块链应用的一次重要的尝试。


2019 年中,在新创业公司 Second State 任技术副总裁,进行 WebAssembly 与 AI 硬件以及 Serverless 应用方面的研究和实践。












完整演讲 PPT 下载链接


https://gmtc.infoq.cn/2019/shenzhen/schedule


2020-02-08 19:041195

评论

发布
暂无评论
发现更多内容

k8s集群添加master节点报control plane 错误

天翼云开发者社区

容器

“大模型”技术专栏 | 和鲸 AI Infra 架构总监朱天琦:大模型微调与蒸馏技术的全景分析与实践指南(下)

ModelWhale

AI 大模型微调 数据蒸馏

五种 AI Agent:自主功能与现实应用

星环科技

Labubu 免费送 | 认证、答疑、交流一站搞定!TDengine 开发者新据点上线

TDengine

tdengine 时序数据库

三张Excel表引发的效率革命,低代码让老工厂“玩转”数字化

伤感汤姆布利柏

解码华为云安全“铁三角”:用“分层防御”化解安全挑战

Alter

云计算 AI 云安全

五项满分,天翼云息壤智算一体机斩获佳绩!

天翼云开发者社区

人工智能 AI训练一体机

表格数据深度学习算法NODE技术解析

qife122

机器学习 深度学习

MES系统是什么?从核心功能到行业应用,打造智能制造新引擎

万界星空科技

数字化 制造业 mes 万界星空科技mes 智能制造数字化转型

2025最新版天猫图片搜索API全解析:从图像识别到商品匹配实战

tbapi

淘宝API 淘宝图片搜索接口 天猫API 天猫图片搜索接口

天猫店铺所有商品API响应数据解析

tbapi

天猫商品详情接口 天猫API 天猫店铺所有商品接口 天猫店铺数据采集 天猫店铺数据分析

深入聊聊MES、ERP、SCM、WMS、APS、SCADA、PLM、QMS的区别与联系

优秀

CRM ERP mes

"芯库"共赢,ArgoDB携手国产处理器完成兼容适配,共筑数智安全根基

星环科技

咕泡8.8品牌日 | AI革新力,品牌再升级

咕泡科技

人工智能 咕泡科技 咕泡8.8品牌日

AI Agent 的 10 种应用场景:物联网、RAG 与灾难响应

星环科技

深度参与Apache开源生态建设,天翼云出席COC Asia 2025

天翼云开发者社区

Apache 大数据 天翼云

Flink 2.1 SQL:解锁实时数据与AI集成,实现可扩展流处理

Apache Flink

大数据 flink 实时计算

Ansible部署Node_exporter

天翼云开发者社区

ansible 应用自动化运维

告别微信办公,这款私有化企业聊天软件可能适合你!

BeeWorks

即时通讯 IM 私有化部署

将代码分析工具引入Jupyter Notebook的技术实践

qife122

机器学习 代码分析

中小型及初创企业如何实现数字化转型?

智达方通

全面预算管理

全球社交媒体监控在公共外交中的应用与发展趋势

沃观Wovision

社交媒体 沃观Wovision 舆情监测系统

MatrixOne存储优化:HTAP场景下的智能存储优化策略

MatrixOrigin

Context Engineering: 基于 OceanBase 的代码文档检索引擎

老纪的技术唠嗑局

AI+ OceanBase 社区版 文档检索

AI/ML工作负载的可持续性优化实践

qife122

机器学习 云计算

HarmonyOS SDK助力讯飞听见App能力建设

HarmonyOS SDK

HarmonyOS NEXT HarmonyOS SDK应用服务

ArgoDB携手国产操作系统完成兼容适配,构建数智新生态

星环科技

3天落地企业级应用,JNPF+AI重塑开发效率

互联网工科生

快看!百度提前批的面试难度,你能拿下吗?

王磊

直播回放&课件下载| 让AI真正读懂业务:多模态RAG知识平台建设思路

MatrixOrigin

忘掉Ollama! 将GPT OSS私有部署推理性能提升100倍的部署教程

GPUStack

大模型 GPT GPU集群 vLLM

用 WebAssembly 赋能 AI 硬件_GMTC_吕艺_InfoQ精选文章