AICon日程100%就绪,9折倒计时最后一周 了解详情
写点什么

英特尔软件与先进技术事业部 / 首席工程师胡宁馨确认出席 QCon 上海,分享 WebNN,Web 端侧推理的未来

  • 2023-12-08
    北京
  • 本文字数:882 字

    阅读完需:约 3 分钟

大小:461.05K时长:02:37
英特尔软件与先进技术事业部 / 首席工程师胡宁馨确认出席 QCon 上海,分享 WebNN,Web 端侧推理的未来

QCon 全球软件开发大会,将于 12 月在上海召开。英特尔软件与先进技术事业部 / 首席工程师胡宁馨将发表题为《WebNN,Web 端侧推理的未来》主题分享,探讨 WebNN API 的 W3C 标准进度,对 CNN,Transformer 以及更广泛的生成式 AI (Generative AI) 模型的支持情况和计划,以及在 Chrome,Edge 等浏览器的实现进展。


胡宁馨,就职于 Intel 软件与先进技术事业部,专注于 Web 技术,W3C 机器学习工作组 Web Neural Network API (WebNN) 规范的发起者和联合编辑,Chromium 项目 Code Committer,WebNN 模块负责人。他在本次会议的演讲内容如下:


演讲:WebNN,Web 端侧推理的未来


AI PC 以及 AI Mobile 的新兴时代已经到来,越来越多的设备集成了强大的神经处理单元 NPU,以实现高效的人工智能加速,这对需要端侧推理的应用至关重要。除了通过 CPU 和 GPU 进行推理之外,Web Neural Network API (WebNN) 提供了 Web 应用访问此类专有 AI 加速器 NPU 的途径,以获得卓越性能及更低功耗。


本次演讲将会给大家分享 WebNN API 的 W3C 标准进度,对 CNN,Transformer 以及更广泛的生成式 AI (Generative AI) 模型的支持情况和计划,以及在 Chrome,Edge 等浏览器的实现进展。作为 JavaScript ML 框架的后端,WebNN 将会在几乎不更改前端代码的前提下,为 Web 开发者及他们的产品带来相较于 Wasm,WebGL 更为优异的性能体验。


演讲提纲:


  1. 当前 Web AI 发展概况

  2. 主流硬件加速器的发展(CPU,GPU,NPU)

  3. WebNN 设计与架构

  4. WebNN 代码演示

  5. WebNN 浏览器(Chromium)实现

  6. WebNN 机器学习框架集成(ONNXRuntime 和 TensorFlowLite)

  7. WebNN Transformers 支持

  8. WebNN 性能


听众收益点:


○ 了解 Web 平台对异构处理器的支持

○ 了解基于 Web 的机器学习模型硬件加速

○ 了解 Chromium 实现内部细节


除上述演讲外,QCon 上海还将围绕 GenAI和通用大模型应用探索AI Agent 与行业融合应用的前景LLM 时代的性能优化智能化信创软件 IDE面向人工智能时代的架构性能工程:提升效率和创新的新方法等专题进行交流。


QCon 上海 2023,相约 12 月! 现在购票,享 9 折优惠,立减¥680!咨询购票请联系:18514549229(微信同手机号)。



2023-12-08 11:3010945
用户头像

发布了 89 篇内容, 共 45.3 次阅读, 收获喜欢 12 次。

关注

评论

发布
暂无评论
发现更多内容

【一Go到底】第二十一天---defer

指剑

Go golang 10月月更

Sonatype Nexus 管理员初始密码

HoneyMoose

在线问题反馈模块实战(九)​:实现图片上传功能(下)

bug菌

springboot 项目实战 10月月更

从零到一搭建一个属于自己的博客系统(弌)

木偶

django 前端 10月月更

CentOS部署Harbor镜像仓库

程序员欣宸

Docker 10月月更 habor

IP报文在阿里云上的神奇之旅:同地域内云上通信

阿里技术

通信 IP 路由

Webpack中的plugin插件机制

Geek_02d948

webpack

HashMap源码分析(三)

知识浅谈

HashMap底层原理 10月月更

Webpack完整打包流程分析

Geek_02d948

webpack

你知道Redis有哪些潜在的阻塞点吗

芥末拌个饭吧

后端 redis 底层原理 10月月更

Python继承还不会,看这篇就够了

芥末拌个饭吧

继承 python 3.5+ 10月月更

Webpack插件核心原理

Geek_02d948

webpack

Visual Studio (VS2017)提交代码到Git服务器流程(GitCode)

DS小龙哥

10月月更

在线问题反馈模块实战(七):安装部署swagger2

bug菌

springboot 项目实战 10月月更

数据量剧增怎么办?Redis切片集群了解一下

芥末拌个饭吧

后端 redis 底层原理 10月月更

“程”风破浪的开发者|慢慢踏上算法学习之旅

Aion

学习方法 算法 10月月更 “程”风破浪的开发者

【资损】资损防控的系统规范-收单类服务设计

小明Java问道之路

架构 安全 金融 10月月更 资损

Qt|模态窗口如何实现进入页面等待加载数据效果

中国好公民st

c++ qt 10月月更

“程”风破浪的开发者|镜像仓库迁移的方法

琦彦

学习方法 Harbor 10月月更 “程”风破浪的开发者

在线问题反馈模块实战(八)​:实现图片上传功能(上)

bug菌

springboot 项目实战 10月月更

深度解读Webpack中的loader原理

Geek_02d948

webpack

CentOS 上安装 Sonatype Nexus 仓库

HoneyMoose

Fabric8 Docker Maven Plugin 如何让部署的时候执行 Docker 打包推送

HoneyMoose

ScheduledThreadPoolExecutor踩过最痛的坑

小小怪下士

Java 程序员

Vue虚拟dom是如何被创建的

yyds2026

Vue

Vue中的diff算法深度解析

yyds2026

Vue

【小程序】一文读懂微信小程序登录流程及获取手机号

言程序

小程序 前端 10月月更

数据湖(六):Hudi与Flink整合

Lansonli

10月月更 Hudi与Flink整合

Maven docker-maven-plugin 插件 Push 413 错误

HoneyMoose

React源码中的dom-diff

夏天的味道123

React

Webpack中的高级特性

Geek_02d948

webpack

英特尔软件与先进技术事业部 / 首席工程师胡宁馨确认出席 QCon 上海,分享 WebNN,Web 端侧推理的未来_架构_徐晓博_InfoQ精选文章