写点什么

英特尔软件与先进技术事业部 / 首席工程师胡宁馨确认出席 QCon 上海,分享 WebNN,Web 端侧推理的未来

  • 2023-12-08
    北京
  • 本文字数:882 字

    阅读完需:约 3 分钟

大小:461.05K时长:02:37
英特尔软件与先进技术事业部 / 首席工程师胡宁馨确认出席 QCon 上海,分享 WebNN,Web 端侧推理的未来

QCon 全球软件开发大会,将于 12 月在上海召开。英特尔软件与先进技术事业部 / 首席工程师胡宁馨将发表题为《WebNN,Web 端侧推理的未来》主题分享,探讨 WebNN API 的 W3C 标准进度,对 CNN,Transformer 以及更广泛的生成式 AI (Generative AI) 模型的支持情况和计划,以及在 Chrome,Edge 等浏览器的实现进展。


胡宁馨,就职于 Intel 软件与先进技术事业部,专注于 Web 技术,W3C 机器学习工作组 Web Neural Network API (WebNN) 规范的发起者和联合编辑,Chromium 项目 Code Committer,WebNN 模块负责人。他在本次会议的演讲内容如下:


演讲:WebNN,Web 端侧推理的未来


AI PC 以及 AI Mobile 的新兴时代已经到来,越来越多的设备集成了强大的神经处理单元 NPU,以实现高效的人工智能加速,这对需要端侧推理的应用至关重要。除了通过 CPU 和 GPU 进行推理之外,Web Neural Network API (WebNN) 提供了 Web 应用访问此类专有 AI 加速器 NPU 的途径,以获得卓越性能及更低功耗。


本次演讲将会给大家分享 WebNN API 的 W3C 标准进度,对 CNN,Transformer 以及更广泛的生成式 AI (Generative AI) 模型的支持情况和计划,以及在 Chrome,Edge 等浏览器的实现进展。作为 JavaScript ML 框架的后端,WebNN 将会在几乎不更改前端代码的前提下,为 Web 开发者及他们的产品带来相较于 Wasm,WebGL 更为优异的性能体验。


演讲提纲:


  1. 当前 Web AI 发展概况

  2. 主流硬件加速器的发展(CPU,GPU,NPU)

  3. WebNN 设计与架构

  4. WebNN 代码演示

  5. WebNN 浏览器(Chromium)实现

  6. WebNN 机器学习框架集成(ONNXRuntime 和 TensorFlowLite)

  7. WebNN Transformers 支持

  8. WebNN 性能


听众收益点:


○ 了解 Web 平台对异构处理器的支持

○ 了解基于 Web 的机器学习模型硬件加速

○ 了解 Chromium 实现内部细节


除上述演讲外,QCon 上海还将围绕 GenAI和通用大模型应用探索AI Agent 与行业融合应用的前景LLM 时代的性能优化智能化信创软件 IDE面向人工智能时代的架构性能工程:提升效率和创新的新方法等专题进行交流。


QCon 上海 2023,相约 12 月! 现在购票,享 9 折优惠,立减¥680!咨询购票请联系:18514549229(微信同手机号)。



2023-12-08 11:3010987
用户头像

发布了 89 篇内容, 共 45.8 次阅读, 收获喜欢 12 次。

关注

评论

发布
暂无评论
发现更多内容

Spring cloud 之 CircuitBreaker篇

邱学喆

Spring Cloud circuit break Resilience4j

[算法练习]3 三数之和

暖蓝笔记

3月月更 38妇女节

算法训练营总结

施正威

Linux之telnet命令

入门小站

Linux

微博评论系统的高性能高可用计算架构

阿卷

架构实战营

低代码实现探索(三十八)业务场景封装

零道云-混合式低代码平台

《软件开发的201个原则》思考:1.质量第一

非晓为骁

个人成长 软件开发 软件质量 工程师文化

JavaScript 基础(二):函数

devpoint

JavaScript 作用域 函数绑定 3月月更

一日为期,极行千里 ——「企业级零代码黑客马拉松」正式启动报名

明道云

12个iOS技术面试题及答案总结

原来是泽镜啊

ios 程序员 架构师 ios开发

【CAD】快捷键大全

謓泽

3月月更

小程序大未来

源字节1号

微信小程序 开源 前端开发 后端开发

Shell速查手册

陈新卫

RENO: Netflix的快速事件通知系统

俞凡

架构 netflix 大厂实践 3月月更

IntellJ IDEA诺依开发部署文档

北极的大企鹅

开源 开源技术

实用机器学习笔记二十七:深度神经网络架构

打工人!

深度学习 学习笔记 机器学习算法 3月月更

kube-scheduler源码分析(3)-抢占调度分析

良凯尔

Kubernetes 容器 源码分析 云原生 容器云

在线JSON转toml工具

入门小站

工具

《减压脑科学》有田秀穗

xujiangniao

读书

基于开源组件打造Kafka自治集群

俞凡

架构 Slack 大厂实践 3月月更

Java八股文1—Java平台概览

javaadu

Java 面试题 Java八股文

Web 键盘输入法应用开发指南 (7) —— 开发实战(二)

天择

JavaScript 键盘 实战 输入法 3月月更

关于云端应用开发语言选择

穿过生命散发芬芳

3月月更

ModelArts框架入门开发(完成物体分类、物体检测)

DS小龙哥

深度学习 3月月更

【Vue】整合tinymce富文本编辑器

TaurusCode

Vue tinymce 富文本编辑器

在线上传图片二维码识别解析

入门小站

工具

2022第10周-职业素养被触动的瞬间

李印

总结思考

口腔数字化时代:AI牙医的防御基建与攻坚

脑极体

八个Docker的真实应用场景

hongfei

Docker 容器

Vue3 企业级网站建设

源字节1号

小程序 开源 前端开发

Linux之rcp命令

入门小站

Linux

英特尔软件与先进技术事业部 / 首席工程师胡宁馨确认出席 QCon 上海,分享 WebNN,Web 端侧推理的未来_架构_徐晓博_InfoQ精选文章