【FCon】聚焦金融行业在数智化的全面革新,一线的金融数智化实践干货 了解详情
写点什么

百度飞桨总架构师将在 ArchSummit 深圳站分享大模型时代深度学习平台的挑战和机遇

  • 2024-06-11
    北京
  • 本文字数:1674 字

    阅读完需:约 5 分钟

百度飞桨总架构师将在ArchSummit深圳站分享大模型时代深度学习平台的挑战和机遇

6 月 17 日,极客时间《企业级 Agents 开发实战营》正式上线,10 周掌握企业级 Agents 从设计、开发到部署全流程。

过去一年多,大模型技术飞速发展,驱动了人工智能开发应用范式的变革,并且已经开始深刻影响产业发展。与此同时,AI Infrastructure 的重要性也更加凸显。大模型以及对应的大数据、大算力,带来了训练推理效率和成本的巨大压力,大模型基础设施能力已上升为核心竞争力。另一方面,大模型背景下开发者面临的痛点难点也相对传统深度学习模型有了很大不同,技术的快速演进也带来了全新的需求。


在 6 月 14 日-15 日即将在深圳举办的ArchSummit全球架构师峰会上,百度飞桨平台总架构师于佃海将在 Keynote 主题演讲中,分享《大模型时代深度学习平台的挑战和机遇》,他将全面阐述深度学习平台在大模型时代面临的挑战和机遇,并结合飞桨平台支撑文心大模型快速迭代和产业应用的实践,介绍大模型下大规模分布式训练和高效推理部署的关键技术和经验心得,探讨大模型技术及深度学习平台未来的发展趋势。



在百度看来,以深度学习框架为核心的深度学习平台是人工智能时代技术研发必不可少的基础软件,可类比智能时代的操作系统。这意味着,大模型的发展离不开深度学习平台提供有力支撑。作为中国首个自主研发、功能丰富、开源开放的产业级深度学习平台,近来飞桨的大模型相关技术也在持续实现创新突破。


对此,百度深度学习技术平台部杰出架构师胡晓光也将在 14 日下午举办的“大模型基础框架”专题论坛上分享《飞桨深度学习平台技术创新之路》,详细介绍飞桨在支持大模型开发、训练、压缩、推理和部署方面所取得的技术创新成果。这些创新将有助于开发者以更低的成本进行开发,并更高效地训练大模型,从而加速大模型技术的创新与应用。



当然,大模型也对应着更大的计算量,为智算平台建设带来了新的挑战,也由此衍生出一系列工程实践问题。如算力规模的急遽增长带来的集群纳管和运维难度增加问题;训练时长增长,则出错概率变高问题;面向用户的推理时效性问题;以及在人工智能领域知识逐渐深入的背景下,如何同时服务好运维人员和算法工程师的问题。


同在 14 日下午举办的“智算平台建设与应用实践”专题论坛上,百度混合云部资深技术专家肖松将分享《大模型场景下智算平台的设计与优化实践》。基于百度多年来在 AI 领域的工程积累,百度百舸团队专为大规模深度学习场景,打造了一套高性能云原生 AI 计算平台,为模型算法专家和运维专家提供全面的集群运维支持和任务全生命周期管理,同时具备训练/推理加速、故障容错、智能故障诊断等高级功能,大幅提升算力使用效率。



在底层基础技术层面,数据库作为关键 PaaS 能力,多年以来也一直顺应业务和技术发展,不停变更和创新。大模型的兴起,对数据库也有深刻的影响,包括通过大模型赋能的 SQL 改写、智能诊断、问答等一系列能力。同时数据库承担基础数据管理的作用,数据库技术如向量数据库,对解决大模型一些幻觉等也起到关键的作用。大模型和数据库技术相互成就,数据库技术在过去的一年内取得非常大的创新和发展。


对此,百度数据库产品总架构师朱洁将在 15 日下午举办的“Data 4 AI 和 AI 4 Data 方面的探索和实践案例”专题论坛上介绍《大模型时代数据库技术创新》



除了百度之外,现场还有来自阿里、腾讯、网易、字节跳动、 火山引擎等一众技术大厂将齐聚一堂,将在现场同台 PK,秀出自己的 AI 大模型“肌肉”。比如,阿里巴巴 / 研究员、阿里云云原生应用平台负责人丁宇(叔同) 将在 Keynote 主题演讲中详细介绍在 AI 大模型快速发展的背景下,AI 编程的发展实现了哪些突破,以及 AI 编程助手的引入如何为软件开发带来质的飞跃。此外,来自腾讯机器学习平台部、腾讯 PCG 前端技术专家苑宗鹤、腾讯云、腾讯星星海实验室多个不同条线的技术专家,将从训练框架、开发、落地应用等多个维度分享现阶段企业如何利用大模型实现降本增效的目标。


大会两天日程已 100% 上线,更多详细议题可点击链接可查看详细日程:https://archsummit.infoq.cn/2024/shenzhen/schedule


ArchSummit 深圳开幕倒计时 3 天(根据发布日期更改),6 月 14 日 -15 日,一起探索大模型时代的软件架构最佳范式。扫描下方海报二维码购票咨询,期待与你的现场交流~



公众号推荐:

AGI 概念引发热议。那么 AGI 究竟是什么?技术架构来看又包括哪些?AI Agent 如何助力人工智能走向 AGI 时代?现阶段营销、金融、教育、零售、企服等行业场景下,AGI应用程度如何?有哪些典型应用案例了吗?以上问题的回答尽在《中国AGI市场发展研究报告 2024》,欢迎大家扫码关注「AI前线」公众号,回复「AGI」领取。

2024-06-11 11:514534

评论

发布
暂无评论
发现更多内容

软件测试|Python科学计算神器numpy教程(十)

霍格沃兹测试开发学社

软件测试|SQL AND和OR运算符解析

霍格沃兹测试开发学社

MySQL数据库同步到SelectDB-技术解读

数据库小组

MySQL 数据仓库 数据处理 数据同步 SelectDB

1111111111111111111

用户7865398825

Katalyst:字节跳动云原生成本优化实践

字节跳动开源

开源 Kubernetes 运维 云原生 成本优化

软件测试|自动化界面操作神器pywinauto教程(一)

霍格沃兹测试开发学社

小游戏分发平台如何争夺热门平台流量?

FinFish

小程序容器 小游戏 微信小游戏 小程序技术

1111111111111

用户7865398825

Go 数组

小万哥

Go 程序员 后端 开发 Google

华为云classroom赋能 | Toolkit系列插件DevSecOps助力开发者提速

平平无奇爱好科技

【升职加薪秘籍】我在服务监控方面的实践(2)-监控组件配置

蓝胖子的编程梦

elasticsearch Prometheus 服务监控 #Grafana 微服务监控

深入剖析 FastAPI 多线程的最佳实践

Liam

Python 程序员 性能优化 后端开发 FastApi

软件测试|教你如何使用UPDATE修改数据

霍格沃兹测试开发学社

软件测试|SQL ORDER BY排序利器使用

霍格沃兹测试开发学社

【GO】LGTM_Grafana_Tempo(2) --- 官方用例改后实操

非晓为骁

golang 可观测性 Grafana Trace tempo

不要用“完美主义”要求中国SaaS,当下需在平衡多方利益中渐进

B Impact

软件测试|SQL中的LIKE模糊匹配该怎么用?

霍格沃兹测试开发学社

对话火山引擎侯爽:字节原生的边缘云

火山引擎边缘云

边缘计算 边缘节点 边缘云

华为云Classroom赋能 | Devstar使应用开发无需从零开始

平平无奇爱好科技

斯蒂芬斯蒂芬斯蒂芬斯蒂芬

用户7865398825

重磅!华为云计算技术有限公司云原生中间件高分通过中国信通院《云服务稳定运行能力标准体系》能力评估先进级

平平无奇爱好科技

软件测试|Mac安装appium报权限问题

霍格沃兹测试开发学社

软件测试|如何更新已经安装的Python第三方库

霍格沃兹测试开发学社

Linux内核配置工具Kconfig

SkyFire

Linux Kenel Kconfig Config

C++中的继承和派生

芯动大师

111111111111111

用户7865398825

软件测试|Python科学计算神器numpy教程(十一)

霍格沃兹测试开发学社

qqqqqqqqqqqqqqqqqq

用户7865398825

全球选手逐鹿清华!首届AI药物研发算法大赛完美收官

飞桨PaddlePaddle

人工智能 百度飞桨 飞桨国赛

城市智能体+AI,赋能城市智能化

新消费日报

华为云classroom赋能|tookIT助力开发者上云

平平无奇爱好科技

百度飞桨总架构师将在ArchSummit深圳站分享大模型时代深度学习平台的挑战和机遇_百度_ArchSummit_InfoQ精选文章