10 月 23 - 25 日,QCon 上海站即将召开,现在购票,享9折优惠 了解详情
写点什么

百度侯震宇:大模型将彻底改变 AI 原生应用研发范式

  • 2023-12-20
    北京
  • 本文字数:1348 字

    阅读完需:约 4 分钟

大小:708.06K时长:04:01
百度侯震宇:大模型将彻底改变AI原生应用研发范式

12 月 20 日,在 2023 百度云智大会·智算大会上,百度集团副总裁侯震宇以“大模型重构云计算”为主题发表演讲。他强调,AI 原生时代,面向大模型的基础设施体系需要全面重构,为构建繁荣的 AI 原生生态筑牢底座。


侯震宇表示:“大模型重构云计算主要体现在三个层面:AI 原生云将改变云计算的格局,MaaS ( Model as a Service ,模型即服务)会成为新的基础服务,AI 原生应用催生新的研发范式。”

1、在算力层,计算更智能


在底层的云基础设施层,以往从互联网应用到移动互联网应用,底层都基于 CPU 计算芯片,而 AI 应用对 GPU 或异构计算的需求大幅增加,云市场的底层算力开始迁移到以 GPU 为主。


2023 年第三季度,英伟达的营收已经超过英特尔,英伟达最新市值也超过英特尔 1 万亿美元,未来 GPU 的增长将远大于 CPU。在这一趋势下,我们需要对面向大模型的云计算基础设施体系进行全面重构,以支撑 AI 原生应用系统落地。


具体来说,云计算的全面重构会表现在三大领域,即:面向模型的智算基础设施、面向数据的数据基础设施、面向应用的云基础设施全面升级,让计算更智能。

2、在模型层,大模型正在成为通用的服务能力,即 MaaS


MaaS 将大幅降低 Al 落地的门槛、实现真正的 Al 普惠,其依赖的新型 IT 基础设施也将进一步在底层颠覆现有的云计算市场格局。


从百度智能云的实践来看,自 8 月 31 日文心一言全面开放后至今的 4 个月,百度智能云千帆大模型平台(百度智能云推出的 MaaS 平台)上,API 日调用量增长 10 倍,客户主要来自互联网、教育、电商、营销、手机、汽车等各行业。可以明显看到,最近半年,已经有很多企业真正把大模型用起来了。

3、在应用层,应用开发的范式已经被彻底颠覆


大模型理解、生成、逻辑、记忆的独特能力会催生 AI 原生应用研发新范式,整个应用技术栈、数据流和业务流都将被改变。


原先基于 CPU 的应用开发主要是业务逻辑驱动,传统的 AI 研发需要针对每一个独立场景获取数据,再分别从头训练模型。而现在 AI 原生应用主要基于大模型能力,以数据驱动开发。企业可直接在基础大模型之上,利用场景数据微调出专属大模型,再用模型能力设计 AI 原生应用,无需从头训练大模型。随着企业业务扩大,逐渐积累出更多有竞争力的场景数据,进而反哺模型和应用效果提升,从而形成数据飞轮。


具体来说,大模型驱动的 AI 原生应用研发新范式展现出几个新变化:


首先是“新场景”。生成式大语言模型,在理解、生成、推理、记忆等多维度展现出超预期的能力,带来了智能涌现,由此催生了很多新的可落地的业务场景应用,如个人助理、智能文案创作、GBI(智能商业分析)、编码助手等。


第二是“新架构”。大模型具体在这些新场景落地的过程中,也产生了很多新的系统架构,如检索增强生成 RAG,智能体 Agent 等。


第三是“新开发生态”。以大模型为核心,开发者工具层也出现了一些新工具,包括编排工具 LangChain、AI 应用开发工具 PromptFlow、数据框架 Llamalndex 等。


侯震宇表示,总体来说,构建繁荣的 AI 原生应用生态,需要大模型、智能算力、AI 原生应用研发新范式三要素相辅相成。大模型是 AI 原生应用的“大脑”,智能计算则为 AI 原生应用运行提供坚实支撑,新研发范式助力开发者高效基于大模型能力开发应用。数据飞轮是成功的 AI 原生应用的充分必要条件,让大模型能力高速迭代,产品体验持续进步。

 


“我相信,真正非常闪耀的 AI 原生应用会在 2024 年诞生。”侯震宇说。

 

2023-12-20 10:146147

评论

发布
暂无评论
发现更多内容

大专生拿到阿里offer,却担心背调不过,网友:985在你面前黯淡无光

程序员生活志

面试 职场 阿里

超级TV盒子,超清秒播,解锁全网VIP资源!

程序员生活志

资源

从零开始搭建完整的电影全栈系统(一)——数据库设计及爬虫编写

刘强西

爬虫 Scrapy

35岁以上的程序员们,后来都干什么去了?

华为云开发者联盟

程序员 职业规划 架构师

你应该了解的MySQL锁分类

X先生

MySQL 数据库 sql 数据库优化

解Bug之路-Nginx 502 Bad Gateway

无毁的湖光

nginx Linux TCP

抗疫代码入国家博物馆, 程序员的巅峰时刻!

程序员生活志

程序员

如何在企业微信上搭建一款活动报名 App

Ceelog

企业微信 Go 语言

架构师0期Week13作业

Nan Jiang

对PageRank的理解

2流程序员

克隆虚拟机

yuanhang

anyRTC小程序SDK 4.0上线

anyRTC开发者

小程序 WebRTC 语音 直播 RTC

anyRTC - 模仿微信音视频通话功能

anyRTC开发者

WebRTC 语音 直播 RTC 安卓

LeetCode题解:225. 用队列实现栈,一个队列, 压入 - O(n), 弹出 - O(1),JavaScript,详细注释

Lee Chen

大前端 LeetCode

大数据

yuanhang

Centos 7 虚拟机

干货来袭!20例JavaWeb项目开发精粹;(内含源码)

Java架构师迁哥

Fettley全球共识共享智能合约资产计划 掀起行业追捧热潮

InfoQ_967a83c6d0d7

字节小组长无意中得知整个部门的薪资,自己28K,手下却有35K,怎么办?

程序员生活志

字节跳动 职场 薪资

Redis单线程为什么能做到高性能和io多路复用它是个什么鬼

Java架构师迁哥

​程序员离职后收到原公司 2400 元,被告违反竞业协议赔 18 万

程序员生活志

程序员 职场

超详细:完整的推荐系统架构设计

博文视点Broadview

架构 算法 推荐系统

PageRank 算法

周冬辉

oeasy 教您玩转linux 之010208 满屏乱码 bb

o

开源流数据公司 StreamNative 正式加入 CNCF,积极推动云原生策略发展

Apache Pulsar

云原生 pulsar Apache Pulsar 消息系统 消息中间件

全票通过!易观开源项目DolphinScheduler进入Apache孵化器

易观大数据

架构师训练营第十三周作业

Hanson

架构师训练营第十三周总结

Hanson

如何在一台电脑上管理多Github账号

Matrix Chan

git GitHub 版本管理工具 开发日志

为什么一个还没毕业的大学生能够把 IO 讲的这么好?

苹果看辽宁体育

Java 后端 io

限量版Netty纯手打笔记,年薪80W架构师耗时1个月整理出

Java架构师迁哥

防止APP窃取用户隐私问题,OPPO安全在行动

OPPO安全

App 安全 隐私保护 数据隐私 sdk

百度侯震宇:大模型将彻底改变AI原生应用研发范式_百度_Baidu AICLOUD_InfoQ精选文章