写点什么

大模型时代,架构师们应该关注些什么?

  • 2024-03-19
    北京
  • 本文字数:2372 字

    阅读完需:约 8 分钟

大模型时代,架构师们应该关注些什么?

2024 年注定是 AI 热度持续上升,应用落地加速深化的一年。在这个过程中,为匹配前端交互模式变化,适应日益复杂的业务需求,背后的架构也必然迎来新一轮革新。


比如,在基础架构层,为支撑 AI 复杂任务,容器等云原生技术将出现短板。目前,深度学习、大数据处理等数据计算密集型任务已经广泛采用容器、Kubernetes、微服务等一系列云原生技术,但这些任务的计算规模和复杂度远比 Web、微服务等互联网应用要高。为了支持这类工作负载,Kubernetes 就需要做很大的增强,包括核心调度、异构资源统一管理、利用率优化、可观测性、故障诊断和自愈等,甚至整体的架构和生态都需要做很多增强。


比如,在运维层面,结合 AIGC 与 AGI 的发展趋势来看,AIOps 智能化运维方面的探索已过渡到参考自动驾驶的 L0-L5 成熟度模型来度量的阶段 ,这使得行业开始从整个软件的全生命周期来思考 AI 的赋能和提效。这些前期的探索和畅想仍然强调了开发过程的标准化和资源的平台化,要求整个软件研发过程都能够友好地与 AI 协同工作。


同时,以 AIOps、知识库与问答机器人、流程机器人、代码生成等为代表的应用场景将进一步得到深化和拓展,为整个软件工程行业带来效率提升;至于软件研发模式方面,短期内依然会保持现状,但我们不得不在软件设计方面考虑到面向 AI 的 API。


在这个过程中,架构师就像是整个系统的设计大师,负责操刀整个系统架构的规划。这个规划不仅仅包括技术选型、架构模式、演进变化,还得考虑业务需求、团队能力、可运维性、成本等一系列不那么技术的要素。可以说,在大模型时代下,架构师们面临着前所未有的艰巨挑战。


基于这一背景,InfoQ 旗下 ArchSummit 全球架构师峰会年度主题将围绕“智能进阶. 架构重塑”,探讨在 AI 浪潮下,企业架构如何适应大模型时代趋势。


在 6 月 14 日 - 6 月 15 日即将举办的 ArchSummit 全球架构师峰会(深圳站) 上,我们策划了多个与大模型相关的专题论坛,邀请各界专家分享他们的实践经验和前沿探索。


面对大模型训练对于底层算力基础设施提出的更高要求,如更大的带宽和低时延的网络,并行计算加速及开发框架,分布式算力与大内存等,智能计算平台基于独有的网络架构 (如 IB,RoCE 等),独特的虚拟化方式 (基于虚拟机 / 容器的 GPU 虚拟化),独特的算力调度平台,海量的并行存储系统等成为企业的选择。


《智算平台建设与应用实践》专题中,我们将邀请来自 vivo 研究院等机构的智算平台领域专家,分享构建智算平台的技术要点,以及在实践和落地过程中所作的优化和踩过的坑。



监控运维产出的海量数据常受数据质量波动、标注不足和链路上下文信息缺失等问题影响,这些挑战为 AIOps 的应用带来了不小的难题。伴随 LLM 的崛起,业界对其在多模态数据理解和处理上的能力抱以厚望,期待 LLM 能优化 AIOps 在数据理解、关联和交互体验上的表现。


《AIOps 业务场景最佳实践》专题中,我们将聚焦 AIOps 在不同业务场景中的实际成效,比如“如何通过 AIOps 推动可量化的业务价值增长和效率提升”等话题,邀请来自腾讯文档、网易云音乐、群核科技、字节跳动、阿里云等企业的技术专家,分享他们在实际业务场景中利用 AIOps 提升业务效能时遇到的难题、挑战、以及他们的解决方案、模型、架构,和取得的可度量的业务价值。此外,我们还将探讨 LLM 时代下 AIOps 的创新架构,以及 LLM 如何为 AIOps 带来新的变革和潜能。






数据与人工智能的关系密不可分,缺少数据的模型算法只是一副空壳。在 《Data 4 AI 和 AI 4 Data 方面的探索和实践案例》专题 中,我们将探讨数据与人工智能相互驱动的关系。分享在构建数据驱动 AI 系统时的最佳实践,包括数据质量管理、特征工程、数据增强等方面的经验。这里面还涉及到数据结构和数据治理、数据保护、数据管理优化等具体实践,以及超融合数据架构在 AI 应用上所做的设计及优化。


来自百度、Uber、eBay、ProtonBase 小质科技、货拉拉等企业的技术专家,将带来他们各自领域内的探索和实践。






深入场景应用,为企业业务带来实际价值,是大模型技术的“最后一公里”。在 《基于大模型应用层的探索》专题中,我们将探讨如何从应用层面充分发挥大模型的优势,挖掘其潜在的巨大价值。涵盖从选择适合的大模型,到对这些模型进行精细化的性能调优等内容,带领大家一步步理解大模型的运作机制和应用技巧。


此外,我们也关注大模型的集成与部署策略。如何将大模型嵌入到现有应用中,如何才能让它们在实际环境中发挥最大的效益,这些都将专题讨论的重点。


与此同时,大模型与现有系统的协同运作也尤为关键。我们将探讨如何打破大模型与现有系统之间的边界,构建最优化的互动模式,让大模型和现有系统无缝对接,以创造更大的价值。


来自华为云、腾讯云、平安壹钱包等企业的技术专家将通过这个专题,和大家一起探索大模型在应用层面的无穷可能。




当然,我们相信,未来 AI 在架构领域的应用也会逐渐增多,包括 AI 辅助设计、决策支持与建议、智能监控等方面,从而提高架构设计的智能水平。对于架构师而言,不但要学习如何设计出能够满足 AI 需求的技术架构,同时,还要学会与 AI“相处”,让 AI 为自己所用。


因此,我们同样关注技术人成长,研发技能、管理技能提升。在 《架构师顺应时代变化的成长之路》专题中,来自各个领域的专家将分享他们的亲身经验,帮助大家根据自身的条件和兴趣做好职业规划,发展自己的技能图谱,找到属于自己的路,相信会引起很多技术人的共鸣。


除此之外,大模型基础框架、LLM 作为新一代 OS 的探索、AI 大模型中台实践探索等与大模型紧密相关的专题也在持续筹备上线中,如果你感兴趣来会议上演讲,欢迎点击链接进入 ArchSummit 会议官网,提交议题:https://archsummit.infoq.cn/2024/shenzhen/topic


会议现已进入 8 折早鸟购票阶段,可以联系票务经理 17310043226 , 锁定最新优惠。欢迎扫描上方二维码添加大会福利官,免费领取定制福利礼包。

2024-03-19 16:109512

评论

发布
暂无评论
发现更多内容

详解GaussDB(DWS) 资源监控

华为云开发者联盟

数据库 后端

深势科技创始人&首席科学家张林峰:AI+分子模拟,赋能药物发现新源头

阿里云弹性计算

AI gpu 药物研究 分子模拟

iofod - 新拟物设计的跨平台实践

iofod jude

Spring Data 测试时的 Repository 提示为空对象

HoneyMoose

nft交易平台开发流程

开源直播系统源码

NFT 数字藏品 数字藏品系统

阿里云计算巢软件免费试用中心正式上线,企业用户可免费试用1个月

阿里云弹性计算

计算巢

优秀的程序员不能只懂技术

LigaAI

程序人生 敏捷开发 自我提升 职场发展 企业号九月金秋榜

流程挖掘的价值:头部制造业千万级增长的底牌

望繁信科技

FFmpeg打开输入文件

mei2022

8月月更

[极致用户体验] 如何实现响应式canvas?保持canvas比例?教你让canvas自适应屏幕宽度!

HullQin

CSS JavaScript html 前端 8月月更

阿里云视觉智能开放平台产品上新——能力前瞻

夏夜许游

人工智能 阿里云 元宇宙 图像分割 阿里云视觉智能开放平台

设备健康管理“悬丝诊脉”之能源行业浆液循环泵

PreMaint

设备健康管理 设备预测性维护 设备状态监测

了解“预训练-微调”,看这一篇就够了

博文视点Broadview

@DataJpaTest 进行测试的坑

HoneyMoose

SpringBoot 打包发布

jar Linux SpringBoot 2 8月月更

超简单!Redis中的持久化策略汇总

知识浅谈

8月月更

项目经理的职能在Scrum框架下没有完全消失

ShineScrum

Scrum 敏捷 项目经理

转转客户端持续交付—鲁班的构建管理

转转技术团队

CI/CD

云原生(二十六) | Kubernetes篇之Kubernetes(k8s)持久化

Lansonli

云原生 k8s 8月月更

微服务面试必问的Dubbo,这么详细还怕自己找不到工作?

浅羽技术

微服务 dubbo 微服务框架 Dubbo服务 8月月更

软件,英特尔人工智能的未来重点布局

科技之家

活动报名:Tapdata 开源教程之异构数据库模型推演

tapdata

Tapdata 开源社区

企业数据现状分析:为什么需要实时数据?如何高效挖掘实时数据价值?

tapdata

Tapdata

再深一点:如何给女朋友解释什么是微服务?

浅羽技术

微服务 微服务架构 单体架构 微服务框架 8月月更

有人相爱,有人年少财务自由,有人数据结构都背不出来

浅羽技术

Java 数据结构 队列 红黑树 8月月更

最长字符串链,什么是“词链”?

掘金安东尼

算法 前端 8月月更

🔛报名启动!「数智创新行」系列城市站沙龙首站开启

云桌派

Docker下Prometheus和Grafana三部曲之三:自定义监控项开发和配置

程序员欣宸

Grafana Prometheus 8月月更

渗透攻防Web篇-深入浅出SQL注入

京东科技开发者

sql 安全 mybatis Web H5

视频结构化——原子能力解析

夏夜许游

物体检测 车牌识别 视频结构化 人体检测

HMS Core Discovery第17期回顾|音随我动,秒变音色造型师

HarmonyOS SDK

音频技术

大模型时代,架构师们应该关注些什么?_架构_ArchSummit_InfoQ精选文章