写点什么

大模型时代,架构师们应该关注些什么?

  • 2024-03-19
    北京
  • 本文字数:2372 字

    阅读完需:约 8 分钟

大模型时代,架构师们应该关注些什么?

2024 年注定是 AI 热度持续上升,应用落地加速深化的一年。在这个过程中,为匹配前端交互模式变化,适应日益复杂的业务需求,背后的架构也必然迎来新一轮革新。


比如,在基础架构层,为支撑 AI 复杂任务,容器等云原生技术将出现短板。目前,深度学习、大数据处理等数据计算密集型任务已经广泛采用容器、Kubernetes、微服务等一系列云原生技术,但这些任务的计算规模和复杂度远比 Web、微服务等互联网应用要高。为了支持这类工作负载,Kubernetes 就需要做很大的增强,包括核心调度、异构资源统一管理、利用率优化、可观测性、故障诊断和自愈等,甚至整体的架构和生态都需要做很多增强。


比如,在运维层面,结合 AIGC 与 AGI 的发展趋势来看,AIOps 智能化运维方面的探索已过渡到参考自动驾驶的 L0-L5 成熟度模型来度量的阶段 ,这使得行业开始从整个软件的全生命周期来思考 AI 的赋能和提效。这些前期的探索和畅想仍然强调了开发过程的标准化和资源的平台化,要求整个软件研发过程都能够友好地与 AI 协同工作。


同时,以 AIOps、知识库与问答机器人、流程机器人、代码生成等为代表的应用场景将进一步得到深化和拓展,为整个软件工程行业带来效率提升;至于软件研发模式方面,短期内依然会保持现状,但我们不得不在软件设计方面考虑到面向 AI 的 API。


在这个过程中,架构师就像是整个系统的设计大师,负责操刀整个系统架构的规划。这个规划不仅仅包括技术选型、架构模式、演进变化,还得考虑业务需求、团队能力、可运维性、成本等一系列不那么技术的要素。可以说,在大模型时代下,架构师们面临着前所未有的艰巨挑战。


基于这一背景,InfoQ 旗下 ArchSummit 全球架构师峰会年度主题将围绕“智能进阶. 架构重塑”,探讨在 AI 浪潮下,企业架构如何适应大模型时代趋势。


在 6 月 14 日 - 6 月 15 日即将举办的 ArchSummit 全球架构师峰会(深圳站) 上,我们策划了多个与大模型相关的专题论坛,邀请各界专家分享他们的实践经验和前沿探索。


面对大模型训练对于底层算力基础设施提出的更高要求,如更大的带宽和低时延的网络,并行计算加速及开发框架,分布式算力与大内存等,智能计算平台基于独有的网络架构 (如 IB,RoCE 等),独特的虚拟化方式 (基于虚拟机 / 容器的 GPU 虚拟化),独特的算力调度平台,海量的并行存储系统等成为企业的选择。


《智算平台建设与应用实践》专题中,我们将邀请来自 vivo 研究院等机构的智算平台领域专家,分享构建智算平台的技术要点,以及在实践和落地过程中所作的优化和踩过的坑。



监控运维产出的海量数据常受数据质量波动、标注不足和链路上下文信息缺失等问题影响,这些挑战为 AIOps 的应用带来了不小的难题。伴随 LLM 的崛起,业界对其在多模态数据理解和处理上的能力抱以厚望,期待 LLM 能优化 AIOps 在数据理解、关联和交互体验上的表现。


《AIOps 业务场景最佳实践》专题中,我们将聚焦 AIOps 在不同业务场景中的实际成效,比如“如何通过 AIOps 推动可量化的业务价值增长和效率提升”等话题,邀请来自腾讯文档、网易云音乐、群核科技、字节跳动、阿里云等企业的技术专家,分享他们在实际业务场景中利用 AIOps 提升业务效能时遇到的难题、挑战、以及他们的解决方案、模型、架构,和取得的可度量的业务价值。此外,我们还将探讨 LLM 时代下 AIOps 的创新架构,以及 LLM 如何为 AIOps 带来新的变革和潜能。






数据与人工智能的关系密不可分,缺少数据的模型算法只是一副空壳。在 《Data 4 AI 和 AI 4 Data 方面的探索和实践案例》专题 中,我们将探讨数据与人工智能相互驱动的关系。分享在构建数据驱动 AI 系统时的最佳实践,包括数据质量管理、特征工程、数据增强等方面的经验。这里面还涉及到数据结构和数据治理、数据保护、数据管理优化等具体实践,以及超融合数据架构在 AI 应用上所做的设计及优化。


来自百度、Uber、eBay、ProtonBase 小质科技、货拉拉等企业的技术专家,将带来他们各自领域内的探索和实践。






深入场景应用,为企业业务带来实际价值,是大模型技术的“最后一公里”。在 《基于大模型应用层的探索》专题中,我们将探讨如何从应用层面充分发挥大模型的优势,挖掘其潜在的巨大价值。涵盖从选择适合的大模型,到对这些模型进行精细化的性能调优等内容,带领大家一步步理解大模型的运作机制和应用技巧。


此外,我们也关注大模型的集成与部署策略。如何将大模型嵌入到现有应用中,如何才能让它们在实际环境中发挥最大的效益,这些都将专题讨论的重点。


与此同时,大模型与现有系统的协同运作也尤为关键。我们将探讨如何打破大模型与现有系统之间的边界,构建最优化的互动模式,让大模型和现有系统无缝对接,以创造更大的价值。


来自华为云、腾讯云、平安壹钱包等企业的技术专家将通过这个专题,和大家一起探索大模型在应用层面的无穷可能。




当然,我们相信,未来 AI 在架构领域的应用也会逐渐增多,包括 AI 辅助设计、决策支持与建议、智能监控等方面,从而提高架构设计的智能水平。对于架构师而言,不但要学习如何设计出能够满足 AI 需求的技术架构,同时,还要学会与 AI“相处”,让 AI 为自己所用。


因此,我们同样关注技术人成长,研发技能、管理技能提升。在 《架构师顺应时代变化的成长之路》专题中,来自各个领域的专家将分享他们的亲身经验,帮助大家根据自身的条件和兴趣做好职业规划,发展自己的技能图谱,找到属于自己的路,相信会引起很多技术人的共鸣。


除此之外,大模型基础框架、LLM 作为新一代 OS 的探索、AI 大模型中台实践探索等与大模型紧密相关的专题也在持续筹备上线中,如果你感兴趣来会议上演讲,欢迎点击链接进入 ArchSummit 会议官网,提交议题:https://archsummit.infoq.cn/2024/shenzhen/topic


会议现已进入 8 折早鸟购票阶段,可以联系票务经理 17310043226 , 锁定最新优惠。欢迎扫描上方二维码添加大会福利官,免费领取定制福利礼包。

2024-03-19 16:109442

评论

发布
暂无评论
发现更多内容

用时三个月,阿里P8大佬总结出来的最深《Java性能优化全攻略》限时分享!

Java 架构 面试 程序人生 编程语言

阿里P8最全总结PDF:Tomcat+虚拟机+Spring全家桶+MyBatis源码等

Java 架构 面试 程序人生 编程语言

看山聊 Java:检查日期字符串是否合法

看山

Java 10月月更

运用贝塞尔曲线绘制笔锋效果

ZEGO即构

音视频 笔锋实践 贝塞尔曲线

携程 x StarRocks:高效支持高并发查询,大幅降低人力和硬件成本

StarRocks

大数据 数据分析 高并发 StarRocks

机器人自主学习新进展,百度飞桨发布四足机器人控制强化学习新算法

百度大脑

人工智能 飞桨

手把手带你玩转 JS | 引航计划|大前端

三掌柜

大前端 引航计划 引航 技术专题合集

偷瞄大佬书签栏,16个C++必备学习网站,建议收藏

奔着腾讯去

c++

如何区分封闭图形的内部和外部

Changing Lin

10月月更

软件架构思考

轻口味

android 架构设计原则 10月月更

内网域渗透分析(实战总结)

网络安全学海

网络安全 信息安全 渗透测试 WEB安全 漏洞挖掘

数字化加速时刻,天津港解锁了“天工开物”新篇

脑极体

还在郁郁寡欢?啃完666页Java面试高频宝典,十月保你定级腾讯T3-2

Java 架构 面试 程序人生 编程语言

认识流媒体协议,从 RTSP 协议解析开始!

声网

协议 RTSP

都2021年了,还在算法上折跟头?这本《字节跳动面试必问算法秘籍》送给你!

Java 架构 面试 程序人生 编程语言

看完阿里大牛的数据结构学习笔记,我直接手撕了500道Leetcode题

Java 程序员 架构 面试 算法

Serverless 工程实践 | Serverless 应用优化与调试秘诀

阿里巴巴云原生

阿里云 Serverless 云原生

必须得会的汽车ECU研发基础—底层软件介绍4

SOA开发者

手把手教你使用Studio Lite + Digtal car!助力智能汽车场景、轻应用开发更轻松!

SOA开发者

中国移动5G消息开发者社区 | 主题沙龙直播预约:5G消息在文旅场景的应用探讨

5G消息

5G 5G消息 中国移动5G rcs

记不住源码?掌握这套方法,Alibaba必有你一席之地!

Java 架构 面试 程序人生 编程语言

分享一套golang实现的 IM 系统,一键部署服务端,客户端SDK全平台支持,可以替代IM云服务

OpenIM

代码检查规则:Java语言案例详解

百度开发者中心

Java 最佳实践 案例分享 代码检查规则

引航计划|大前端|优质合集手把手带你玩转移动开发

三掌柜

大前端 引航计划 引航

自动驾驶混战,剑气二宗谁能笑傲江湖?

脑极体

流计算 Oceanus 限量1元秒杀,立省2000元

腾讯云大数据

Python代码阅读(第34篇):列表元素出现频率字典

Felix

Python 编程 Code Programing 阅读代码

Hold the Door!区块链底层平台流控分析

趣链科技

区块链 流量控制 底层平台

自我提升:高效能人士的 7 个习惯学习笔记(二)

程序员架构进阶

效率 自我管理 自我提升 10月月更

新一代容器平台ACK Anywhere,来了

阿里巴巴中间件

阿里云 云原生 中间件 ACK ACK Anywhere

接棒运动赛事!工厂里也有热血竞技?

白洞计划

大模型时代,架构师们应该关注些什么?_架构_ArchSummit_InfoQ精选文章