写点什么

大模型时代,架构师们应该关注些什么?

  • 2024-03-19
    北京
  • 本文字数:2372 字

    阅读完需:约 8 分钟

大模型时代,架构师们应该关注些什么?

2024 年注定是 AI 热度持续上升,应用落地加速深化的一年。在这个过程中,为匹配前端交互模式变化,适应日益复杂的业务需求,背后的架构也必然迎来新一轮革新。


比如,在基础架构层,为支撑 AI 复杂任务,容器等云原生技术将出现短板。目前,深度学习、大数据处理等数据计算密集型任务已经广泛采用容器、Kubernetes、微服务等一系列云原生技术,但这些任务的计算规模和复杂度远比 Web、微服务等互联网应用要高。为了支持这类工作负载,Kubernetes 就需要做很大的增强,包括核心调度、异构资源统一管理、利用率优化、可观测性、故障诊断和自愈等,甚至整体的架构和生态都需要做很多增强。


比如,在运维层面,结合 AIGC 与 AGI 的发展趋势来看,AIOps 智能化运维方面的探索已过渡到参考自动驾驶的 L0-L5 成熟度模型来度量的阶段 ,这使得行业开始从整个软件的全生命周期来思考 AI 的赋能和提效。这些前期的探索和畅想仍然强调了开发过程的标准化和资源的平台化,要求整个软件研发过程都能够友好地与 AI 协同工作。


同时,以 AIOps、知识库与问答机器人、流程机器人、代码生成等为代表的应用场景将进一步得到深化和拓展,为整个软件工程行业带来效率提升;至于软件研发模式方面,短期内依然会保持现状,但我们不得不在软件设计方面考虑到面向 AI 的 API。


在这个过程中,架构师就像是整个系统的设计大师,负责操刀整个系统架构的规划。这个规划不仅仅包括技术选型、架构模式、演进变化,还得考虑业务需求、团队能力、可运维性、成本等一系列不那么技术的要素。可以说,在大模型时代下,架构师们面临着前所未有的艰巨挑战。


基于这一背景,InfoQ 旗下 ArchSummit 全球架构师峰会年度主题将围绕“智能进阶. 架构重塑”,探讨在 AI 浪潮下,企业架构如何适应大模型时代趋势。


在 6 月 14 日 - 6 月 15 日即将举办的 ArchSummit 全球架构师峰会(深圳站) 上,我们策划了多个与大模型相关的专题论坛,邀请各界专家分享他们的实践经验和前沿探索。


面对大模型训练对于底层算力基础设施提出的更高要求,如更大的带宽和低时延的网络,并行计算加速及开发框架,分布式算力与大内存等,智能计算平台基于独有的网络架构 (如 IB,RoCE 等),独特的虚拟化方式 (基于虚拟机 / 容器的 GPU 虚拟化),独特的算力调度平台,海量的并行存储系统等成为企业的选择。


《智算平台建设与应用实践》专题中,我们将邀请来自 vivo 研究院等机构的智算平台领域专家,分享构建智算平台的技术要点,以及在实践和落地过程中所作的优化和踩过的坑。



监控运维产出的海量数据常受数据质量波动、标注不足和链路上下文信息缺失等问题影响,这些挑战为 AIOps 的应用带来了不小的难题。伴随 LLM 的崛起,业界对其在多模态数据理解和处理上的能力抱以厚望,期待 LLM 能优化 AIOps 在数据理解、关联和交互体验上的表现。


《AIOps 业务场景最佳实践》专题中,我们将聚焦 AIOps 在不同业务场景中的实际成效,比如“如何通过 AIOps 推动可量化的业务价值增长和效率提升”等话题,邀请来自腾讯文档、网易云音乐、群核科技、字节跳动、阿里云等企业的技术专家,分享他们在实际业务场景中利用 AIOps 提升业务效能时遇到的难题、挑战、以及他们的解决方案、模型、架构,和取得的可度量的业务价值。此外,我们还将探讨 LLM 时代下 AIOps 的创新架构,以及 LLM 如何为 AIOps 带来新的变革和潜能。






数据与人工智能的关系密不可分,缺少数据的模型算法只是一副空壳。在 《Data 4 AI 和 AI 4 Data 方面的探索和实践案例》专题 中,我们将探讨数据与人工智能相互驱动的关系。分享在构建数据驱动 AI 系统时的最佳实践,包括数据质量管理、特征工程、数据增强等方面的经验。这里面还涉及到数据结构和数据治理、数据保护、数据管理优化等具体实践,以及超融合数据架构在 AI 应用上所做的设计及优化。


来自百度、Uber、eBay、ProtonBase 小质科技、货拉拉等企业的技术专家,将带来他们各自领域内的探索和实践。






深入场景应用,为企业业务带来实际价值,是大模型技术的“最后一公里”。在 《基于大模型应用层的探索》专题中,我们将探讨如何从应用层面充分发挥大模型的优势,挖掘其潜在的巨大价值。涵盖从选择适合的大模型,到对这些模型进行精细化的性能调优等内容,带领大家一步步理解大模型的运作机制和应用技巧。


此外,我们也关注大模型的集成与部署策略。如何将大模型嵌入到现有应用中,如何才能让它们在实际环境中发挥最大的效益,这些都将专题讨论的重点。


与此同时,大模型与现有系统的协同运作也尤为关键。我们将探讨如何打破大模型与现有系统之间的边界,构建最优化的互动模式,让大模型和现有系统无缝对接,以创造更大的价值。


来自华为云、腾讯云、平安壹钱包等企业的技术专家将通过这个专题,和大家一起探索大模型在应用层面的无穷可能。




当然,我们相信,未来 AI 在架构领域的应用也会逐渐增多,包括 AI 辅助设计、决策支持与建议、智能监控等方面,从而提高架构设计的智能水平。对于架构师而言,不但要学习如何设计出能够满足 AI 需求的技术架构,同时,还要学会与 AI“相处”,让 AI 为自己所用。


因此,我们同样关注技术人成长,研发技能、管理技能提升。在 《架构师顺应时代变化的成长之路》专题中,来自各个领域的专家将分享他们的亲身经验,帮助大家根据自身的条件和兴趣做好职业规划,发展自己的技能图谱,找到属于自己的路,相信会引起很多技术人的共鸣。


除此之外,大模型基础框架、LLM 作为新一代 OS 的探索、AI 大模型中台实践探索等与大模型紧密相关的专题也在持续筹备上线中,如果你感兴趣来会议上演讲,欢迎点击链接进入 ArchSummit 会议官网,提交议题:https://archsummit.infoq.cn/2024/shenzhen/topic


会议现已进入 8 折早鸟购票阶段,可以联系票务经理 17310043226 , 锁定最新优惠。欢迎扫描上方二维码添加大会福利官,免费领取定制福利礼包。

2024-03-19 16:109576

评论

发布
暂无评论
发现更多内容

云桌面解决方案:为何远程办公需要它们

青椒云云电脑

云桌面 云桌面系统 云桌面技术

k8s-NFS系统配置

不在线第一只蜗牛

Kubernetes 容器 云原生

软件测试学习笔记丨宠物商店-接口自动化测试实战

测试人

软件测试

2024年最佳云桌面服务:为远程工作者量身定制

青椒云云电脑

云桌面 云桌面厂家

实时语音交互的游戏队友——网易伏羲AI Agent创新应用 | DataFunSummit2024演讲实录

网易伏羲

人工智能 AI 语音 网易伏羲 游戏AI

阿里云EMR StarRocks X Paimon创建 Streaming Lakehouse

Apache Flink

大数据 flink StarRocks EMR

顶级云桌面套餐:远程办公的终极指南

青椒云云电脑

云桌面 云桌面方案 云桌面系统

2023开年力作!《流程挖掘白皮书》重磅发布

望繁信科技

数字化转型 流程挖掘 流程资产 流程智能 望繁信科技

大数据存储计算平台EasyMR:大数据集群动态扩缩容,快速提升集群服务能力

袋鼠云数栈

什么样的云桌面套餐适合按需计费的用户?

青椒云云电脑

云桌面

Databend 产品月报(2024年9月)

Databend

什么政府网站一定要安装SSL证书吗?应该选择哪种SSL证书?

防火墙后吃泡面

推荐给远程办公用户的云桌面服务

青椒云云电脑

云桌面 云桌面厂家 云桌面系统

公链技术开发之路:从概念到实现的公链开发全攻略

区块链软件开发推广运营

交易所开发 dapp开发 链游开发 代币开发 海外推广

AI+云原生时代,高校该如何创新教育模式

是但求其发

云计算 软件工程 计算机 大学 #云原生

如何评估云桌面套餐的性价比?

青椒云云电脑

桌面云 云桌面 云桌面厂家 云桌面系统

日志分析是什么?如何进行日志分析?

ServiceDesk_Plus

日志分析 日志采集 日志处理

有哪些常见的云桌面套餐比较推荐?

青椒云云电脑

云桌面 云桌面厂家 云桌面方案

全球CDN加速的优势与作用

HUODUNYUN

CDN CDN加速 CDN技术 CDN网络加速 全球CDN

【直播预约】下周四大咖云集,不见不散!运维生态直播之“可观测技术实践”等你来~

乘云数字DataBuff

可观测性 zabbix oceanbase 应用性能监控 一体化可观测平台Databuff

得物iOS函数调用栈及符号化调优实践|得物技术

得物技术

ios

离了大谱,和HR互怼后被开了!

王磊

实操上手TinyEngine低代码引擎插件化开发

OpenTiny社区

开源 前端 插件化 OpenTiny 低代码引擎

Js数组&高阶函数

不在线第一只蜗牛

JavaScript 前端

云桌面适合哪些类型的工作

青椒云云电脑

云桌面

淘宝 app 商品详情数据接口:让你轻松掌握优惠价、视频和到手价,助力电商决策

tbapi

淘宝商品详情接口 淘宝app详情接口 淘宝详情数据接口 淘宝优惠券接口 淘宝到手价接口

有哪些常见的云桌面使用误区?

青椒云云电脑

云桌面 云桌面厂家 云桌面方案

IT行业还有未来吗?

程序员高级码农

程序员 互联网 计算机 #编程

大模型时代,架构师们应该关注些什么?_架构_ArchSummit_InfoQ精选文章