10 月 23 - 25 日,QCon 上海站即将召开,现在购票,享9折优惠 了解详情
写点什么

百度沧海·存储:新一代元数据架构体系设计与实践|QCon 北京

  • 2025-03-30
    北京
  • 本文字数:1032 字

    阅读完需:约 3 分钟

百度沧海·存储:新一代元数据架构体系设计与实践|QCon 北京

2025 年 4 月 10 - 12 日,QCon 全球软件开发大会将在北京召开,大会以 “智能融合,引领未来” 为主题,将汇聚各领域的技术先行者以及创新实践者,为行业发展拨云见日。


百度智能云高级架构师曹彪已确认出席并发表题为《百度沧海·存储:新一代元数据架构体系设计与实践》的主题分享。在 AI 时代,云存储系统面临着海量数据的挑战,其中元数据管理成为扩展性和性能瓶颈的关键所在。从传统的单机元数据服务到通用分布式数据库,再到如今的专用数据库解决方案,百度沧海存储团队经历了数次元数据管理的范式转变。本次演讲将深入探讨 TafDB 的设计理念、技术架构和实践效果,分享如何通过自研专用分布式数据库解决大规模存储系统的元数据管理难题。



曹彪是百度智能云高级架构师,云存储技术底座团队技术负责人。自 2014 年加入百度以来,一直聚焦于基础架构领域,带领团队从 0 到 1 构建了百度沧海·存储的元数据新架构体系。这一新架构已在百度沧海·存储的对象存储 BOS、文件系统 CFS 以及百度内部的类 HDFS 分布式文件系统 AFS 大规模应用,显著提升了系统的扩展性和性能。他在本次会议的详细演讲内容如下:


演讲提纲

1. 元数据管理的痛点与挑战

  • 分布式存储系统中的元数据挑战

  • 通用分布式数据库在元数据管理领域的局限性


2. 设计理念与系统架构

  • 设计理念

  • 系统架构


3. 核心技术与优化策略

  • 消除单目录操作的分布式事务

  • 元数据感知的乐观并发控制

  • 生命周期感知的垃圾回收


4. 实践效果

  • 相比通用方案的性能对比

  • 生产规模

5. 经验总结

  • 跨团队协作与系统协同设计

  • 领域专用设计的必要性

6. 未来展望


演讲亮点

  • 架构创新:分享 TafDB 基于 meta-aware 的设计理念的架构创新

  • 工程实践:分享 TafDB 在百度大规模生产环境中的部署经验


听众收益

  • 了解分布式存储系统中元数据管理的挑战与解决方案

  • 获得可直接借鉴的工程实践经验


除此之外,本次大会还策划了多模态大模型及应用AI 驱动的工程生产力面向 AI 的研发基础设施不被 AI 取代的工程师大模型赋能 AIOps云成本优化Lakehouse 架构演进越挫越勇的大前端等专题,届时将有来自不同行业、不同领域、不同企业的 100+资深专家在 QCon 北京现场带来前沿技术洞察和一线实践经验。


报名或了解详情可扫码或联系票务经理 18514549229 咨询。



为确保大会顺利举行,现诚邀志愿者加入,时长 3.5 天。可与大咖交流、获极客时间 VIP 月卡、大会演讲视频资源和证书。主办方提供午餐和交通支持。时间:4 月 9 日 13:00-4 月 12 日 18:00,地点:北京万达嘉华酒店,报名链接:https://www.infoq.cn/form/?id=2088

2025-03-30 12:265218

评论

发布
暂无评论
发现更多内容

K8S上TiDB集群升级卡住问题探讨

TiDB 社区干货传送门

【精选实践】TiDB 在新东方业务前台及中台的落地

TiDB 社区干货传送门

理想汽车 HTAP 读流量优化指南

TiDB 社区干货传送门

实践案例

TiDB + 京东云数据库打造极速秒杀体验

TiDB 社区干货传送门

实践案例

某报表业务升级5.0解决慢SQL问题

TiDB 社区干货传送门

管理与运维 故障排查/诊断

【精选实践】TiDB 在喜马拉雅推送系统中的实践

TiDB 社区干货传送门

我眼中的分布式系统可观测性

TiDB 社区干货传送门

TiDB备份恢复体系设计与思考

TiDB 社区干货传送门

实践案例 TiDB 底层架构

TiDB 在2021汽车之家818全球汽车夜的应用

TiDB 社区干货传送门

实践案例

dm1.0.5 tidb3.0.15 同步阿里云drds5.7出现的问题

TiDB 社区干货传送门

【TiDB 4.0 新特性前瞻】DBA 减负捷径:拍个 CT 诊断集群热点问题

TiDB 社区干货传送门

br 备份到 s3 时 endpoint 参数加目录分隔符后缀问题排查

TiDB 社区干货传送门

管理与运维

TiUP升级集群报Run Command Timeout/SSH Timeout错误解决方案

TiDB 社区干货传送门

PD leader 切换耗时分析

TiDB 社区干货传送门

4.0 新特性前瞻:增强的 SQL Hint

TiDB 社区干货传送门

TiDB 在某餐饮 SaaS 服务商的实践及海外机房构建

TiDB 社区干货传送门

TiDB 4.0 新特性前瞻:白话“悲观锁”

TiDB 社区干货传送门

PD源码解析之PD节点启动

TiDB 社区干货传送门

TiDB 底层架构

TiDB 在微众银行核心批量场景的实践

TiDB 社区干货传送门

实践案例

【精选实践】TiDB 在聚美短视频业务的实践与应用

TiDB 社区干货传送门

基于 k8s 与 Chaos Mesh 构建数据库混沌实验日报系统

TiDB 社区干货传送门

实践案例 安装 & 部署

漫谈TiDB数据库部署

TiDB 社区干货传送门

安装 & 部署

【精选实践】TiDB 在 360 云平台的落地及实战干货

TiDB 社区干货传送门

分布式事务的 Commit Point

TiDB 社区干货传送门

提升问题排查速度 - TiDB 集群问题导图

TiDB 社区干货传送门

如何做到 10T 集群数据安全备份、1GB/s 快速恢复?

TiDB 社区干货传送门

浅析 TiDB 二阶段提交

TiDB 社区干货传送门

伴鱼数据库之慢日志系统

TiDB 社区干货传送门

TiDB服务 网卡接收流量][异常:+1] 问题分析& 定位

TiDB 社区干货传送门

故障排查/诊断

网易云音乐 DBA 谈 TiDB 选型:效率的选择

TiDB 社区干货传送门

实践案例

TiDB 在爱奇艺实时分析场景的应用实践

TiDB 社区干货传送门

实践案例

百度沧海·存储:新一代元数据架构体系设计与实践|QCon 北京_百度_QCon全球软件开发大会_InfoQ精选文章