写点什么

如何用元数据湖解决多 Lakehouse 治理难题|QCon 北京

  • 2025-04-06
    北京
  • 本文字数:1479 字

    阅读完需:约 5 分钟

大小:765.64K时长:04:21
如何用元数据湖解决多 Lakehouse 治理难题|QCon 北京

2025 年 4 月 10 - 12 日,QCon 全球软件开发大会将汇聚全球 140+ 技术先行者及创新实践者,直击行业痛点,解锁可复制的经验与模式。这不仅是一场会议,更是一次对技术演进的集体探索。无论你是资深开发者,还是技术管理者,都能在这里有所收获,为下一步的技术决策提供方向。


Datastrato VP of engineering 史少锋已确认出席并发表题为《从碎片到统一:如何用元数据湖解决多 Lakehouse 治理难题》的主题分享。企业在采用多 Lakehouse 后,往往面临一些挑战,比如:如何实现多 Lakehouse 中数据的发现和共享,让应用、引擎以统一的方式接入;如何实现多 Lakehouse 的统一管理和治理,使用方式不一致导致的数据治理问题等。对此,基于标准协议的 Rest Catalog 以及支持多引擎的统一元数据服务,可以帮助企业统一管理 Lakehouse,解决上面提到的问题,此次分享将带来以上方面的最佳实践。


史少锋是 Datastrato VP of engineering,Apache 会员, Apache Incubator PMC, Mentor of Apache Gravitino, Gluten, HoraeDB 等多个项目;专注于大数据分析和云计算技术。曾任 eBay 全球分析基础架构部大数据高级工程师,IBM 云计算部门架构师等。他在本次会议的详细演讲内容如下:


演讲提纲

1. Lakehouse 架构背景

  • 什么是 Lakehouse 架构

  • Lakehouse 的核心优势:数据湖与数据仓库的结合

  • Lakehouse 在企业中的典型应用场景

2. 多 Lakehouse 趋势

  • 企业为何需要多 Lakehouse

  • 多 Lakehouse 的典型架构模式

  • 多 Lakehouse 带来的机遇与挑战

3. 多 Lakehouse 治理挑战

  • 数据发现与共享难题

  • 统一管理与治理困境

  • 实际案例:企业面临的具体问题

4. 什么是统一元数据湖

  • 统一元数据湖的定义与核心价值

  • 统一元数据湖的关键特性

  • 统一元数据湖与传统元数据管理的对比

5. 基于统一元数据湖的 Lakehouse 架构

  • 架构设计原则

  • 技术实现

  • 实际应用案例

6. 未来展望


您认为,这样的技术在实践过程中有哪些痛点?

  • 协议适配问题:尽管基于标准协议的 Rest Catalog 是核心优势之一,但在实际企业环境中,不同的 Lakehouse 架构可能是在不同时期、由不同供应商构建的。这些系统可能对标准协议的支持程度参差不齐,存在部分功能无法完全适配 Rest Catalog 的情况。

  • 企业中可能同时存在多种处理引擎和分析引擎,这些引擎对元数据的理解和使用方式存在差异。统一元数据湖服务要支持多引擎,就需要针对每种引擎的特点进行定制化开发。


演讲亮点

  • 介绍基于标准协议的 Rest Catalog 及其在多 Lakehouse 环境中的技术优势,展示统一元数据湖

  • 如何实现跨平台、跨引擎的数据管理。

  • 分享如何通过统一元数据湖解决多 Lakehouse 环境中的数据发现、共享和治理难题,提供可落地的解决方案和实际案例。

  • 探讨统一元数据湖在数据架构中的未来发展方向,为企业提供战略性的技术选型建议。


听众收益

  • 掌握多 Lakehouse 治理的关键挑战与解决方案

  • 学习统一元数据湖的核心技术与实践

  • 获取可落地的数据治理最佳实践


除此之外,本次大会还策划了多模态大模型及应用AI 驱动的工程生产力面向 AI 的研发基础设施不被 AI 取代的工程师大模型赋能 AIOps云成本优化Lakehouse 架构演进越挫越勇的大前端等专题,届时将有来自不同行业、不同领域、不同企业的 100+资深专家在 QCon 北京现场带来前沿技术洞察和一线实践经验。


目前,所有大会演讲嘉宾已结集完毕,了解更多报名和详情信息可扫码或联系票务经理 18514549229 咨询。



为确保大会顺利举行,现诚邀志愿者加入,时长 3.5 天。可与大咖交流、获极客时间 VIP 月卡、大会演讲视频资源和证书。主办方提供午餐和交通支持。时间:4 月 9 日 13:00-4 月 12 日 18:00,地点:北京万达嘉华酒店,报名链接:https://www.infoq.cn/form/?id=2088

2025-04-06 17:0010718

评论

发布
暂无评论

ABAQUS软件包括哪些模块?ABAQUS介绍

思茂信息

功能 abaqus 有限元

地平线与英伟达工具链 PTQ 工具功能参数对比与实操

地平线开发者

自动驾驶 算法

TiDB 关联子查询及半连接的优化实践

TiDB 社区干货传送门

性能调优 实践案例

格睿科技完成数百万美元融资,助力可观测和物联网领域高效数据价值挖掘

Greptime 格睿科技

数据库 融资

如何使用OpenAI文本Embedding模型构建AI系统

Zilliz

非结构化数据 Milvus zilliz cloud Embedding模型

轻帆云移动端智能语音提单:一键触达,智能工单新体验,助力高效运营

云智慧AIOps社区

ITSM软件 IT服务管理 工单管理 智能工单

利用代理ip爬取Alibaba海外版数据

Yan-英杰

Python 后端

TiDB 新版本:更稳、更快、更好的数据库体验

TiDB 社区干货传送门

版本升级 新版本/特性解读

琼海市等保测评机构有哪些?在哪里?

行云管家

等保 等保测评 琼海

TDengine 3.3.3.0 版本上线:优化监控、增强 MongoDB 支持

TDengine

数据库 tdengine

TiDB 关联子查询优化实践

TiDB 社区干货传送门

实践案例

TiDB 社区第四届 1024 程序员心愿节来啦!没有 Bug ,只有 Luck!参与留言活动,许愿你想要的 TiDB 产品功能、周边、TiDB 课程 & 考证优惠,一起庆祝 1024 吧!

TiDB 社区干货传送门

TiDB SEMI JION(半连接)优化实践

TiDB 社区干货传送门

实践案例

一文探索RareShop:首个面向消费者的RWA NFT商品发售平台

NFT Research

NFT\ nft工具

PingCAP 与百胜中国联合实验室发布阶段性成果,以技术创新引领餐饮行业数字化转型

先锋IT

云管理平台公司大家都选哪家?选择时候需要考虑哪些因素?

行云管家

云计算 云管理

分布式数据库安全可靠测评名录之平凯数据库(TiDB企业版)

TiDB 社区干货传送门

数据库架构设计

Milvus 到 TiDB 向量迁移实践

TiDB 社区干货传送门

迁移 实践案例 TiDB Cloud TiDB Vector

如何用元数据湖解决多 Lakehouse 治理难题|QCon 北京_架构_QCon全球软件开发大会_InfoQ精选文章