写点什么

如何用元数据湖解决多 Lakehouse 治理难题|QCon 北京

  • 2025-04-06
    北京
  • 本文字数:1479 字

    阅读完需:约 5 分钟

大小:765.64K时长:04:21
如何用元数据湖解决多 Lakehouse 治理难题|QCon 北京

2025 年 4 月 10 - 12 日,QCon 全球软件开发大会将汇聚全球 140+ 技术先行者及创新实践者,直击行业痛点,解锁可复制的经验与模式。这不仅是一场会议,更是一次对技术演进的集体探索。无论你是资深开发者,还是技术管理者,都能在这里有所收获,为下一步的技术决策提供方向。


Datastrato VP of engineering 史少锋已确认出席并发表题为《从碎片到统一:如何用元数据湖解决多 Lakehouse 治理难题》的主题分享。企业在采用多 Lakehouse 后,往往面临一些挑战,比如:如何实现多 Lakehouse 中数据的发现和共享,让应用、引擎以统一的方式接入;如何实现多 Lakehouse 的统一管理和治理,使用方式不一致导致的数据治理问题等。对此,基于标准协议的 Rest Catalog 以及支持多引擎的统一元数据服务,可以帮助企业统一管理 Lakehouse,解决上面提到的问题,此次分享将带来以上方面的最佳实践。


史少锋是 Datastrato VP of engineering,Apache 会员, Apache Incubator PMC, Mentor of Apache Gravitino, Gluten, HoraeDB 等多个项目;专注于大数据分析和云计算技术。曾任 eBay 全球分析基础架构部大数据高级工程师,IBM 云计算部门架构师等。他在本次会议的详细演讲内容如下:


演讲提纲

1. Lakehouse 架构背景

  • 什么是 Lakehouse 架构

  • Lakehouse 的核心优势:数据湖与数据仓库的结合

  • Lakehouse 在企业中的典型应用场景

2. 多 Lakehouse 趋势

  • 企业为何需要多 Lakehouse

  • 多 Lakehouse 的典型架构模式

  • 多 Lakehouse 带来的机遇与挑战

3. 多 Lakehouse 治理挑战

  • 数据发现与共享难题

  • 统一管理与治理困境

  • 实际案例:企业面临的具体问题

4. 什么是统一元数据湖

  • 统一元数据湖的定义与核心价值

  • 统一元数据湖的关键特性

  • 统一元数据湖与传统元数据管理的对比

5. 基于统一元数据湖的 Lakehouse 架构

  • 架构设计原则

  • 技术实现

  • 实际应用案例

6. 未来展望


您认为,这样的技术在实践过程中有哪些痛点?

  • 协议适配问题:尽管基于标准协议的 Rest Catalog 是核心优势之一,但在实际企业环境中,不同的 Lakehouse 架构可能是在不同时期、由不同供应商构建的。这些系统可能对标准协议的支持程度参差不齐,存在部分功能无法完全适配 Rest Catalog 的情况。

  • 企业中可能同时存在多种处理引擎和分析引擎,这些引擎对元数据的理解和使用方式存在差异。统一元数据湖服务要支持多引擎,就需要针对每种引擎的特点进行定制化开发。


演讲亮点

  • 介绍基于标准协议的 Rest Catalog 及其在多 Lakehouse 环境中的技术优势,展示统一元数据湖

  • 如何实现跨平台、跨引擎的数据管理。

  • 分享如何通过统一元数据湖解决多 Lakehouse 环境中的数据发现、共享和治理难题,提供可落地的解决方案和实际案例。

  • 探讨统一元数据湖在数据架构中的未来发展方向,为企业提供战略性的技术选型建议。


听众收益

  • 掌握多 Lakehouse 治理的关键挑战与解决方案

  • 学习统一元数据湖的核心技术与实践

  • 获取可落地的数据治理最佳实践


除此之外,本次大会还策划了多模态大模型及应用AI 驱动的工程生产力面向 AI 的研发基础设施不被 AI 取代的工程师大模型赋能 AIOps云成本优化Lakehouse 架构演进越挫越勇的大前端等专题,届时将有来自不同行业、不同领域、不同企业的 100+资深专家在 QCon 北京现场带来前沿技术洞察和一线实践经验。


目前,所有大会演讲嘉宾已结集完毕,了解更多报名和详情信息可扫码或联系票务经理 18514549229 咨询。



为确保大会顺利举行,现诚邀志愿者加入,时长 3.5 天。可与大咖交流、获极客时间 VIP 月卡、大会演讲视频资源和证书。主办方提供午餐和交通支持。时间:4 月 9 日 13:00-4 月 12 日 18:00,地点:北京万达嘉华酒店,报名链接:https://www.infoq.cn/form/?id=2088

2025-04-06 17:0010543

评论

发布
暂无评论

Infosys稳居全球IT服务品牌前三名,继续领跑行业

财见

茁壮:我所见证的鸿蒙之路

脑极体

AI

一文带你入门 MCP(模型上下文协议)

Se7en

MES系统助力五金制品行业数字化转型

万界星空科技

制造业 mes 万界星空科技 五金行业 五金制品行业

区块链智能合约的优化

北京木奇移动技术有限公司

智能合约 区块链技术 软件外包公司

国内做TikTok直播带货需要解决什么问题?

Ogcloud

TikTok 直播专线 tiktok直播 tiktok直播专线 tiktok矩阵

TimechoDB v1.3.4 发布 | 新增模式匹配函数、数据导入导出脚本合并等功能

Apache IoTDB

不同Redis持久化方案在库存场景的性能评测

晨章数据

NoSQL 数据库 kv 数据库、

从数据到决策,如何打造驱动游戏业务增长的数据引擎?

镜舟科技

游戏 分析型数据库 StarRocks 物化视图 实时分析

MCP Server 开发实战:无缝对接 LLM 和 Elasticsearch

Se7en

《CPython Internals》阅读笔记:p336-p352

codists

CPython Internals

Byteman 使用指南(三)

FunTester

Kmesh v1.0正式发布!稳定易用的高性能Sidecarless服务网格

华为云原生团队

云计算 容器 云原生

艺术藏品NFT的开发流程

北京木奇移动技术有限公司

软件外包公司 音乐NFT 体育NFT

字节 GUI 代理模型 UI-TARS:具备像人一样的感知、推理、行动能力;SLAM-Omni:支持可控音色的语音对话模型

声网

Jetpack架构组件学习——使用Glance实现桌面小组件

不在线第一只蜗牛

架构

低代码教你克服数字化应用挑战的策略

秃头小帅oi

职场新人如何设计职业规划

老张

职场成长 职业生涯规划 职场认知

音乐 NFT 项目的优化

北京木奇移动技术有限公司

软件外包公司 音乐NFT 体育NFT

一次线上生产库的全流程切换完整方案

京东零售技术

后端

体育 NFT 项目的技术框架

北京木奇移动技术有限公司

软件外包公司 音乐NFT 体育NFT

5 个适合小型企业使用的管理软件!(真实经验)

NocoBase

开源 低代码 企业管理 管理工具 无代码

1688 图片识别商品接口系列(1688 API)

tbapi

1688API 1688图片识别接口

牛牛剧场APP:不只是观看,更是投资未来的趋势

新消费日报

如何用元数据湖解决多 Lakehouse 治理难题|QCon 北京_架构_QCon全球软件开发大会_InfoQ精选文章