10 月 23 - 25 日,QCon 上海站即将召开,现在购票,享9折优惠 了解详情
写点什么

读 PolarDB 论文有感:异构计算和数据库软硬一体化设计

  • 2020-07-01
  • 本文字数:3491 字

    阅读完需:约 11 分钟

读PolarDB论文有感:异构计算和数据库软硬一体化设计

引言

阿里巴巴在刚刚结束的国际顶级存储行业会议 FAST 2020 贡献三篇论文:


  • 《POLARDB 结合可计算存储: 高效支持云原生关系数据库的复杂查询操作》

  • 《FPGA 加速 Compactions 操作,基于 LSM-tree 的键值存储》

  • 《HotRing:热点感知的无锁内存键值系统》


再结合阿里云数据库掌门人李飞飞教授的《如何看待数据库的未来》中提到的


新硬件 : 软硬件一体化设计


无不透露着业界领头羊正在定义云原生数据库的业界标准,数据库不仅是运行在 CPU 和内存中的二进制代码,也不再是高端硬件的简单堆叠,关键硬件必须在设计阶段就要针对数据库特性做深度定制和优化,借用 Alan Kay 的名言:


People who are really serious about software should make their own hardware.


以下的文字只当是”囫囵吞枣“后的一些粗浅思考。受本人能力所限,未尽之处,实属应当。


”随风潜入夜,润物细无声“,其实数据库软硬件一体化的进程早在十几年前就以不易察觉的方式拉开序幕。

拿来主义

在 2010 年,笔者第一次在生产环境接触 Infiniband 技术,当时 Oracle RAC (real application cluster)就通过超算领域(HPC)的 Infiniband 网络技术优化集群实例之间的内存数据(Cache Fusion)交互。相比万兆网络,Infiniband 不仅提供更高带宽和更低延时,基于 RDMA 提供 Zero Copy 和 Asynchronous I/O 特性进一步提升通讯协议效率,同时极大减少对 CPU 资源的消耗。


同年,也开始在电商数据库生产环境应用固态盘(SSD)技术。要说明白 SSD 的价值,先简单赘述关系型数据库中的预写式日志(Write-ahead Logging,简称 WAL)机制,WAL 是为关系数据库系统(RDBMS)提供原子性和持久性(ACID 属性中的两个)的关键技术,我们常用的关系型数据库 Oracle,MySQL(Innodb Engine)和 SQL Server 都基于 WAL 实现(具体实现各有不同)。


Oracle 中又叫 Online redo log(后面简称 log),log 持久化延时直接影响到 TPS(Transaction per Second),在 OLTP(在线交易)场景中 TPS 是度量数据库性能的最关键指标。相信所有 Oracle DBA 都对“log file sync”和“log parallel wirte”两个等待事件极为熟悉,基于实践“log file sync”延时超过 3ms,访问数据库的应用就会觉得”慢“。固态盘(SSD)简单粗暴的大幅度降低 log 写入延时。当时写入放大(Write Amplification,简称 WA)和垃圾回收(Garbage Collection,简称 GC)的问题还比较明显,甚至连 SSD 写入寿命的监控接口都还没有,但是大家都意识到对于数据库而言这是革命性的技术变革。也有人早早做出判断 SSD 是最近 10 年数据库(当时多指关系型数据库)领域最大的技术革命。


这个阶段的明显特点就是”拿来主义“。Infiniband 和 SSD 并不需要针对数据库做优化就可以获得显著收益。

简单定制

任何软件技术都很难脱离硬件技术凭空臆想,关系型数据库理论诞生于 60 年代末 70 年代初,其设计思路受限于当时的磁盘技术。


仅以 MySQL 数据持久化中的一个场景展开。MySQL 实例会将内存中的脏数据(被修改过)以数据页为单位写入磁盘持久化。一个数据页的大小是 16KB,假设写入 2KB 时服务器异常掉电,这时数据页的前 2KB 已被更新,剩下的 14KB 还未被更新,那么该数据页因为部分写(partial write)问题被写坏。而 MySQL redo log 不能修复此类坏数据页,导致数据丢失。


受限于机械磁盘只能提供 512B 的原子写(Atomic Write),Innodb Engine 通过 Double Write 机制解决该问题,副作用也很明显,不仅增加存储引擎代码复杂度,也引入额外的磁盘写入压力,让宝贵的存储资源(IOPS)更加紧张。


如果 MySQL 依赖的存储介质可以提供可配置写入大小的原子写(Atomic Write),可以直接关闭 Double Write,这会在以下几个方面带来巨大收益:


  • 直接提升 TPS,以 MariaDB(MySQL 分支)为例.关闭 Double Write 能带来 30%左右的提升,如下图所示:


  • 简化写入链路也间接优化实例恢复逻辑,如下图所示:


  • 在计算存储分离的部署架构下,显著降低计算节点和存储节点的数据交互,在 TPS 提升 11%,QPS 提升 28%的情况下,网络吞吐仅增加 3.6%。(底层存储使用 Elasticfile,目前已经被 Google 收购)



有实力的硬件厂商已经陆续提供大页的原子写(Atomic Write)特性,比如 Intel、Sandisk 和 Scaleflux。留心的读者应该可能已经发现,一些公有云 RDS 厂商在使用具备该特性的硬件后,已经默认关闭 Double Write 功能。


相比“拿来”阶段,硬件厂商更懂数据库,不过依然是没有跳出“传统”的存储认知范畴。

摩尔定律失效

这里跑题说一下摩尔定律,2016 年 2 月 9 号的全球最知名的学术刊物《自然》杂志的《The chips are down for Moore’s law》写到即将出版的国际半导体技术路线图不再以摩尔定律(Moore’s law)为目标,芯片行业 50 年的神话终被打破。


这意味软件不再享受 18 个月一次的 CPU 算力倍增的订阅服务,也意味着 CPU 算力更加珍贵。

基于异构计算的软硬件一体化设计

2017 年图灵奖获得者 John L. Hennessy and David A. Patterson 在他们的文章《A New Golden Age for Computer Architecture》中给出答案


As the focus of innovation in architecture shifts from the general-purpose CPU to domain-specific and heterogeneous processors, we will need to achieve major breakthroughs in design time and cost.


比如在机器学习领域使用 GPU 替代 CPU 进行大规模的矩阵运算,论文《POLARDB Meets Computational Storage: Efficiently Support Analytical Workloads in Cloud-Native Relational Database》也在数据库领域做出呼应。如论文中所述:


Table scan over row-store data does not fit well to modern CPU architecture and tends to largelyunder-utilizeCPU hardware resources.


OLAP 场景中的表扫描(Table scan)对 CPU 并不友好,POLARDB 将表扫描下推(pushdown)到具有计算能力(基于 FPGA)的存储介质,论文中又叫近存储计算(Computational Storage),如下图所示:



更多细节请移步论文《POLARDB Meets Computational Storage: Efficiently Support Analytical Workloads in Cloud-Native Relational Database》。Scaleflux 首席科学家张彤教授也在 FAST 2020 上做了专题演讲,感兴趣的读者也应该一并阅读。


表扫描(Table scan)下推对 MySQL DBA 并不陌生,MySQL 5.6 推出 Index Condition Pushdown(简称 ICP)特性。未启用 ICP 特性时,会按照第一个索引条件列到存储引擎查找数据,并把整行数据提取到实例层,实例层再根据 Where 后其他的条件过滤数据行。启用 ICP 特性后,如果 Where 条件中同时包含检索列和过滤列,且这些列上创建了一个多列索引的情况下,那么实例层会把这些过滤列同时下推到存储引擎层,在存储引擎层过滤掉不满足的数据,只读取并返回需要的数据,减少存储引擎层和实例层之间的数据传输和回表请求,通常情况下可以大幅提升查询效率。下图可以很直观的看到 ICP 启用前后的数据链路:


  • 关闭 ICP


  • 启用 ICP



试想,如果把类似“Index Condition Pushdown”的工作下推(pushdown)给具备计算能力的存储介质,会不会得到类似 POLARDB 的收益呢?


在过去,只有 Oracle 才具备软硬一体化设计的实力。Exadata 无疑是一体化设计的先驱,其吸纳大量”异构“硬件,其在 10 年前就引入 PCIe SSD(又叫 Flash),还在 X4 版本推出基于 PCIe SSD 的”透明“压缩(Exadata Flash Cache Compression),试图在易用、成本和性能三者之中找到完美平衡,功能描述如下:


Flash cache compression dynamically increases the logical capacity of the flash cache by transparently compressing user data as it is loaded into the flash cache. This allows much more data to be kept inflash,and decreases the need to access data on disk drives.


虽然该特性既不足够透明也不便宜,但足见其软硬通吃的野心。

开始的结束

历经 50 年的发展,海量的公司和研发在关系型数据库上构建无数的关键应用,朝夕相处让他们对数据库的痛点如数家珍,而这些痛点在传递到硬件厂商的过程中严重衰减,即便融合也是极少数巨头秘而不宣的独门秘籍。POLARDB 无疑在异构计算和数据库搭建一座更多人可以经过的桥梁,借用丘吉尔的名言,相信这仅仅只是”开始的结束“。


Now this is not the end. it is not even the beginning of the end. but it is perhaps the end of the beginning。


作者介绍


熊中哲,现任才云科技工程 VP,负责产品和研发工作。曾就职于阿里巴巴、沃趣科技、美团。超过 12 年数据库领域的工作经历,目前对云原生,机器学习和异构计算也很感兴趣。


原文链接


https://mp.weixin.qq.com/s/pS7_P_kQa7qkZaFEzhOM_Q


2020-07-01 14:122823

评论

发布
暂无评论
发现更多内容

语言模型:GPT与HuggingFace的应用

华为云开发者联盟

人工智能 华为云 GPT 华为云开发者联盟

在线教育小程序如何一键生成App

Onegun

在线教育 小程序转app

on duplicate key update引发的索引数据不一致问题

TiDB 社区干货传送门

故障排查/诊断

使用TiKV-CDC实现rawkv集群的两地三中心

TiDB 社区干货传送门

实践案例 集群管理 数据库架构选型 数据库架构设计 6.x 实践

TiDB v7.5.0 LTS 升级必读 | 新特性补充说明

TiDB 社区干货传送门

版本升级 新版本/特性解读 7.x 实践

恢复的方式多种多样,总有一款适合你

TiDB 社区干货传送门

备份 & 恢复

详细了解大数据离在线混部架构模型

易程

大数据 Kubernetes 云原生大数据 离在线混部 大数据离在线混部

苹果Mac电脑:2023年度mac app | Pixelmator Pro 图像编辑修图

Rose

Pixelmator Pro Mac修图软件 Pixelmator Pro破解 苹果软件下载

Pipeline模式应用 | 京东云技术团队

京东科技开发者

pipeline 流程编排 管道模式

Gestimer for Mac:轻量定时器,提醒大小事

Rose

Gestimer Mac中文版 Gestimer破解版 Gestimer下载 Mac任务提醒工具

苹果电脑FTP客户端:Transmit for mac 中文版 支持M/intel

Rose

Mac 软件 Transmit 5 Transmit破解版 FTP客户端

TiDB-v7.5.0 DDL 启停特性分析

TiDB 社区干货传送门

版本测评 新版本/特性发布 新版本/特性解读 7.x 实践

OmniPlan Pro 4 for Mac:专业的项目管理规划工具

Rose

OmniPlan Pro 4 OmniPlan Pro许可证 Mac项目管理软件 OmniPlan Pro Mac中文版 OmniPlan Pro注册码

从ClickHouse通往MySQL的几条道路 | 京东物流技术团队

京东科技开发者

MySQL 数据库 Clickhouse

TiDB知识点梳理 (PCTA 笔记分享)

TiDB 社区干货传送门

TiDB 底层架构 TiDB 源码解读

推荐5款很牛的Paas平台编译构建工具

伤感汤姆布利柏

【12 月 9 号线上 Meetup 预告】兼容 MySQL 的原生分布式数据库,聊聊 TiDB 为何是 MySQL 5.7 停服后的新选择

TiDB 社区干货传送门

社区活动

Linus:我休假的时候也会带着电脑,否则会感觉很无聊

极狐GitLab

Linux 开源 AI DevOps gitlab

通俗解释一下“强静态类型”

伤感汤姆布利柏

解密 ArcGraph 分布式一致性:Raft 协议与分布式事务实现丨技术专栏

Fabarta

分布式事务 分布式系统 raft协议 分布式图数据库

在线教育小程序正在成为教育行业的技术强兵

Onegun

小程序 在线教育 在线学习 小程序化

DM同步为已有迁移任务增加新同步的表

TiDB 社区干货传送门

迁移 实践案例 管理与运维

​网易游戏实时 HTAP 计费风控平台建设

TiDB 社区干货传送门

实践案例

领先实践之鑫阳钢铁∣短流程钢铁企业废钢智能判级的行业标杆

用友BIP

废钢智能判级

文心ERNIE Bot SDK+LangChain:基于文档、网页的个性化问答系统

飞桨PaddlePaddle

人工智能 开发者 开发工具

CurveFS 助力网易云商,解决语音识别训练数据增长需求

OpenCurve

云计算 开源 文件存储 分布式文件存储 海量数据

如何用Excel进行数据分析?Excel分析数据功能教程分享

Rose

Excel使用教程 Excel 数据分析 Excel 下载

HTAP 还可以这么玩?丨TiDB 在 IoT 智慧园区的应用

TiDB 社区干货传送门

实践案例

从 Oracle 到 TiDB,全链路数据迁移平台核心能力和杭州银行迁移实践

TiDB 社区干货传送门

实践案例

读PolarDB论文有感:异构计算和数据库软硬一体化设计_云原生_熊中哲_InfoQ精选文章