HBase 写吞吐场景资源消耗量化分析及优化

一、概述

HBase 是一个基于 Google BigTable 论文设计的高可靠性、高性能、可伸缩的分布式存储系统。 网上关于 HBase 的文章很多，官方文档介绍的也比较详细，本篇文章不介绍 HBase 基本的细节。

本文从 HBase 写链路开始分析，然后针对少量随机读和海量随机写入场景入手，全方面量化分析各种资源的开销, 从而做到以下两点：

1. 在给定业务量级的情况下，预先评估好集群的合理规模

2. 在 HBase 的众多参数中，选择合理的配置组合

二、HBase 写链路简要分析

HBase 的写入链路基于 LSM（Log-Structured Merge-Tree), 基本思想是把用户的随机写入转化为两部分写入：

Memstore 内存中的 Map, 保存随机的随机写入，待 memstore 达到一定量的时候会异步执行 flush 操作，在 HDFS 中生成 HFile 中。 同时会按照写入顺序，把数据写入一份到 HDFS 的 WAL（Write Ahead Log）中，用来保证数据的可靠性，即在异常（宕机，进程异常退出）的场景下，能够恢复 Memstore 中还没来得及持久化成 HFile 的数据。

三、Flush & Compaction

上一节中，介绍了 HBase 的写路径，其中 HFile 是 HBase 数据持久化的最终形态, 本节将介绍 HBase 如何生成 HFile 和管理 HFile。关于 HFile， 主要涉及到两个核心操作：

1. Flushing

2. Compaction

上一节中提到，HBase 的写入最先会放入内存中，提供实时的查询，当 Memstore 中数据达到一定量的阈值（128MB），会通过 Flush 操作生成 HFile 持久化到 HDFS 中，随着用户的写入，生成的 HFile 数目会逐步增多，这会影响用户的读操作，同时也会系统占用（HDFS 层 block 的数目， regionserver 服务器的文件描述符占用）， region split 操作，region reopen 操作也会受到不同程度影响。

HBase 通过 Compaction 机制将多个 HFile 合并成一个 HFile 以控制每个 Region 内的 HFile 的数目在一定范围内， 当然 Compaction 还有其他的作用，比如数据本地化率，多版本数据的合并，数据删除标记的清理等等，本文不做展开。

另外还有一点需要知道的是，HBase 中 Flush 操作和 Compaction 操作和读写链路是由独立线程完成的，互不干扰。

四、系统开销定量分析

为了简化计算，本节针对事件类数据写吞吐型场景，对 HBase 系统中的开销做定量的分析，做以下假设：

1. 数据写入的 Rowkey 是打散的，不存在写热点

2. 数据写入量及总量是可评估的，会对数据做预先分区，定量分析基于 region 分布稳定的情况下

3. 假设随机读的数目很小，小到可以忽略 IO 开销，且对读 RT 不敏感

4. 数据没有多版本，没有删除操作，compaction 不会减少数据量

5. HBase 写入链路中不存在随机磁盘，所以随机 IOPS 不会成为瓶颈

6. 一般大数据机型的多个 SATA 盘的顺序写吞吐大于万兆网卡

7. 忽略掉 RPC 带来的额外的带宽消耗

4.1 系统变量

1. 单条数据大小 -> s （bytes）

2. 峰值写 TPS -> T

3. HFile 副本数→ R1 （一般为 3）

4. WAL 副本数 → R2 (一般为 3)

5. WAL 数据压缩比 → Cwal (一般是 1)

6. HFile 压缩比 → C (采用 DIFF + LZO， 日志场景压缩比一般为 0.2 左右)

7. FlushSize → F (这里跟 regionserver 的 memstore 内存容量，region 数目，写入是否平均和 flushsize 的配置有关，简化分析，认为内存是足够的 128MB)

8. hbase.hstore.compaction.min → CT （默认是 3， 一般情况下，决定了归并系数，即每次 9. compaction 参与的文件数目，在不存在 compaction 积压的情况下， 实际运行时也是在 3 左右）

9. 数据生命周期 → TTL (决定数据量的大小，一般写吞吐场景，日志会有一定的保存周期, 单位天)

10. 单机数据量水位 → D ( 单位 T，这里指 HDFS 上存放 HFile 数据的数据量平均分担到每台机器上)

11. MajorCompaction 周期 → M( hbase.hregion.majorcompaction 决定，默认 20 天)

以上 11 个参数，是本次量化分析中需要使用到的变量，系统资源方面主要量化以下两个指标：

1. 磁盘开销

2. 网络开销

4.2 磁盘容量开销量化分析

这里只考虑磁盘空间方面的占用，相关的变量有：

1. 单条数据大小 s

2. 峰值写入 TPS

3. HFile 副本数 R1

4. HFile 压缩比 c

5. 数据生命周期 TTL

HFile 的磁盘容量量化公式

V = TTL * 86400 * T * s * C * R1

假设 s = 1000, TTL = 365， T = 200000, C = 0.2 , R1 = 3 的情况下，HFile 磁盘空间需求是：

 V = 30 * 86400 * 200000 * 1000 * 0.2 * 3   = 311040000000000.0 bytes  = 282T 

在这里我们忽略了其他占用比较小的磁盘开销，比如：

1. WAL 的磁盘开销，在没有 Replication，写入平均的情况下，WAL 的日志量约定于 (hbase.master.logcleaner.ttl /1000) * s * TPS + totalMemstoreSize

2. Compaction 临时文件，Split 父 Region 文件等临时文件

3. Snapshot 文件

4. 等等

4.3 网络开销量化分析

HBase 中会造成巨大网络开销的主要由一下三部分组成，他们是相互独立，异步进行的，这里做个比方，HBase 这三个操作和人吃饭很像，这里做个类比

回归正题，下面按照发生顺序，从三个角度分别分析：

1. 写路径

2. Flush

3. Compaction

4.3.1 写路径

写路径的网络开销，主要是写 WAL 日志方面, 相关的变量有：

1. 单条数据大小 s

2. 峰值写入 TPS

3. WAL 副本数 R2

4. WAL 压缩比 Cwal

写路径中，产生的网络流量分为两部分，一部分是写 WAL 产生的流量，一部分是外部用户 RPC 写入的流量， In 流量和 Out 流量计算公式为：

NInWrite = T * s * Cwal * (R2 - 1) + （T * s )
NOutWrite = T * s * Cwal * (R2 - 1)

假设 T = 20W，s = 1000, Cwal = 1.0, R2 = 3

   NInwrite = 200000 * 1000 * 1 * (3-1) + 200000 * 1000
        = 600000000 bytes/s
        = 572MB/s
   NOutwrite = 200000 * 1000* 1 * (3-1)
        = 400000000 bytes/s
        = 381MB/s

4.3.2 Flush

Flush 的网络开销，主要是生成 HFile 后，将 HFile 写入到 HDFS 的过程，相关的变量有：

1. 单条数据大小 s

2. 峰值写入 T

3. HFIle 副本数 R1

4. HFile 压缩比 C

Flush 产生的 In 流量和 Out 流量计算公式为：

NInWrite = s * T * (R1 - 1) * C
NOutWrite = s * T * (R1 - 1) * C

假设 T = 20W， S = 1000， R1 = 3， C = 0.2

 NInwrite = 200000 * 1000 * (3 - 1) * 0.2 
      = 80000000.0 bytes/s
      =76.3MB/s
 NOutwrite = 200000 * 1000 * (3 - 1) * 0.2 
      = 120000000.0 bytes/s
      =76.3MB/s

4.3.3 Compaction

Compaction 比较复杂，在有预分区不考虑 Split 的情况下分为两类：

1. Major Compaction

2. Minor Compaction

两者是独立的，下面将分别针对两种 Compaction 做分析，最后取和。

4.3.3.1 Major Compaction

Major Compaction 的定义是由全部 HFile 参与的 Compaction， 一般在发生在 Split 后发生，或者到达系统的 MajorCompaction 周期， 默认的 MajorCompaction 周期为 20 天，这里我们暂时忽略 Split 造成的 MajorCompaction 流量. 最终 Major Compaction 开销相关的变量是:

1. 单机数据量水位 D

2. HFIle 副本数 R1

3. MajorCompaction 周期 → M (默认 20 天)

这里假设数据是有本地化的，所以 MajorCompaction 的读过程，走 ShortCircuit，不计算网络开销，并且写 HFile 的第一副本是本地流量，也不做流量计算，所以 MajorCompaction 的网络流量计算公式是：

NInMajor = D * (R1 - 1) / M
NOutMajor = D * (R1 - 1) / M

假设 D = 10T, R1 = 3, M = 20

  NInMajor = 10 * 1024 * 1024 * 1024 * 1024 * (3 - 1) / (20 * 86400)
       = 12725829bytes/s 
       = 12MB/s
  NOutMajor = 10 * 1024 * 1024 * 1024 * 1024 * (3 - 1) / (20 * 86400)
       = 12725829bytes /s 
       = 12MB/s

4.3.3.2 Minor Compaction

量化之前，先问一个问题，每条数据在第一次 flush 成为 HFile 之后，会经过多少次 Minor Compaction?

要回答这个问题之前，要先了解现在 HBase 默认的 compaction 的文件选取策略，这里不展开，只做简单分析，MinorCompaction 选择的文件对象数目，一般处于 hbase.hstore.compaction.min（默认 3）和 hbase.hstore.compaction.max（默认 10）之间, 总文件大小小于 hbase.hstore.compaction.max.size（默认 Max）， 如果文件的 Size 小于 hbase.hstore.compaction.min.size（默认是 flushsize）， 则一定会被选中； 并且被选中的文件 size 的差距不会过大, 这个由参数 hbase.hstore.compaction.ratio 和 hbase.hstore.compaction.ratio.offpeak 控制，这里不做展开。

所以，在 Compaction 没有积压的情况下，每次 compaction 选中的文件数目会等于 hbase.hstore.compaction.min 并且文件 size 应该相同量级， 对稳定的表，对每条数据来说，经过的 compaction 次数越多，其文件会越大. 其中每条数据参与 Minor Compaction 的最大次数可以用公式 math.log( 32000 / 25.6, 3) = 6 得到

这里用到的两个变量是：

1. FlushSize 默认是 128 MB

2. HFile 压缩比例，假设是 0.2

所以刚刚 Flush 生成的 HFile 的大小在 25.6MB 左右，当集齐三个 25.6MB 的 HFile 后，会触发第一次 Minor Compaction， 生成一个 76.8MB 左右的 HFile。

对于一般情况，单个 Region 的文件 Size 我们会根据容量预分区好，并且控制单个 Region 的 HFile 的总大小 在 32G 以内，对于一个 Memstore 128MB, HFile 压缩比 0.2， 单个 Region 32G 的表，上表中各个 Size 的 HFile 数目不会超过 2 个(否则就满足了触发 Minor Compaction 的条件)。

32G = 18.6G + 6.2G + 6.2G + 690MB + 230MB + 76.8MB + 76.8MB

到这里，我们知道每条写入的数据，从写入到 TTL 过期，经过 Minor Compaction 的次数是可以计算出来的。所以只要计算出每次 Compaction 的网络开销，就可以计算出，HBase 通过次要压缩消化每条数据，所占用的总的开销是多少，这里用到的变量有：

1. 单条数据大小 s

2. 峰值写入 T.

3. HFIle 副本数 R1

4. HFile 压缩比 C

计算公式如下：

NInMinor = S * T *（R1-1）* C *总次数
NOutMinor = S * T *（R1-1）* C *总次数

假设 S = 1000，T = 20W，R1 = 3，C = 0.2，总次数= 6

  NInminor = 1000 * 200000 * (3 - 1) * 0.2 * 6
       = 480000000.0bytes/s
       = 457.8MB/s 
  NOutminor = 1000 * 200000 * (3 - 1) * 0.2 * 6
       = 480000000.0bytes/s
       = 457.8MB/s 

4.3.4 网络资源定量分析小结

在用户写入 TPS 20W，单条数据大小 1000 bytes 的场景下，整体网络吞吐为：

NIntotal  = NInwrite + NInflush + NInmajor + NInminor
      = 572MB/s + 76.3MB/s + 12MB/s + 457.8MB/s
      = 1118.1MB/s
NOuttotal = NOutwrite + NOutflush + NOutmajor + NOutminor
      = 381MB/s + 76.3MB/s + 12MB/s + 457.8MB/s
      = 927.1MB

当然这是理想情况下的最小开销，有很多种情况，可以导致实际网络开销超过这个理论值，以下情况都会导致实际流量的升高：

1. 预分区不足或者业务量增长，导致 Region 发生 Split，Split 会导致额外的 Compaction 操作

2. 分区写入不平均，导致少量 region 不是因为到达了 flushsize 而进行 flush，导致 flush 下来的文件 Size 偏小

3. HFile 因为 balance 等原因导致本地化率低，也会导致 compaciton 产生更多的网卡开销

4. 预分区数目过多，导致全局 memstore 水位高，memstore 没办法到达 flushsize 进行 flush，从而全局都 flush 出比较小的文件

5. 等等

有了这个量化分析后，这些不深入展开，简单说几点已经在有赞生产环境得到验证具有实效的优化点：

1. 业务接入初期，协助业务做 Rowkey 的设计，避免写入热点

2. 增加 hbase.hstore.compaction.min，增加每次 Compaction 参加的文件数，相当于减少了每条数据整个生命周期经历过的 Compaction 次数

3. 根据业务稳态的规模，做好预分区，尽量减少 Split 造成的额外开销

4. 对于读 RT 不敏感的业务，可以设置 hbase.hstore.compaction.max.size 为 4g，尽可能减少过大的文件做 Compaction，因为大文件做 compaction 的 ROI 实在太低

5. 对于没有多版本并且有 TTL 的数据，可以关闭系统的 MajorCompaction 周期，数据过期采用文件整体过期的方式，消除 MajorCompaction 的系统开销

6. 对于吞吐大的场景，用户在写入数据的时候就对数据做压缩，减小写路径造成的网络开销，毕竟 WAL 是不能压缩的（压缩功能形同虚设）

7. 调整 Memstore 的内存比例，保证单机上每个 region 尽可能的分配到 Flushsize 大小的内存，尽可能的 flush 大文件，从而减少后续 Compaction 开销

五、总结

到这里，HBase 的写吞吐场景的资源定量分析和优化的介绍就算结束了，本文基于 HBase1.2.6 版本。对很多 HBase 的细节没有做展开说明，有些地方因为作者认知有限，难免纰漏，欢迎各位同行指出。

最后打个小广告，有赞大数据团队基础设施团队，主要负责有赞的数据平台（DP），实时计算（Storm，Spark Streaming，Flink），离线计算（HDFS，YARN，HIVE，SPARK SQL），在线存储（HBase），实时 OLAP（Druid）等数个技术产品，欢迎感兴趣的小伙伴联系 hefei@youzan.com。

参考文献

• Google BigTable（https://static.googleusercontent.com/media/research.google.com/en//archive/bigtable-osdi06.pdf）

• HBase 官方网站（http://hbase.apache.org/）