FinOps有望降低企业50%+的云成本! 了解详情
写点什么

JVM 为什么需要 GC

  • 2017-02-27
  • 本文字数:4629 字

    阅读完需:约 15 分钟

社区内有人发起了一个讨论,关于JVM 是否一定需要GC?他们认为应用程序的回收目标是构建一个仅用来处理内存分配,而不执行任何真正的内存回收操作的 GC。即仅当可用的 Java 堆耗尽的时候,才进行顺序的 JVM 停顿操作。

首先需要理解为什么需要GC。随着应用程序所应对的业务越来越庞大、复杂,用户越来越多,没有GC 就不能保证应用程序正常进行。而经常造成STW 的GC 又跟不上实际的需求,所以才会不断地尝试对GC 进行优化。

社区的需求是尽量减少对应用程序的正常执行干扰,这也是业界目标。Oracle 在JDK7 时发布G1 GC 的目的是为了减少应用程序停顿发生的可能性,让我们通过本文来了解G1 GC 所做的工作。

JVM 发展历史简介

还记得机器猫吗?他和康夫有一张书桌,书桌的抽屉其实是一个时空穿梭通道,让我们操作机器猫的时空机器,回到 1998 年。那年的 12 月 8 日,第二代 Java 平台的企业版 J2EE 正式对外发布。为了配合企业级应用落地,1999 年 4 月 27 日,Java 程序的舞台—Java HotSpot Virtual Machine(以下简称 HotSpot )正式对外发布,并从这之后发布的 JDK1.3 版本开始,HotSpot 成为 Sun JDK 的默认虚拟机。

(点击放大图像)

GC 发展历史简介

1999 年随 JDK1.3.1 一起来的是串行方式的 Serial GC ,它是第一款 GC,并且这只是起点。此后,JDK1.4 和 J2SE1.3 相继发布。2002 年 2 月 26 日,J2SE1.4 发布,Parallel GC 和 Concurrent Mark Sweep (CMS)GC 跟随 JDK1.4.2 一起发布,并且 Parallel GC 在 JDK6 之后成为 HotSpot 默认 GC。

HotSpot 有这么多的垃圾回收器,那么如果有人问,Serial GC、Parallel GC、Concurrent Mark Sweep GC 这三个 GC 有什么不同呢?请记住以下口令:

  • 如果你想要最小化地使用内存和并行开销,请选 Serial GC;
  • 如果你想要最大化应用程序的吞吐量,请选 Parallel GC;
  • 如果你想要最小化 GC 的中断或停顿时间,请选 CMS GC。

那么问题来了,既然我们已经有了上面三个强大的 GC,为什么还要发布 Garbage First(G1)GC?原因就在于应用程序所应对的业务越来越庞大、复杂,用户越来越多,没有 GC 就不能保证应用程序正常进行,而经常造成 STW 的 GC 又跟不上实际的需求,所以才会不断地尝试对 GC 进行优化。

为什么名字叫做 Garbage First(G1)呢?

因为 G1 是一个并行回收器,它把堆内存分割为很多不相关的区间(Region),每个区间可以属于老年代或者年轻代,并且每个年龄代区间可以是物理上不连续的。

老年代区间这个设计理念本身是为了服务于并行后台线程,这些线程的主要工作是寻找未被引用的对象。而这样就会产生一种现象,即某些区间的垃圾(未被引用对象)多于其他的区间。

垃圾回收时实则都是需要停下应用程序的,不然就没有办法防治应用程序的干扰 ,然后 G1 GC 可以集中精力在垃圾最多的区间上,并且只会费一点点时间就可以清空这些区间里的垃圾,腾出完全空闲的区间。

绕来绕去终于明白了,由于这种方式的侧重点在于处理垃圾最多的区间,所以我们给 G1 一个名字:垃圾优先(Garbage First)。

G1 GC 基本思想

G1 GC 是一个压缩收集器,它基于回收最大量的垃圾原理进行设计。G1 GC 利用递增、并行、独占暂停这些属性,通过拷贝方式完成压缩目标。此外,它也借助并行、多阶段并行标记这些方式来帮助减少标记、重标记、清除暂停的停顿时间,让停顿时间最小化是它的设计目标之一。

G1 回收器是在 JDK1.7 中正式投入使用的全新的垃圾回收器,从长期目标来看,它是为了取代 CMS 回收器。G1 回收器拥有独特的垃圾回收策略,这和之前提到的回收器截然不同。从分代上看,G1 依然属于分代型垃圾回收器,它会区分年轻代和老年代,年轻代依然有 Eden 区和 Survivor 区,但从堆的结构上看,它并不要求整个 Eden 区、年轻代或者老年代在物理上都是连续。

综合来说,G1 使用了全新的分区算法,其特点如下所示:

  1. 并行性:G1 在回收期间,可以有多个 GC 线程同时工作,有效利用多核计算能力;
  2. 并发性:G1 拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,因此,一般来说,不会在整个回收阶段发生完全阻塞应用程序的情况;
  3. 分代 GC:G1 依然是一个分代收集器,但是和之前的各类回收器不同,它同时兼顾年轻代和老年代。对比其他回收器,或者工作在年轻代,或者工作在老年代;
  4. 空间整理:G1 在回收过程中,会进行适当的对象移动,不像 CMS 只是简单地标记清理对象。在若干次 GC 后,CMS 必须进行一次碎片整理。而 G1 不同,它每次回收都会有效地复制对象,减少空间碎片,进而提升内部循环速度。
  5. 可预见性:由于分区的原因,G1 可以只选取部分区域进行内存回收,这样缩小了回收的范围,因此对于全局停顿情况的发生也能得到较好的控制。

随着 G1 GC 的出现,GC 从传统的连续堆内存布局设计,逐渐走向不连续内存块,这是通过引入 Region 概念实现,也就是说,由一堆不连续的 Region 组成了堆内存。其实也不能说是不连续的,只是它从传统的物理连续逐渐改变为逻辑上的连续,这是通过 Region 的动态分配方式实现的,我们可以把一个 Region 分配给 Eden、Survivor、老年代、大对象区间、空闲区间等的任意一个,而不是固定它的作用,因为越是固定,越是呆板。

G1 GC 垃圾回收机制

通过市场的力量,不断淘汰旧的行业,把有限的资源让给那些竞争力更强、利润率更高的企业。类似地,硅谷也在不断淘汰过时的人员,从全世界吸收新鲜血液。经过半个多世纪的发展,在硅谷地区便形成只有卓越才能生存的文化。本着这样的理念,GC 承担了淘汰垃圾、保存优良资产的任务。

G1 GC 在回收暂停阶段会回收最大量的堆内区间(Region),这是它的设计目标,通过回收区间达到回收垃圾的目的。这里只有一个例外情况,这个例外发生在并行标记阶段的清除(Cleanup)步骤,如果 G1 GC 在清除步骤发现所有的区间都是由可回收垃圾组成的,那么它会立即回收这些区间,并且将这些区间插入到一个基于 LinkedList 实现的空闲区间队列里,以待后用。因此,释放这些区间并不需要等待下一个垃圾回收中断,它是实时执行的,即清除阶段起到了最后一道把控作用。这是 G1 GC 和之前的几代 GC 的一大差别。

G1 GC 的垃圾回收循环由三个主要类型组成:

  • 年轻代循环
  • 多步骤并行标记循环
  • 混合收集循环
  • Full GC

在年轻代回收期,G1 GC 暂停应用程序线程,然后从年轻代区间移动存活对象到 Survivor 区间或者老年区间,也有可能是两个区间都会涉及。对于一个混合回收期,G1 GC 从老年区间移动存活对象到空闲区间,这些空闲区间也就成为了老年代的一部分。

G1 的区间设计灵感

为了加快 GC 的回收速度,HotSpot 的历代 GC 都有自己的不同的设计方案,区间概念在软件设计、架构领域并不是一个新名词,关系型数据库、列式数据库最先使用这个概念提升数据存、取速度,软件架构设计时也广泛使用这样的分区概念加快数据交换、计算。

为什么会有区间这个设计想法?大家一定看过电视剧《大宅门》吧?大宅门所描述的北京知名医术世家白家是这本电视剧的主角。白家有三兄弟,没有分家之前,由老爷子一手掌管全家,老爷子看似是个精明人,实质是个糊涂的人,否则也不会弄得后来白家家破人散。白家的三兄弟在没有分家之前,老大一家很老实,老二很懦弱,性格像女人,虽然肚子里明白道理,但是不敢出来做主。老三年轻时混蛋一个,每次出外采购药材都要私吞家里的银两,造成账目混乱。老大为了家庭和睦,一直在私下倒贴银两,让老爷子能够看到一本正常的账目。这样的一家子聚在一起,迟早家庭内部会出现问题,倒不如分家,你也不用算计家里的钱了,分给你,分给你的钱有本事守住,没本事就一直拮据下去吧。这就是最原始的分区(Region)概念。

我们回到技术,看看 HBase 的 RegionServer 设计方式。在 HBase 内部,所有的用户数据以及元数据的请求,在经过 Region 的定位,最终会落在 RegionServer 上,并由 RegionServer 实现数据的读写操作。RegionServer 是 HBase 集群运行在每个工作节点上的服务。它是整个 HBase 系统的关键所在,一方面它维护了 Region 的状态,提供了对于 Region 的管理和服务;另一方面,它与 Master 交互,上传 Region 的负载信息上传,参与 Master 的分布式协调管理。

HRegionServer 与 HMaster 以及 Client 之间采用 RPC 协议进行通信。HRegionServer 向 HMaster 定期汇报节点的负载状况,包括 RS 内存使用状态、在线状态的 Region 等信息。在该过程中 HRegionServer 扮演了 RPC 客户端的角色,而 HMaster 扮演了 RPC 服务器端的角色。HRegionServer 内置的 RpcServer 实现了数据更新、读取、删除的操作,以及 Region 涉及到 Flush、Compaction、Open、Close、Load 文件等功能性操作。

Region 是 HBase 数据存储和管理的基本单位。HBase 使用 RowKey 将表水平切割成多个 HRegion,从 HMaster 的角度,每个 HRegion 都纪录了它的 StartKey 和 EndKey(第一个 HRegion 的 StartKey 为空,最后一个 HRegion 的 EndKey 为空),由于 RowKey 是排序的,因而 Client 可以通过 HMaster 快速的定位每个 RowKey 在哪个 HRegion 中。HRegion 由 HMaster 分配到相应的 HRegionServer 中,然后由 HRegionServer 负责 HRegion 的启动和管理,和 Client 的通信,负责数据的读 (使用 HDFS)。每个 HRegionServer 可以同时管理 1000 个左右的 HRegion。

再来看看软件系统架构方面的分区设计。以任务调度为例,假设我们有一个中心调度服务,那么当数据量不断增多,这个中心调度服务一定会遇到性能瓶颈,因为所有的请求都会最终指向它。为了解决这个性能瓶颈,我们可以将任务调度拆分为多个服务,即这多个服务都可以处理任务调度工作,那么问题来了,每个任务调度服务处理的源数据是否需要完全一致?

根据华为公司发布的专利发明,显示他们对于每一个任务调度服务有数据来源区分的操作,即按照任务调度数量对源数据进行划分,比如 3 个任务调度服务,那么源数据按照行号对 3 取余的方式划分,如果运行了一段时间之后,任务调度服务出现了数量上的增减,那么这个取余划分需要重新进行,要按照那个时候的任务调度数量重新划分区间。

回到 G1。在 G1 中,堆被平均分成若干个大小相等的区域(Region)。每个 Region 都有一个关联的 Remembered Set(简称 RS),RS 的数据结构是 Hash 表,里面的数据是 Card Table (堆中每 512byte 映射在 card table 1byte)。

简单的说 RS 里面存在的是 Region 中存活对象的指针。当 Region 中数据发生变化时,首先反映到 Card Table 中的一个或多个 Card 上,RS 通过扫描内部的 Card Table 得知 Region 中内存使用情况和存活对象。在使用 Region 过程中,如果 Region 被填满了,分配内存的线程会重新选择一个新的 Region,空闲 Region 被组织到一个基于链表的数据结构(LinkedList)里面,这样可以快速找到新的 Region。

总结

没有 GC 机制的 JVM 是不能想象的,我们只能通过不断优化它的使用、不断调整自己的应用程序,避免出现大量垃圾,而不是一味认为 GC 造成了应用程序问题。

G1GC 优化参考文档

作者介绍

周明耀,2004 年毕业于浙江大学,工学硕士,国外投资银行 12 年工作经验,4 年分布式系统、物联网工作经验,10 年技术团队管理经验。IBM 开发者论坛专家作者、InfoQ 专栏作者,著有《大话 Java 性能优化》、《深入理解 JVM&G1 GC》,提交分布式计算领域发明专利超过 15 项。


感谢王下邀月熊对本文的策划和审校。

给InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ @丁晓昀),微信(微信号: InfoQChina )关注我们。

2017-02-27 16:406186
用户头像

发布了 50 篇内容, 共 26.6 次阅读, 收获喜欢 39 次。

关注

评论

发布
暂无评论
发现更多内容

批判性思维自修课(四)

石君

28天写作 批判性思维

28天瞎写的第二百三十三天:唯工具论的错误

树上

28天写作

我的电脑嘲讽我!

IT蜗壳-Tango

七日更

架构师训练营第10周课后作业

万有引力

管事情的过程,如何聚焦并决策高价值的事?

一笑

管理 优先级队列 28天写作

还不清楚Lambda的底层原理?一文帮你搞懂

后台技术汇

28天写作

如何做到超预期供应

熊斌

28天写作

年关将至

luojiahu

小产品、连接和生态

孙苏勇

产品 产品定位

mPaas上线应用检测

阿里云金融线TAM SRE专家服务团队

ios android RPC

设计模式: 工厂模式

爱笑的小雨

设计模式 23种设计模式 Java设计模式

LeetCode题解:433. 最小基因变化,BFS+生成所有可能新基因再匹配,JavaScript,详细注释

Lee Chen

算法 大前端 LeetCode

管理笔记[2]:独裁者X与民主统治者Y

L3C老司机

浅谈JavaScript常见的循环方式

devpoint

foreach for for...of

《学会写作》学习笔记之如何选题

JiangX

28天写作

《破壁MySQL》 - MySQL索引

haxianhe

MySQL

CSS(九)——盒子的浮动与定位

程序员的时光

程序员 七日更 28天写作

开发质量提升系列:表字段名称引发的血案

罗小龙

代码规范 28天写作

产品训练营-第六课笔记

Geek_娴子

项目管理知识标准体系

Ian哥

28天写作

外企时代已经过去?

李忠良

28天写作

碎碎念之「创造力可能是新的生产力」

Justin

创意 28天写作 创造性思维

webpack | 谈谈webpack的本质

梁龙先森

大前端 webpack 28天写作

阿里架构师集一生内力编撰的笔记,到底有什么干货?

Java架构师迁哥

NullPointerException 的处理新方式,Java14 真的太香了!

xcbeyond

Java java 14 新特性 28天写作

机器学习笔记之:虽然还没明白到底是在干嘛,但竟然还觉得挺有意思的!

Nydia

GameStop: 究竟发生了什么?

lidaobing

28天写作 逼空

“复制”马斯克(三):我们要为他的“反智事业”买单吗?

脑极体

设计模式简单讲 - 适配器设计模式

小马哥

Java 设计模式 架构师 七日更

创业失败启示录|茶之玄学

阿萌

28天写作 创业失败启示录 青城

怀着期待开启美好的一天「幻想短篇 23/28」

道伟

28天写作

  • 需要帮助,请添加网站小助手,进入 InfoQ 技术交流群
JVM为什么需要GC_Oracle_麦克周_InfoQ精选文章