【锁定直播】字节、华为云、阿里云等技术专家讨论如何将大模型接入 AIOps 解决实际问题,戳>>> 了解详情
写点什么

LinkedIn 庄振运:从国家部委公务员到硅谷系统性能专家,创新是唯一主旋律

  • 2016-07-14
  • 本文字数:4293 字

    阅读完需:约 14 分钟

作为全球最大的职业社交网站,LinkedIn 会员人数在世界范围内已超过 4 亿。而随着 LinkedIn 超高访问流量和海量用户数据压力的不断增加,持续对系统架构进行改进和优化是其压力背后有力的技术支持。对于其中的系统性能优化技术和实践方案,也是我们最为关注的,更值得我们学习借鉴。

2016 年 8 月 18-19 日,由极客邦、InfoQ 和听云联合主办的 APMCon2016 中国应用性能管理大会将在北京举行(现在报名,享6 折优惠),聚焦当前最为关键的移动端、Web 端和Server 端的性能监控和管理技术。本届大会,我们有幸邀请到了LinkedIn Staff Software Engineer庄振运,前来分享《容器里面乾坤大:采用容器部署应用的性能考虑》的内容,讲述他在LinkedIn 所从事的系统性能分析和方案探索过程中的经验与实践。

现在我们就来采访庄老师,来了解LinkedIn 在性能优化上的技术考量,其内部技术氛围,以及工作之外的庄老师!

InfoQ:您的工作经历很丰富,曾在 Oracle、Salesforce、Internap 和德国电信等公司工作过,目前在 LinkedIn 从事性能优化的工作,这一路走来,每一次出于什么原因或者考虑而决定换新工作,工作多年有什么感受和体会?

庄振运:我的经历相对很多人来讲的确比较丰富。我大学毕业后先去国家部委做了几年公务员,然后连续读了两个硕士和一个博士。工作和实习过的公司大小不一,有不超过十个人的起步 Startup 公司(后来被收购了);也有几百人的中小公司;还有上万人甚至十几万人的大公司。在这些公司的工作内容虽然分布在不同领域(比如 CDN 网络性能,手机性能,系统性能等),但基本上都是性能优化相关的。每个公司工作领域不同,公司文化和大小迥异,但这些经历给予我不同方面的经验和视角。我认为这样的机会是非常难得的。

我个人比较喜欢接受新的挑战,点子和创新比较多,不太喜欢按部就班的简单重复性工作。如果一份工作对我失去挑战性,就会考虑换个岗位。

InfoQ:请介绍一下您目前在 LinkedIn 的主要工作职责?

庄振运:我加入 LinkedIn 三年多了,一直做 Performance 方面的工作,主要集中在系统性能方面,包括 Java,Linux,网络,存储等等。日常职责包括系统性能问题的分析和解决,同时也从事相关的性能工具开发。

InfoQ:请详细介绍一下您在计算机性能方面的工作成果,包括学术研究和工程优化方面?您拥有多个国际专利,这些专利是否已经现实应用,具体运用在哪些领域?

庄振运:我十多年来一直从事计算机性能方面的学术研究和工程技术优化。从在清华大学读研究生时候开始进入计算机性能领域,当时是做多媒体多播协议的性能。后来出国去佐治亚理工大学读博士,主攻无线移动网络中的应用性能优化。在公司实习上班继续在相关性能领域工作,尤其是计算机系统的性能优化方面。

我个人比较善于提出创新想法和新点子,也喜欢总结和深入探索一些性能方面的技术。所以,即使博士毕业,我还是坚持发表学术论文,到现在应该有 30 多篇了。

你提到的专利情况。有些专利已经被运用在产品中了,有的正在实现阶段,还有些是在计划实现。比如我提出的互联网多点加速专利,是在实习的时候申请的,早就被作为主要技术之一运用到平台中了。再比如 JMS 消息压缩的专利,也被运用到产品中了。

InfoQ:像您之前写的《 Designing SSD-friendly Applications for Better Application Performance and Higher IO Efficiency 》这些论文讲的主要内容是什么?你们技术团队内部有写论文的硬性要求吗?LinkedIn 的技术氛围如何?

庄振运:我个人喜欢把平时做的东西做一些总结和深化的研究,然后写成论文发表。公司没有写论文的要求,纯属个人爱好。

你提到的这篇论文是讲关于 SSD 的。众所周知 SSD 和硬盘(HDD)比起来,IO 性能要好些,所以很多软件应用采用 SSD 后,性能(比如软件的吞吐量或者延迟)一般会变好。在网上有很多这样的博客或者文章在谈说某某软件应用因为采用了 SSD,性能提高了多少多少倍。但是在我看来,这样简单采用 SSD 的方式并没有真正把 SSD 的潜力发挥到极致。因为 SSD 不仅仅是个更快的“硬盘”,它有自己的不同的内部机制和优缺点。如果软件开发人员能够知道这些特性,在开发时对 SSD 的特性扬长避短,那么实际的软件应用性能会更好。

LinkedIn 的技术氛围还是不错的。公司每周都会有至少一次的 Tech Talk。每个人都可以自愿报名给报告,讲讲自己或者自己组里做的东西。因为工程部门很多,涵盖的内容很多。包括前端,后台,大数据处理,移动 App 等等都会讲到。个人从里面获益很多。

InfoQ:可否介绍一下 LinkedIn 超高访问流量和海量用户数据压力背后的技术支持吗?

庄振运:LinkedIn 这些年来随着用户的增长和流量的加大,一直持续对系统架构进行改进和优化。这篇博客文章讲了部分的历史。在这个过程中,我们开发了很多有特色的产品,有些产品后来都开源了。比如我们开发了 Kafka 来驱动实时的数据流, Samza 来进行流处理。对于数据分析方面,我们有 Pinot 。Key-Value 数据库方面,我们有 Espresso Databus Voldemort 。对于动态负载平衡方面,我们有自己的服务架构 D2 (Dynamic Discovery)和 R2 (Request Response Framework)。网络方面,我们整合使用多家 CDN 网络并且使用多个数据中心。

InfoQ:您之前在 QCon 演讲中说到,一些运行在 JVM 上的应用程序会偶尔出现长时间的 STW(Stop-The-World)JVM GC 停顿,会导致应用程序的高延迟。如何进行深入分析,来发现造成 JVM GC 停顿的“非典型”的原因,这些原因又分别有哪些?通过什么方法来解决这些问题?对工作成效的改善体现在哪些方面?

庄振运:LinkedIn 很多的后端产品都是基于 Java 的。作为 Performance Engineer, 我们经常需要和其他的组一起合作来分析和解决一些和 JVM 有关的性能问题。 我们的产品多数是在线的,所以不能容忍大的 JVM 停顿。

引起 JVM 停顿的原因很多,有应用本身造成的,也有 OS 造成的。我在 QCon 北京 2016 上的演讲就是针对 OS 导致的 JVM 大停顿。OS 导致的停顿不像其他原因一样比较容易发现,而是“非典型”的。这些问题的原因是“跨层”的,就是由应用层,OS 层和硬件层的交互导致的。

OS 导致的 JVM 大停顿又分几种情况,需要对症下药。比如 JVM 调优、OS 调优甚至升级硬件。具体的细节大家可以看我的大会 Slides 或者 Video

InfoQ:可以介绍一下 APM 在 LinkedIn 的应用场景有哪些吗,以及在技术上有什么优势?

庄振运:LinkedIn 在 APM 上面投入很大,有几个系统我觉得做得很好。一个是 inGraphs , 可以做到让任何一个应用和服务都把各种性能相关的数据指标发送到后台处理,然后在前台随时调阅。另外一个是 RUM (Real User Monitoring),可以把所有用户的页面访问实时的收集起来,以便进行各种分析和优化。还有一个是 EKG ,能够自动化 Release 产品的性能测试和比较。这些产品的特点是自动化和智能化。比如 EKG,可以允许用户自己定义性能指标,如果性能指标不能达到,系统会采取相应的措施,比如停止部署。

InfoQ:您即将参加 8 月份在北京举办的 APMCon 技术大会,分享 LinkedIn 采用容器部署应用方面的一些性能考虑,可否具体介绍一下?

庄振运:随着云计算的普及,越来越多的服务在容器(比如 Docker)里面部署。相对于传统的非容器环境,容器部署对 APM 提出了新要求。一方面容器的运行需要监控新的性能参数,比如容器的虚拟内存地址空间使用 (Virtual address space) 和和守护进程的资源使用。另一方面容器的特殊机制会导致各个容器间在很多情况下互相影响性能(比如有内存压力时)。在 APM 部署应用时需要尽量避免这些情况。如果容器中的应用发生性能问题,APM 可以针对容器的特点帮助诊断。

这个演讲会分享 LinkedIn 使用容器部署中的一些经验。我会重点介绍容器部署中几种影响性能的场景,比如内存压力场景,JVM 在容器内运行的场景,不同容器互相干扰的场景等。这些经验对如何适当部署,有效监控和快速诊断容器里面的应用性能会有帮助。

InfoQ:您个人对应用性能管理有怎样深刻的理解?您觉得参加 APMCon2016 垂直领域大会的意义是什么?

庄振运:在大数据时代,我认为应用性能管理在现代互联网公司运行中的地位将日趋重要。公司里面产品通常很多,为了能够处理大数据流量,经常需要部署很多实例。这个过程随着公司的壮大会越来越复杂。所以 APM 需要尽量采用一些公认的原则和方法。这些原则和方法不是凭空诞生的,是从交流,讨论和总结中得出来的。

业界这么多互联网公司,每个公司的 APM 系统都不尽相同,所以我觉得让公司和工程师们有个交流的机会很重要。我很高兴看到你们组织这次 APMCon2016 大会,相信参会者会受益良多。

InfoQ:LinkedIn 被微软收购后,工作内容是否有调整变化?可否分享一下未来的工作计划?如何看待 LinkedIn 被微软收购这件轰动 IT 圈的大事?

庄振运:相信大家对于收购后如何整合两家公司的技术和平台都有很多期待。作为员工,我也很期待。因为最后的收购到年底才会完成,现在做解读还为时过早。

我个人认为这次收购是比较典型的双赢合并。从 LinkedIn 角度来讲,LinkedIn 会充分利用两个公司的长处,对产品的架构和业务进行重新定向和升级。但是这个过程将是渐进的,不会很快就产生剧烈的变动。我们一起拭目以待。

InfoQ:您工作之外,喜欢中国国学文化,尤其热爱历史和唐诗宋词。请分享一下这些喜好给您的工作和生活带来了哪些不一样的收获,如何将文化运用在个人生命中?

庄振运:作为一介码农,而且是在美国硅谷的码农,喜欢中国国学似乎有点不合逻辑。不过每个人都有与工作无关的爱好和思想。我一直喜欢品读历史和加强文学知识,很认同古代的士大夫的价值观和责任感。

另外也深刻感到当今社会在转型期所出现的很多方面的文化空虚和道德危机,这些负面现象和我们传统的儒家价值观是相背的。所以一直希望能够在弘扬国学文化方面能尽点绵薄之力。要弘扬国学,首先就需要丰富的底蕴。所以只要一有机会就会吸收这些知识,也会自己创作一些,比如诗词。当然,家人和朋友们对我的创作的欣赏不仅令我高兴,也起到了鼓励作用。国学的学习就成了我工作外的调剂,这对我各方面都大有益处。说个好笑的例子,老婆笑说我现在气质比以前好了很多,我回了一句:腹有诗书气自华嘛(^_^)。

InfoQ:感谢庄老师接受我们的采访,期待您在 APMCon2016 大会上的分享。

感谢陈兴璐对本文的审校。

受访嘉宾介绍

庄振运, LinkedIn Staff Software Engineer,现在美国加州 LinkedIn(领英)任职,从事性能优化的工作。曾在 Oracle、Salesforce、Internap 和德国电信等公司实习和工作。长期从事计算机性能方面的学术研究和工程技术优化,在互联网、无线网络、分布式系统、Java、操作系统和存储系统等多个领域发表过 30 余篇国际论文,拥有 10 多个国际专利。

公众号推荐:

2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。

AI 前线公众号
2016-07-14 21:104209
用户头像

发布了 160 篇内容, 共 70.5 次阅读, 收获喜欢 194 次。

关注

评论

发布
暂无评论
发现更多内容

【ELT.ZIP】OpenHarmony啃论文俱乐部——多层存储分级数据压缩

ELT.ZIP

鸿蒙 数据压缩 ELT.ZIP HCompress

拆分电商系统为微服务

流火

架构实战营模块 6 作业

热猫

老板对技术部产出不满意怎么办?

石云升

产品思维 职场经验 管理经验 5月月更

M_5: 设计微博系统中”微博评论“的高性能高可用计算架构。

Jadedev

架构训练营

Artery —— 单页面应用接口描述语言简介

全象云低代码

前端 低代码 流程 页面 artery

密码学系列之:使用openssl检测网站是否支持ocsp

程序那些事

Java 密码学 程序那些事 5月月更

《SaaS产品经理从菜鸟到专家》读书笔记

圣迪

产品 产品经理 SaaS tob tob产品

Bigdata 作业 第11周

Pyel

比特币价格预测两极分化:跌至1万美元还是涨至10万美元?

CECBC

C++最佳实践 | 1. 工具

俞凡

c++ 最佳实践

规模化软件开发的必由之路—大规模自动化测试

刘冉

自动化测试

【C 语言】指针 Five 之 ["​⚔ 空指针 - NULL、💣 指针使用之前检查有效性、🗡 指针运算 💣 指针+- 整数、💣 指针 - 指针、指针关系运算、💣 标准规定、⚔ 指针和数组、⚔ 二级指针、⚔ 指针数组"]

謓泽

5月月更

记一次 JMeter 压测 HTTPS 性能问题

阿里巴巴云原生

阿里云 云原生 https Jmeter 压测

聊聊我对质量度量的看法

老张

软件测试 质量保障

跨平台应用开发进阶(十一) :uni-app 实现IOS原生APP-云打包集成极光推送(JG-JPUSH)详细教程

No Silver Bullet

uni-app ios 5月月更 云打包 原生APP

跨平台应用开发进阶(十二) :uni-app 实现应用桌面图标角标提示及应用跳转

No Silver Bullet

uni-app 5月月更 桌面角标

成本节省 50%,10 人团队使用函数计算开发 wolai 在线文档应用

阿里巴巴云原生

阿里云 Serverless 云原生 函数计算

微信朋友圈高性能架构设计

极客土豆

【LeetCode】交换链表中的节点Java题解

Albert

LeetCode 5月月更

为了兼容IE,配置Babel+Webpack

空城机

webpack 5月月更

最好用的 8 款 React Datepicker 时间日期选择器测评推荐

蒋川

react.js 组件 组件库 低代码平台 Javascript框架

架构实战营 - 第 6 期 模块六课后作业

天琪实刚亮

架构实战营

提效客户体验管理:结合 K-Means 聚类和 RFM 模型的客户分群

龙国富

RFM 客户分群 K-Means

单片机开发入门知识介绍

DS小龙哥

5月月更

WordPress 编辑用户

海拥(haiyong.site)

WordPress 5月月更

1.1 历史长河中的顶层设计

凌晞

阿里巴巴在 Envoy Gateway 的演进历程浅析

阿里巴巴云原生

阿里云 Kubernetes 云原生

Java Core「2」synchronized 关键字

Samson

学习笔记 5月月更 Java core

Linux环境编译静态库

Loken

音视频 5月月更

Nacos 开源之夏 2022 来了

阿里巴巴云原生

阿里云 开源 微服务 云原生 nacos

LinkedIn庄振运:从国家部委公务员到硅谷系统性能专家,创新是唯一主旋律_服务革新_Lucien_InfoQ精选文章