写点什么

拨云见日看什么是分布式系统?

2018 年 11 月 13 日

拨云见日看什么是分布式系统?

本文是分布式系统系列文章的第一篇,后续还会有分布式系统的本质、分布式系统的暗流、数据库如何确保操作被 100%正确执行?等文章陆续刊发,敬请期待。


如果现在让你阐述一下什么是“分布式系统”,你脑子里第一下跳出来的是什么?我想,此时可以用苏东坡先生的一句诗,来形象地描述大家对分布式系统的认识:


横看成岭侧成峰,远近高低各不同。


“分布式系统”等于 SOA、ESB、微服务这些东西吗?

我觉得每个人脑子里一下子涌现出来的肯定是非常具象的东西,就像下面这些:


“分布式系统”等于 SOA、ESB、微服务这些东西吗?


如果你一下子想到的是 XX 中心、XX 服务,意味着你把服务化的模式(SOA、ESB、微服务)和分布式系统错误地划上了等号。


那么,什么是“服务化”呢?服务化就像企业当中将相同岗位的人员划分到同一个部门管理,以此来收敛特定的工作入口,再进行二次分配,以提高人员利用率和劳动成果的复用度。服务化的本质是“分治”,而“分治”的前提是先要拆,然后才谈得上如何治。这时,高内聚、低耦合的思想在拆分过程中起到了一个非常重要的作用,因为这可以尽可能地降低拆分后不同组件间进行协作的复杂度。所以重要的是“怎么拆“,还有如何循序渐进地拆,而这个过程中你究竟是采用了何种服务化模式(比如 SOA、ESB、微服务等)并不是关键。


为什么说“怎么拆”最重要呢?我来举个例子,企业的组织架构包括三种模型:职能型、项目型、矩阵型。你可以把这里的企业理解为一个“分布式系统”,把后面的 3 种模型理解为这个分布式系统的 3 种形态。作为这个“系统”的所有人,你需要考虑如何拆分它,才能使得各功能组件相互之间可以更好地协作。假设,你要将一个总计 10000 名员工的企业按“职能型”拆分成 20 个部门,得到的结果是每个部门 500 人。


这时,如果工作是流水线式的上下游关系。一个部门完工了再交给下一个部门。



那么这时候是高内聚、低耦合的。因为一个工种只与另一个工种产生了关联,并且仅有一次。


但如果工作需要频繁的由不同职能的人员同时进行,会导致同一个部门可能与多个部门产生联系。



那么,这时是低内聚、高耦合的。因为一个工种需要和其他多个工种产生关联并且远不止一次。


可以看到服务化体现了“分治”的效果,这也是分布式系统的核心思想,因此从“分治”这个本质上来看,服务化的确是分布式系统,但分布式系统不仅仅停留在那些服务化的模式上。


我相信,你在工作中参与开发的任何软件系统,到处都存在着需要拆分的地方,除非它的功能极简到只需要计算一个 1+1。比如,当我们在电商平台点击“提交订单”的时候,会涉及生成订单、扣除积分、扣除库存等等动作。电商系统初期所有的功能可能都在一个系统里面,那么这些操作可以写在一个方法体里吗?我想只要代码能够成功运行,大部分人是不会管你怎么写的。但是如果这时需要增加一个红包功能呢?相信你或多或少遇到过在几百上千行代码中去增改功能的事情,其中的痛苦应该深有体会。


要解决这个问题就是要做拆分,通过梳理、归类,将不同的紧密相关的部分收敛到一个独立的逻辑体中,这个逻辑体可以是函数、类以及命名空间,等等。所以,从这个角度来说“分治”的问题其实早就存在我们的工作中,就看我们是否有去关注它了。因此,这并不只是我们在进行服务化时才需要考虑的问题。


那么如何才能做好这个事情,更好的拆分能力正是我们需要掌握的。如果只是因为看到其他人这么拆,我也这么拆,根据“二八原则”,或许“依样画葫芦”可以达到 80%的契合度,但是往往那剩下的 20%会是耗费我们 80%精力的“大麻烦”。要知道,只有掌握了核心主旨,才能更快地找到最理想的高内聚、低耦合方案。


“分布式系统”是各种中间件吗?

又或许,听到分布式系统,你想到了某某 MQ 框架、某某 RPC 框架、某某 DAL 框架,把运用中间件和分布式系统错误地划上了等号。


这里需要搞清楚的是,中间件起到的是标准化的作用。中间件只是承载这些标准化想法的介质、工具,可以起到引导和约束的效果,以此起到大大降低系统复杂度和协作成本的作用。我们来分别看一下:


  • MQ 框架标准化了不同应用程序间非实时异步通信的方式。

  • RPC 框架标准化了不同应用程序间实时通讯的方式。

  • DAL(Data Access Layer,数据访问层)框架标准化了应用程序和数据库之间通讯的方式。


所以,虽然分布式系统中会运用中间件,但分布式系统却不仅仅停留在用了什么中间件上。你需要清楚每一类中间件背后是对什么进行了标准化,它的目的是什么,带来了哪些副作用,等等。只有如此,你才能真正识别不同技术框架之间的区别,找到真正适合当前系统的技术框架。


那么标准是拍脑袋决定的吗?肯定不是,正如前面所说每一次标准化都是有目的的,需要产生价值。比如,大部分中间件都具备这样一个价值:


为了在软件系统的迭代过程中,避免将精力过多地花费在某个子功能下众多差异不大的选项中。


在现实中,这点更多时候出现在技术层面的中间件里,比如,数据库访问框架的作用是为了标准化操作不同数据库的差异,使得上层应用程序不用纠结于该怎么与 mysql 交互或者该怎么与 SQL SERVER 交互。因为与业务相比,技术层面“稳定”多了,所以做标准化更有价值,更能获得长期收益。但“稳定”是相对的,哪怕单纯在业务层面也存在相对稳定的部分。


比如,你可以想象一下“盛饭”的场景,在大多数情况下其中相对稳定的是什么,不稳定的是什么。想完之后看下面的示例。


...基类:人 继承基类的子类:男人、女人
基类:碗 继承基类的子类:大碗、小碗、汤碗
基类:勺子 继承基类的子类:铁勺、陶瓷勺、塑料勺
function 盛饭(参数 人,参数 碗,参数 勺子){ do 人拿起碗 do 人拿起勺子 do 人用勺子舀起饭 do 人把勺子放到碗的上方并倒下
} ...
复制代码


从这个示例里我们发现,不稳定的部分都已经成为变量了,那么剩下的这个方法体起到的作用和前面提到的中间件是一样的,它标准化,标准化了盛饭的过程。所以识别相对稳定的部分是什么,如何把它们提炼出来,并且围绕这些点进行标准化,才是我们需要掌握的能力。而锻炼这个能力和需要这个能力的地方同样并不局限于分布式系统。


列举这些现象只是想说,我们在认知一个分布式系统的时候,内在胜于表象,掌握一个扎实的理论基本功更重要。而且,这些训练场无处不在。


海市蜃楼般的“分布式系统”

我相信,自从进入移动时代以来,各种高大上的系统架构图越来越频繁地出现,你的眼前充斥着各种主流、非主流的眼花缭乱的技术框架。你不由得肃然起敬一番,心中呐喊着:“对,这就是我想去的地方,我想参与甚至实现一个这样牛逼的分布式系统,再也不想每天只是增删改查了。”


得不到的事物总是美好的,但往往我们也会过度地高估它的美好。与此类似,高大上的架构图背后呈现的系统的确也是一个成熟分布式系统的样貌,但我们要清楚一点:罗马不是一日建成的。


而且,“分布式”这个词只是意味着形态上是散列状的,而“一分为二”和“一分为 N”本质上并没有区别。所以,很多小项目或者大型项目的初期所搭配的基础套餐“单程序+单数据库”,同样可以理解为分布式系统,其中遇到的问题很多同样也存在于成熟的分布式系统中。


想象一下,下面的场景是否在“单程序+单数据库”项目中出现过?


  • log 记录执行成功,但是数据库的数据没发生变化;

  • 进程内的缓存数据更新了,但是数据库更新失败了。


这里我们停顿 30 秒,思考一下为什么会出现这些问题?


这里需要我们先思考一下“软件”是什么。 软件的本质是一套代码,而代码只是一段文字,除了提供文字所表述的信息之外,本身无法“动”起来。但是,想让它“动”起来,使其能够完成一件我们指定的事情,前提是需要一个宿主来给予它生命。这个宿主就是计算机,它可以让代码变成一连串可执行的“动作”,然后通过数据这个“燃料”的触发,“动”起来。这个持续的活动过程,又被描述为一个运行中的“进程”。


那么除了我们开发的系统是软件,数据库也是软件,前者负责运算,后者负责存储运算后的结果(也可称为“状态”),分工协作。


所以,“单程序+单数据库”为什么也是分布式系统这个问题就很明白了。因为我们所编写的程序运行时所在的进程,和程序中使用到的数据库所在的进程,并不是同一个。也因此导致了,让这两个进程(系统)完成各自的部分,而后最终完成一件完整的事,变得不再像由单个个体独自完成这件事那么简单。这就如“两人三足”游戏一样,如何尽可能地让外部看起来像是一个整体、自然地前进。


所以,我们可以这么理解,涉及多个进程协作才能提供一个完整功能的系统就是“分布式系统”。


那么再回到上面举例的两个场景,我们在思考“单程序+单数据库”项目中遇到的这些问题背后的原因和解决它的过程时,与我们在一个成熟的分布式系统中的遭遇是一样的,例如数据一致性。当然,这只是分布式系统核心概念的冰山一角。


维基百科对“分布式系统”的宏观定义是这样的:


分布式系统是一种其组件位于不同的联网计算机上的系统,然后通过互相传递消息来进行通信和协调。为了达到共同的目标,这些组件会相互作用。


我们可以再以大小关系来解释它:把需要进行大量计算的工程数据分割成小块,由多台计算机分别计算,然后将结果统一合并得出数据结论的科学。这本质上就是“分治”。而“单程序+单数据库”组合的系统也包含了至少两个进程,“麻雀虽小五脏俱全”,这也是“分布式系统”。


总结

现在,我们搞清楚了,看待一个分布式系统的时候,内在胜于表象。以及,只要涉及多个进程协作才能提供一个完整功能的系统就是分布式系统”。


我相信还有很多其他景象出现你的脑海中,但这大多数都是分布式系统的本质产生的“化学反应”,进而形成的结果。如果停留在这些表象上,那么我们最终将无法寻找到“分布式系统”的本质,也就无法得到真正的“道”,更不会真正具备驾驭这些形态各异的“分布式系统”的能力。


所以,希望你在学习分布式系统的时候,不要因追逐“术”而丢了“道”。没有“道”只有“术”是空壳,最终会走火入魔,学得越多,会越混乱,到处都是矛盾和疑惑。


因此,我们这个系列除了教给你在具体场景下的最佳实践,还会和你讲解为什么这样做,以及该如何去权衡不同方案。不会过多的讲述具体的技术框架,大部分内容围绕理论展开,欲使每个人能够掌握好这些分布式中的基础理论和思路,修炼好自己的内功。


我将在后续的文章中,以一个项目的初期到成熟期作为路线图,带领你循序渐进地深入到分布式系统中,层层递进地去剥开它的本质,并且围绕这个本质去思考(是什么问题,有哪些方式可以解决,什么时候该用何种种方式等等),让你知其然且知其所以然,形成一套完整的知识体系,完成核心“骨架”的塑造。而在此之后,你自己在课外学习时,就可以去填充“血肉”部分,逐渐丰满自己。未来,大家的区别就在于胖一点和瘦一点,但只要能很好地完成工作,胖瘦又有何影响?


最后,你心目中的分布式系统是怎么样的一个“外形”呢?欢迎在评论区留言一起讨论。




关于作者:


张帆(Zachary),7 年电商行业经验,5 年开发团队管理经验,4 年互联网架构经验。目前任职于上海可得网络科技(集团)首席架构师。专注大型系统架构、分布式系统。


2018 年 11 月 13 日 16:533802

评论 3 条评论

发布
用户头像
讲的真的好,一下子对这些概念清晰了很多
2018 年 11 月 19 日 14:00
回复
用户头像
看了您的文章,颇有感触。目前工作两年,在现在的互联网形势下,分布式,高并发,大数据,cloud,mq,越来越多的技术及相关名词不断涌现,彷佛武林秘籍横空出世,得之修炼便可跨入一流高手行业。我读书时很认同一句话,技术如果不能服务于业务,都是假的。所以我格外关注于什么技术方案解决了什么样的问题,为什么这样做。希望接下来能从您这里学到更多。
2018 年 11 月 14 日 14:22
回复
用户头像
写的挺好的,怎么分享到朋友圈呀,这个功能好像还没有
2018 年 11 月 14 日 10:46
回复
没有更多了
发现更多内容

过节 劝你少喝酒(一)

三号无名指

聊聊金钱

熊斌

2月春节不断更

前端冲刺必备指南-this/call/apply/bind(万字长文)

魔王哪吒

学习 程序员 面试 前端 2月春节不断更

微信限量纪念版code封面来啦,速看领取方式

孙叫兽

视频号 2月春节不断更 孙叫兽 微信红包封面 纪念版

Elasticsearch 分词器

escray

elastic 七日更 死磕Elasticsearch 60天通过Elastic认证考试 2月春节不断更

Elasticsearch query string 分词

escray

elastic 七日更 死磕Elasticsearch 60天通过Elastic认证考试 2月春节不断更

备战春招/秋招,开源社区系统 Echo,基于目前主流 Java Web 技术栈,并提供详细的开发文档和配套教程

飞天小牛肉

Java 开源 后端 springboot 2月春节不断更

【LeetCode】杨辉三角Java题解

HQ数字卡

算法 LeetCode 2月春节不断更

并发编程系列:阻塞队列的实现原理

程序员架构进阶

jdk 阻塞队列 七日更 28天写作 2月春节不断更

【LeetCode】找到所有数组中消失的数字Java题解

HQ数字卡

算法 LeetCode 2月春节不断更

程序员成长第六篇:如何选择公司?

石云升

职业发展 2月春节不断更 选择公司

7. ✎会查新华字典不?会。Python字典已经掌握了

梦想橡皮擦

Python 爬虫 2月春节不断更 python入门

翻译:《实用的Python编程》01_02_Hello_world

codists

Python

职场心得

时间是一个人最好的证明

职场

这段时间学习机器学习的感受

Nydia

前端冲刺必备指南-HTTP/HTTPS/HTTP2/DNS/TCP/经典题

魔王哪吒

学习 程序员 面试 前端 2月春节不断更

GitHub 上的优质 Linux 开源项目,真滴牛逼!

JackTian

GitHub Linux 开源项目 运维工程师 2月春节不断更

定投,积沙成塔的财富增长方式

boshi

理财 七日更

LeetCode 数据库刷题 - 596. 超过5名学生的课

小马哥

七日更 二月春节不断更

一个人的春节,也要过得开心

程序员架构进阶

个人感悟 七日更 2月春节不断更

为您收录的操作系统系列 - 进程管理(加餐)

Arvin

线程 进程 同步 生产者与消费者

12周架构

FreeOcean

hadoop mapreduce YARN

日记 2021年2月12日(周五)

Changing Lin

2月春节不断更

8. ㊙ Python 集合三板斧,滚雪球学 Python

梦想橡皮擦

Python 2月春节不断更 python入门

手摸手Go 深入剖析sync.Pool

Leo叔叔

go Go Concurrency Patterns sync.pool

【STM32】stm32f407 + DS18B20 碰出不一样的火花

AXYZdong

硬件 stm32 2月春节不断更

Ray 1.0 架构解读

lipi

分布式计算 Apache Arrow ray

走进 Tokio 的异步世界

lipi

rust 异步 tokio

Python优化机制:常量折叠

Python猫

Python

第四周作业

Ashley.

第四周笔记

Ashley.

技术为帆,纵横四海- Lazada技术东南亚探索和成长之旅

技术为帆,纵横四海- Lazada技术东南亚探索和成长之旅

拨云见日看什么是分布式系统?-InfoQ