写点什么

分布式系统发展史

  • 2018-07-22
  • 本文字数:2646 字

    阅读完需:约 9 分钟

AI 大模型超全落地场景&金融应用实践,8 月 16 - 19 日 FCon x AICon 大会联诀来袭、干货翻倍!

分布式系统(确切地说应该是分布式计算机系统)从它诞生到现在已经过去了很长的时间。在很久以前,一台电脑一次只能完成一项特定的任务。如果我们需要同时完成多项任务,则需要多台计算机并行运行。但是,并行运行并不足以构建真正的分布式系统,因为它需要一种机制来在不同计算机或者那些运行在计算机上的程序之间进行通信。这种在多台计算机之间交换 / 共享数据的需求催生了面向消息通信的想法,即两台计算机使用包含了数据的消息来共享数据。文件共享、数据库共享等其他机制当时还没有出现。



图片来源: https://dzone.com/articles/building-integration-solutions-a-rethink

接着,我们进入了多任务操作系统和个人电脑的时代。利用 Windows、Unix、Linux 等操作系统,我们可以在同一台计算机上运行多个任务。这使得分布式系统开发人员能够在一台或者几台通过消息传递连接的计算机内构建和运行整个分布式系统。这催生了面向服务的架构(SOA),其中每个分布式系统可以通过一组集成在一台计算机或多台计算机上运行的服务来构建。我们通过 WSDL(用于 SOAP 协议)或 WADL(用于 REST 协议)等语言适当地定义服务接口。接着,服务的使用者将利用这些接口来进行客户端的实现。



图片来源: https://www.akuaroworld.com/telecom-oss-new-network-architecture/soa-model/

随着计算能力和存储价格的降低,世界各地的组织都开始使用分布式系统和基于 SOA 的企业 IT 系统。但是,一旦服务或系统的数量增加,这些服务之间的点到点连接就不再是可扩展和可维护的了。这催生了集中式“服务总线”概念的产生。服务总线通过类似集线器的架构将所有系统连接在一起。这个组件被称为 ESB(企业服务总线)。它作为一个“语言”翻译者,就像一个中间人在帮助一群使用不同“语言”但希望相互通信的人进行沟通。在企业应用中,“语言”代表着在通信时不同系统的消息传递协议和消息格式。



图片来源: http: //ibmwebsphereenterpriseservicebus.blogspot.com/2015/09/enterprise-requirements-for-esb.html

这种模式工作得很好,即使在今天也能正常工作。随着万维网的普及和模型的简化,基于 REST 的通信比基于 SOAP 的通信模型变得更加流行。这促进了基于应用程序编程接口(API)的 REST 模型通信的发展。由于 REST 模型的简洁特性,我们需要在标准 REST API 实现之上实现安全(身份验证和授权)、缓存、流控和监控等各种类型的功能。但我们并不想独立地在每个 API 上实现这些功能,而是需要一个公共组件将这些功能应用于这些 API 之上。这样的需求催生了 API 管理平台的发展。现在,它已经成为了任何分布式系统的核心功能之一。



图片来源: https: //www.infoq.com/presentations/api-management-architecture

随后,我们见证了分布式系统大爆炸的时代。Facebook、Google、Amazon、Netflix、LinkedIn、Twitter 等互联网公司变得异常庞大。他们开始想要构建跨越多个地理区域和多个数据中心的分布式系统。这样的需求使他们的技术焦点转向了一切开始的地方。工程师们开始思考单台计算机和单个程序的概念。他们不再把一台计算机当作一台计算机来看,而在同一台计算机内创建多台虚拟计算机。这催生了关于虚拟机的想法,即同一台计算机可以充当多台计算机并且全部并行运行。尽管这是一个还不错的主意,但在宿主计算机的资源利用方面,这并不是最好的选择。运行多个操作系统需要更多的资源,但在同一个操作系统里运行多个程序并不需要这些资源。

这些问题最终催生了关于容器技术的想法。容器只使用一个宿主操作系统(Linux)的内核,就可以运行多个程序并分别依赖于相互独立的运行时。这个概念在 Linux 操作系统上已经有一段时间了。随着基于容器技术的应用程序部署的普及,它变得更加流行并且有了很多改进和提升。容器可以像虚拟机一样工作,却不需要多一个操作系统的开销。您可以将应用程序和所有相关的依赖项放入容器镜像中。它便可以被放在任何可以运行容器的宿主操作系统中运行。Docker 和 Rocket 是两个热门的容器构建平台。



图片来源: https: //techglimpse.com/docker-installation-tutorial-centos/

容器技术为 Netflix、LinkedIn 和 Twitter 等组织提供了底层框架,用于构建他们要求苛刻的永远在线的多区域、多数据中心应用平台。但这并不意味着利用容器技术没有任何难点。基于容器的部署带来的轻量特性让跨多个容器的平台维护和编排变得非常复杂。随着微服务架构(MSA)的出现,单体式应用程序被分成更小块的微服务。这些微服务能够完成整个服务里的某一个特定功能并部署在容器中(在大多数情况下都可以)。这给分布式系统生态系统带来了一系列新的需求。要让系统最终保持一致,并且彼此之间没有太多复杂的通信。



图片来源: https: //martinfowler.com/articles/microservices.html

这些新的需求最终帮助工程师们构建了一个容器编排系统。该系统可用于维护更大规模的容器部署的一致性。毋庸置疑的是,这个领域的顶尖技术来自 Google。因为它们的规模非常大。他们构建了名为“Kubernetes”(又名 k8s)的容器编排平台,并成为大规模容器编排需求的事实标准。k8s 让工程师可以:

  • 在大型集群中运行容器
  • 将数据中心视为一台计算机
  • 控制服务之间的通信(在容器上运行)
  • 动态伸缩与为多个服务进行负载均衡

Kubernetes 和 Docker 让应用程序员的生活更加轻松。他们不用再考虑他们的应用在不同的环境(操作系统、开发环境、测试环境、生产环境等)下的不同表现。他构建的容器镜像在所有环境中运行表现几乎完全相同,因为所有依赖项都被打包到镜像中了。



图片来源: https: //redmondmag.com/articles/2017/08/01/container-orchestration-with-kubernetes.aspx

但是,尽管我们有了容器和编排框架,我们仍然需要一个管理这些服务器的团队。这意味着数据中心需要使用像 Docker 和 Kubernetes 这样的技术进行管理,以确保它对于应用程序来说就像一个单台计算机一样。如果不是你自己来做这些事情,而是别人来为你管理这部分工作,这正是 serverless 架构所带来的便利。您的服务器将由第三方云提供商(如 Amazon(Lambda),Microsoft(Azure Functions)或 Google(Cloud Functions))进行管理。现在,分布式系统将由应用程序员进行编程,而基础设施管理将由云提供商完成。这是分布式系统发展的最新状态,并且会不断地发展下去。

查看英文原文: https://medium.com/@chanakaudaya/the-evolution-of-distributed-systems-fec4d35beffd

感谢张婵对本文的审校。

2018-07-22 18:234896

评论 1 条评论

发布
用户头像
原文写的很好,基本从需求与技术的发展方面描述了分布式技术的发展,数据分享的需求,早期的数据分享模型,SOA模式,MSA模型。
2021-11-14 23:16
回复
没有更多了
发现更多内容

python数据分析-pandas增删改查

AIWeker

Python Python数据分析 11月月更

统一移动办公门户,满足政企高效安全协作需求

WorkPlus

华为云会议AI智能降噪3.0,可抑制200种噪声!

科技之光

一发一存一消费,跟着p8大佬深入学习Java中间件技术及其应用开发

钟奕礼

Java 程序员 java面试 java编程

明道云Sales Playbook开源版正式发布

明道云

第四章TCP/IP网络层设备路由器

初学者

网络 11月月更

【Python 基础学习】-数据类型

度假的小鱼

11月月更 Python数字类型

Linux 文件与目录管理

芯动大师

创建资源文件 11月月更 Linux系统指令

高效、安全,华为云会议开启云上办公新天地

IT科技苏辞

Spring Data JPA简介与SpringBoot整合超详细教学

陈老老老板

Spring JPA 11月月更

华为云桌面Workspace,不得不爱的移动办公新体验

爱科技的水月

普惠联接,让人类诗意地栖居在大地上

脑极体

湖仓一体电商项目(十二):编写写入DM层业务代码

Lansonli

湖仓一体电商项目 11月月更

支持向量机-探索核函数的优势和缺陷

烧灯续昼2002

Python 机器学习 算法 sklearn 11月月更

@Valid与@Validated的区别

陈老老老板

java; 11月月更

第五章TCP/IP 网络在我们身边

初学者

网络 11月月更

后台管理不可忽视,华为云会议最新支持管理员分权分域

秃头也爱科技

高标准企业级安全性,华为云会议为线上沟通保驾护航

爱科技的水月

【Python 基础学习】-流程控制

度假的小鱼

11月月更 Python流程控制

【Python 基础学习】-字符串

度假的小鱼

11月月更 Python字符串操作

有了 Protocol buffer 还是用 JSON

HoneyMoose

2022-11-25:连续出现的数字。编写一个 SQL 查询,查找所有至少连续出现三次的数字。 答案是输出1,原因是1是唯一连续出现三次的数字。 DROP TABLE IF EXISTS logs;

福大大架构师每日一题

数据库 福大大

C++---类型萃取---is_integral && is_floating_point

桑榆

C++ STL 11月月更

第三章热备份路由选择协议(HSRP)

初学者

网络 11月月更

WorkPlus即时通讯APP,提供智能化、多场景的IM系统解决方案

WorkPlus

JPQL超详细介绍与JPA命名规则

陈老老老板

Spring JPA 11月月更

线上沟通无忧,华为云会议SmartRoom了解一下

清欢科技

几类主流的虚拟化技术

穿过生命散发芬芳

虚拟化技术 11月月更

云上办公兴起,华为云桌面Workspace更靠谱

IT科技苏辞

一文了解 Go 中的指针和结构体

陈明勇

Go golang 指针 结构体 11月月更

远程触发Jenkins的Pipeline任务

程序员欣宸

jenkins 11月月更 pipiline

分布式系统发展史_架构_Chanaka Fernando_InfoQ精选文章