最新发布《数智时代的AI人才粮仓模型解读白皮书(2024版)》,立即领取! 了解详情
写点什么

分布式系统发展史

  • 2018-07-22
  • 本文字数:2646 字

    阅读完需:约 9 分钟

分布式系统(确切地说应该是分布式计算机系统)从它诞生到现在已经过去了很长的时间。在很久以前,一台电脑一次只能完成一项特定的任务。如果我们需要同时完成多项任务,则需要多台计算机并行运行。但是,并行运行并不足以构建真正的分布式系统,因为它需要一种机制来在不同计算机或者那些运行在计算机上的程序之间进行通信。这种在多台计算机之间交换 / 共享数据的需求催生了面向消息通信的想法,即两台计算机使用包含了数据的消息来共享数据。文件共享、数据库共享等其他机制当时还没有出现。



图片来源: https://dzone.com/articles/building-integration-solutions-a-rethink

接着,我们进入了多任务操作系统和个人电脑的时代。利用 Windows、Unix、Linux 等操作系统,我们可以在同一台计算机上运行多个任务。这使得分布式系统开发人员能够在一台或者几台通过消息传递连接的计算机内构建和运行整个分布式系统。这催生了面向服务的架构(SOA),其中每个分布式系统可以通过一组集成在一台计算机或多台计算机上运行的服务来构建。我们通过 WSDL(用于 SOAP 协议)或 WADL(用于 REST 协议)等语言适当地定义服务接口。接着,服务的使用者将利用这些接口来进行客户端的实现。



图片来源: https://www.akuaroworld.com/telecom-oss-new-network-architecture/soa-model/

随着计算能力和存储价格的降低,世界各地的组织都开始使用分布式系统和基于 SOA 的企业 IT 系统。但是,一旦服务或系统的数量增加,这些服务之间的点到点连接就不再是可扩展和可维护的了。这催生了集中式“服务总线”概念的产生。服务总线通过类似集线器的架构将所有系统连接在一起。这个组件被称为 ESB(企业服务总线)。它作为一个“语言”翻译者,就像一个中间人在帮助一群使用不同“语言”但希望相互通信的人进行沟通。在企业应用中,“语言”代表着在通信时不同系统的消息传递协议和消息格式。



图片来源: http: //ibmwebsphereenterpriseservicebus.blogspot.com/2015/09/enterprise-requirements-for-esb.html

这种模式工作得很好,即使在今天也能正常工作。随着万维网的普及和模型的简化,基于 REST 的通信比基于 SOAP 的通信模型变得更加流行。这促进了基于应用程序编程接口(API)的 REST 模型通信的发展。由于 REST 模型的简洁特性,我们需要在标准 REST API 实现之上实现安全(身份验证和授权)、缓存、流控和监控等各种类型的功能。但我们并不想独立地在每个 API 上实现这些功能,而是需要一个公共组件将这些功能应用于这些 API 之上。这样的需求催生了 API 管理平台的发展。现在,它已经成为了任何分布式系统的核心功能之一。



图片来源: https: //www.infoq.com/presentations/api-management-architecture

随后,我们见证了分布式系统大爆炸的时代。Facebook、Google、Amazon、Netflix、LinkedIn、Twitter 等互联网公司变得异常庞大。他们开始想要构建跨越多个地理区域和多个数据中心的分布式系统。这样的需求使他们的技术焦点转向了一切开始的地方。工程师们开始思考单台计算机和单个程序的概念。他们不再把一台计算机当作一台计算机来看,而在同一台计算机内创建多台虚拟计算机。这催生了关于虚拟机的想法,即同一台计算机可以充当多台计算机并且全部并行运行。尽管这是一个还不错的主意,但在宿主计算机的资源利用方面,这并不是最好的选择。运行多个操作系统需要更多的资源,但在同一个操作系统里运行多个程序并不需要这些资源。

这些问题最终催生了关于容器技术的想法。容器只使用一个宿主操作系统(Linux)的内核,就可以运行多个程序并分别依赖于相互独立的运行时。这个概念在 Linux 操作系统上已经有一段时间了。随着基于容器技术的应用程序部署的普及,它变得更加流行并且有了很多改进和提升。容器可以像虚拟机一样工作,却不需要多一个操作系统的开销。您可以将应用程序和所有相关的依赖项放入容器镜像中。它便可以被放在任何可以运行容器的宿主操作系统中运行。Docker 和 Rocket 是两个热门的容器构建平台。



图片来源: https: //techglimpse.com/docker-installation-tutorial-centos/

容器技术为 Netflix、LinkedIn 和 Twitter 等组织提供了底层框架,用于构建他们要求苛刻的永远在线的多区域、多数据中心应用平台。但这并不意味着利用容器技术没有任何难点。基于容器的部署带来的轻量特性让跨多个容器的平台维护和编排变得非常复杂。随着微服务架构(MSA)的出现,单体式应用程序被分成更小块的微服务。这些微服务能够完成整个服务里的某一个特定功能并部署在容器中(在大多数情况下都可以)。这给分布式系统生态系统带来了一系列新的需求。要让系统最终保持一致,并且彼此之间没有太多复杂的通信。



图片来源: https: //martinfowler.com/articles/microservices.html

这些新的需求最终帮助工程师们构建了一个容器编排系统。该系统可用于维护更大规模的容器部署的一致性。毋庸置疑的是,这个领域的顶尖技术来自 Google。因为它们的规模非常大。他们构建了名为“Kubernetes”(又名 k8s)的容器编排平台,并成为大规模容器编排需求的事实标准。k8s 让工程师可以:

  • 在大型集群中运行容器
  • 将数据中心视为一台计算机
  • 控制服务之间的通信(在容器上运行)
  • 动态伸缩与为多个服务进行负载均衡

Kubernetes 和 Docker 让应用程序员的生活更加轻松。他们不用再考虑他们的应用在不同的环境(操作系统、开发环境、测试环境、生产环境等)下的不同表现。他构建的容器镜像在所有环境中运行表现几乎完全相同,因为所有依赖项都被打包到镜像中了。



图片来源: https: //redmondmag.com/articles/2017/08/01/container-orchestration-with-kubernetes.aspx

但是,尽管我们有了容器和编排框架,我们仍然需要一个管理这些服务器的团队。这意味着数据中心需要使用像 Docker 和 Kubernetes 这样的技术进行管理,以确保它对于应用程序来说就像一个单台计算机一样。如果不是你自己来做这些事情,而是别人来为你管理这部分工作,这正是 serverless 架构所带来的便利。您的服务器将由第三方云提供商(如 Amazon(Lambda),Microsoft(Azure Functions)或 Google(Cloud Functions))进行管理。现在,分布式系统将由应用程序员进行编程,而基础设施管理将由云提供商完成。这是分布式系统发展的最新状态,并且会不断地发展下去。

查看英文原文: https://medium.com/@chanakaudaya/the-evolution-of-distributed-systems-fec4d35beffd

感谢张婵对本文的审校。

2018-07-22 18:234725

评论 1 条评论

发布
用户头像
原文写的很好,基本从需求与技术的发展方面描述了分布式技术的发展,数据分享的需求,早期的数据分享模型,SOA模式,MSA模型。
2021-11-14 23:16
回复
没有更多了
发现更多内容

老板下了死命令,要把日志系统切换到Logback

沉默王二

Java logback 日志系统

【架构师训练营 1 期】第六周作业

诺乐

5G应用的实时决策

VoltDB

5G 物联网 工业互联网 技术分享

酷睿i5-10600KF对标锐龙7 3700X,游戏表现领先且售价更香

E科讯

进“大厂”的故事

北风

职业规划 职业成长 大厂

目标检测学习-比赛路线

Dreamer

【面经】面试官:讲讲类的加载、链接和初始化?

冰河

架构 JVM 类加载 优化 性能调试

元模型驱动(一)构建元模型ーGME入门

KaYa

DDD Kaya MDA GME MDD

给打工人熬一锅「毒」鸡汤

Java_若依框架教程

程序员 打工人 毒鸡汤

网络直播打赏背后的套路:刺激用户不理智消费

石头IT视角

美国半导体十年计划中的NO.1,模拟硬件究竟有什么价值?

脑极体

Java9新特性-上篇

hepingfly

Java Java新特性

Scrapy 源码剖析(二)Scrapy是如何运行起来的?

Kaito

Python 爬虫 Scrapy 源码剖析

Scrapy源码剖析(一)架构概览

Kaito

Python 爬虫 Scrapy 源码剖析

面试官:讲一下缓存穿透、缓存雪崩和缓存击穿?

bigsai

redis 缓存穿透 缓存击穿 缓存雪崩

1分钟教你如何整理 React 知识体系

Leo

学习 大前端 React

如何构建一个通用的垂直爬虫平台?

Kaito

Python 爬虫 代理

轻量型GPU应用首选 京东智联云推出NVIDIA vGPU实例

京东科技开发者

人工智能 gpu

如何搭建一个爬虫代理服务?

Kaito

爬虫 代理

Scrapy 源码剖析(四)Scrapy如何完成抓取任务?

Kaito

Python 爬虫 Scrapy 源码剖析

队列实现栈的3种方法,全都击败了100%的用户!

王磊

Java 算法和数据结构

TCP/IP 基础知识总结

cxuan

后端 计算机网络 计算机

为什么 React Hooks 优于 HOCs(译)

西贝

Java 翻译 React Hooks HOC

Redis还可以做哪些事?

Java旅途

redis

【架构师训练营 1 期】第六周学习总结

诺乐

Scrapy 源码剖析(三)Scrapy有哪些核心组件?

Kaito

Python 爬虫 Scrapy 源码剖析

元模型驱动(二)构建元模型ーGME构建分层模型

KaYa

DDD Kaya MDA GME MDD

java安全编码指南之:文件和共享目录的安全性

程序那些事

代码规范 java安全 java安全编码指南 java编码 程序那些事

训练营第二周作业

爱码士

训练营第二周课程总结

爱码士

训练营

接口测试(apipost、jmeter和python脚本)

测试人生路

Python 接口测试 测试工具

分布式系统发展史_架构_Chanaka Fernando_InfoQ精选文章