写点什么

Dropbox 的服务器和网络自动化运维实践

  • 2019-01-29
  • 本文字数:1087 字

    阅读完需:约 4 分钟

Dropbox的服务器和网络自动化运维实践

Dropbox 的工程团队写了一篇有关他们的网络和服务器配置和验证自动化工具 Pirlo 的文章。Pirlo 提供了一种可插拔架构,基于 MySQL 实现了一种自定义作业队列。


Dropbox 有自己的数据中心。Pirlo 工具由 TOR(机架顶部)交换机初始化程序、服务器配置程序和验证程序组成。它作为工作进程运行在一个通用的分布式作业队列上,这个队列基于 MySQL,提供了可用于跟踪运行作业进度和可视化历史数据的 UI。Pirlo 使用了可插拔模块,为每个阶段提供了大量日志记录,用于调试和分析自动化运行。Dropbox 有一个 NRE(网络可靠性工程)团队,负责构建、自动化和监控生产环境的网络。Dropbox 的大多数代码都是用 Python 编写的,不过目前还不清楚 Pirlo 是否也是用 Python 编写的。


交换机和服务器配置程序都使用了作业队列,它们的工作流程都很相似,队列管理器选择正确的作业处理程序来处理来自客户端的请求。作业处理程序运行已注册的插件,这些插件负责执行实际的检查和命令。插件执行特定的作业,发出状态码,并将状态发布到数据库日志。这是大多数作业队列的运行方式,因此很自然地就会有人问为什么这个团队没有选择像 Celery 这样的现有队列解决方案。文章的作者解释说:


我们不需要整个功能集,也不想要第三方工具的复杂性。内部原语为我们提供了更大的设计灵活性,一小组 SRE 就足以开发和运营 Pirlo 服务。


当收到客户端请求时,交换机配置器(叫作 TOR 启动器)就会启动。TOR 交换机是网络设计的一部分,机架上的服务器设备与同一机架上的网络交换机相连,网络交换机通常位于顶部。它尝试通过 gRPC 使用服务发现找到健康的服务器,然后队列管理器为该作业选择一个作业处理程序。交换机验证和配置是一个多步骤过程,从建立基本的连接开始。随后会执行各个插件,最终下载交换机配置并重启。


服务器配置和验证过程类似。我们使用 Debirf 创建的操作系统镜像启动验证器,这个操作系统镜像可以创建基于 RAM 的文件系统,完全从内存运行 Debian 系统。它的绰号叫 Hotdog,一个基于 Ubuntu 的镜像,可以通过网络启动并运行验证、基准测试和压力测试。测试结果被推送到数据库,并用于后续的分析。测试过程包括根据硬件工程团队批准的预定义配置列表验证各种硬件和固件组件。修好的机器在重新投入生产之前也需要经过这个测试套件的测试。


Pirlo 的 UI 显示了当前正在运行和已完成的作业的进度。Dropbox 曾经使用 playbooks(或 runbooks)来执行配置。其他一些工程团队运行自己的数据中心,他们也已经从基于 runbook 的配置转向零接触配置(ZTP),尽管使用了不同的方法。


查看英文原文:


https://www.infoq.com/news/2019/01/dropbox-datacenter-automation


2019-01-29 11:005323
用户头像

发布了 731 篇内容, 共 474.7 次阅读, 收获喜欢 2008 次。

关注

评论

发布
暂无评论
发现更多内容

半小时速通Python爬虫!GitHub开源的Python爬虫入门教程

我再BUG界嘎嘎乱杀

Python 爬虫 入门 开发语言 零基础

数字化时代的数据管理:多样化数据库选型指南

京东科技开发者

一文读懂!10款办公必备的AI合成PPT软件盘点!

彭宏豪95

人工智能 在线白板 办公软件 AIGC AI生成PPT

Python中的7种基础数据类型,看这4500字就够了!

我再BUG界嘎嘎乱杀

Python 后端 基础 数据类型 开发语言

企业智能之路(2): 着手进行企业智能的技术准备和实践

亚马逊云科技 (Amazon Web Services)

亚马逊云科技 生成式AI

2024第二届服务韧性工程(SRE)论坛分会场“人工智能驱动运维研发革命”成功举办

雅菲奥朗

人工智能 运维 大模型

服务韧性工程(SRE)论坛演讲实录 | 北京移动:云时代的多维协同智慧运维体系建设

雅菲奥朗

运维 SRE

[外企工程师经验]softwere engineering common issue and best practice

极客罗杰

使用mybatis切片实现数据权限控制

京东科技开发者

超全!GitHub星标6500的Python入门教程大全,太强了!

我再BUG界嘎嘎乱杀

Python 后端 入门 开发语言 零基础

企业智能之旅(1): 建立智能企业的战略蓝图并付诸行动

亚马逊云科技 (Amazon Web Services)

亚马逊云科技 生成式AI

2024第二届服务韧性工程(SRE)论坛分会场“SRE助力出海企业构建健壮的IT生态系统”成功举办

雅菲奥朗

人工智能 运维 SRE 混沌工程 运维开发

前后端数据传输约定探讨

京东科技开发者

PostgreSQL 如何解决数据迁移过程中的数据类型不匹配问题?

程序员墨松

数据库 postgresql

2024年第二届服务韧性工程(SRE)论坛成功举办

雅菲奥朗

人工智能 大数据 运维 SRE 运维开发

融云入驻首个数字生态出海基地,加速构建数字经济出海创新生态

融云 RongCloud

Dropbox的服务器和网络自动化运维实践_服务革新_Hrishikesh Barua_InfoQ精选文章