2天时间,聊今年最热的 Agent、上下文工程、AI 产品创新等话题。2025 年最后一场~ 了解详情
写点什么

Singularity:基于 Apache Mesos 构建的服务部署和作业调度平台

  • 2014-08-31
  • 本文字数:1149 字

    阅读完需:约 4 分钟

Singularity 是一个在云基础设施中部署和运行服务和计划作业的平台,同时也是 HubSpot PaaS 的核心组件。它能够高效地管理底层进程的生命周期,并有效地利用集群资源。它可以作为持续部署基础设施的基本组成部分,而且是微服务部署的理想选择。它不仅能够管理数以百计的服务器上运行着的数以千计的进程,而且还提供了如下开箱即用的特性:

  • 丰富的 REST API,既有用于部署的,也有用于获取活动部署和历史部署信息的;
  • Web 应用客户端(Singularity UI)使用上述 API 向用户提供所有可获得信息的友好视图;
  • 部署失败时自动回滚;
  • 服务本身或者服务器故障时自动实现服务的故障转移;
  • 自动暂停反复失败的服务;
  • 进程和服务端点级别的健康检查;
  • 多实例服务的负载均衡;
  • 日志循环和归档;
  • 针对每个服务实例的资源限制和资源隔离,并能杀死超过限制的实例;
  • “机架(Rack)”/ 可用区域识别。

Apache Mesos 的术语中,使用 Mesos API 在集群中调度任务的 Mesos 应用程序称为框架。Singularity 就是一个 Apache Mesos 框架,它作为一个任务调度器运行在 Mesos 集群之上,如下图所示:

从中可以看出,Singularity 在一个框架中融合了长期运行任务的调度功能和批处理作业的调度功能,可以支持开发人员需要每天部署的许多常见进程类型,包括:

  • Web 服务:长期运行的进程;
  • 工作进程:长期运行的进程,类似 Web 服务,但不暴露 API,比如 Queue Consumer 就是一种常见的工作进程类型;
  • 计划作业:周期性运行的任务;
  • 按需执行的进程:需要手动执行的进程。

Mesos 框架有两个主要组件:调度器组件和执行器组件,前者注册到 Mesos 主进程用于分配资源,后者由 Mesos 从属进程在集群从节点上启动并运行框架任务。Mesos 主进程决定为每个框架分配多少资源,框架调度器选取提供的部分资源用于运行所需的任务。Mesos 从属进程并不直接运行任务,而是委派给合适的执行器来运行。Singularity 实现了这两个基本的框架组件,并且还提供了日志查看器、S3 上传器、执行器清理、OOM 进程清除、Singularity UI、Singularity Java Client 等组件。

此外,借助请求对象和部署对象,Singularity 在 Mesos 任务之上提供了一个面向部署的层。其中,请求对象定义一个可部署项,而部署对象定义一个可部署项的执行参数。要想了解所有 Singularity 端点及相应请求和响应对象的完整描述,请查看 Singularity API 参考

最后,对 Singularity 感兴趣的读者可以查看针对测试开发的本地安装文档以及 Singularity 部署示例,以了解更多的细节。还有一点不得不提一下,就是 Singularity 的路线上图上有支持 Docker 容器部署一项。


感谢郭蕾对本文的审校。

给InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ )或者腾讯微博( @InfoQ )关注我们,并与我们的编辑和其他读者朋友交流。

2014-08-31 13:473266
用户头像

发布了 256 篇内容, 共 99.2 次阅读, 收获喜欢 12 次。

关注

评论

发布
暂无评论
发现更多内容

MySQL 和 PostgreSQL,我到底选择哪个?

源字节1号

小程序 开源 前端 后端

使用ETLCloud实现MySQL数据库与StarRocks数据库同步

谷云科技RestCloud

MySQL 数据库 数据同步 ETL 数据集成平台

“智星”科技人才招聘计划

智源研究院

基于Java+SpringBoot+vue+element课程作业管理系统设计实现

hunter_coder

后端开发

以电商、消费行业为例,详解火山引擎数智平台如何应用湖仓一体架构

字节跳动数据平台

数据库 大数据 数据湖 流批一体 数据引擎

手把手教你基于华为云鲲鹏弹性云服务器部署Node.js环境

华为云开发者联盟

node.js Linux 云服务 华为云开发者联盟 企业号2024年7月PK榜

TikTok快速起号技巧与云手机的运用

Ogcloud

云手机 海外云手机 tiktok云手机 云手机群控 云手机养号

京东商品搜索API(jd.item_search)返回值与营销策略

技术冰糖葫芦

API API 编排 API 文档 API 协议

基于Java+SpringBoot+vue+element图书个性化推荐系统设计实现

hunter_coder

后端开发

TinyVue v3.17.0 正式发布,推出了一款基于 Quill 2.0 的富文本编辑器,功能强大、开箱即用!

OpenTiny社区

Vue 前端 组件库 OpenTiny TinyVue

美团VS饿了么,到底谁更胜一筹?

王中阳Go

美团 面经 饿了么

云手机:实现多店铺多账号的运营

Ogcloud

云手机 海外云手机 云手机海外版 电商云手机 云手机群控

OpenAI 创始成员创办「AI+教育」公司;谷歌发布 Magic Insert:让人物完美融入新背景丨 RTE 开发者日报

声网

基于Java+SpringBoot+Vue大创管理系统设计和实现

hunter_coder

持续开拓创新 天翼云TeleDB数据库斩获数据库最佳产品奖

极客天地

无编码器多模态大模型EVE:原生多模态新方案

智源研究院

Singularity:基于Apache Mesos构建的服务部署和作业调度平台_开源_马德奎_InfoQ精选文章