2天时间,聊今年最热的 Agent、上下文工程、AI 产品创新等话题。2025 年最后一场~ 了解详情
写点什么

Amazon 发布 AWS Batch 预览版

  • 2016-12-12
  • 本文字数:1209 字

    阅读完需:约 4 分钟

在最近的 AWS Re:Invent 大会上,Amazon发布了 AWS Batch 的预览版。通过 AWS Batch,用户可以对他们云端的调度服务和工作负载进行优化。Amazon 推出这项服务是为了满足大量 AWS 客户的需求,他们基于 EC2 实例、容器和 CloudWatch 建立他们自己的批处理平台。

批次和作业调度器并不是什么新的模式。一直以来,调度器都是运行在固定的本地基础设施集群上。人们要么过度构建基础设施,不能物尽其用,要么基础设施构建不足,造成机会的流失,这些都是不可避免的。AWS 首席布道师 Jeff Barr看到了基于云平台构建现代化调度平台的机会:

我们相信云计算可以让批处理计算模型变得更好,让它可以更快地访问更多不同类型的 EC2 实例,可以根据具体需求弹性地伸缩,并带来新的计费模型,这个计费模型根据实际处理能力来计费,经济实惠。

AWS Batch 不需要在服务器端安装任何东西,而且可以动态分配计算资源,它可以加入 Amazon Spot 实例,这样就可以抢占 Amazon EC2 空闲的计算资源。AWS Batch 服务还提供了作业优先级和依赖管理特性。Amazon 希望客户可以把精力集中在业务需求上,让 AWS Batch 来处理剩下的事情。

在 AWS re:Invent 大会的“ AWS Batch:在 AWS 上运行简单高效的批处理计算”讨论环节,AWS 首席产品经理 Jamie Kinney 介绍了有关 AWS Batch 的几个概念:

  • Jobs是作业单元,它们被提交到 Job Queues,并按照优先级排序,一直待在队列里直到有计算资源来执行它们。
  • Job Definitions指定如何执行 Jobs。每个作业都需要引用一个 Job Definition,Job Definition 的参数可以被覆盖,包括 vCPU、内存、挂载点和容器属性。
  • Job Queues用来保存 Jobs,直到它们被执行。Jobs 会等待它们所依赖的 Jobs 执行完毕,或者等待分配系统资源。
  • Compute Environments包括托管和非托管两种环境。在托管环境里,你可以提出业务需求(比如实例类型、对 vCPU 的需求量,等等),AWS 将会为你启动和扩展资源。而在非托管环境里,你可以启动和管理自己的资源,比如容器。
  • Scheduler对已提交到 Job Queue 的 Jobs 进行评估,评估它们在何时、何处以及如何被执行。Jobs 几乎是按照它们提交的顺序来执行的,只要它们所依赖的条件得到满足。

Amazon 提供了 AWS Batch 适用性指南。对于需要大量传递数据的场景,比如ETL 或大数据处理,Amazon 建议客户使用EMR、数据管道、Redshift 或其它相关的数据处理工具。而对于存在很多小型调度作业的场景,可以使用AWS,不过Kinney认为客户“需要一个工作流或作业调度系统来管理这些作业。”

Kinney认为 AWS Batch 就是一个理想的工具,它特别适用于

那些在异构计算机上运行大量大大小小计算任务的客户。

AWS Batch 目前还处在预览版阶段,只在美国东部(弗吉尼亚北部)地区可用。等到服务的可用性达到通用标准,就会在其它地区开放。根据 AWS Batch 的路线图,AWS Batch 将在后期支持作业数组,并且可以使用 AWS Lambda 来执行作业。

查看英文原文: Amazon Introduces AWS Batch Preview

2016-12-12 18:001894
用户头像

发布了 322 篇内容, 共 157.4 次阅读, 收获喜欢 148 次。

关注

评论

发布
暂无评论
发现更多内容

​ 如何保护IP并预防IP泄露

客制化:定制专属于你的产品和服务

石云升

产品 用户 职场经验 5月日更

为什么人类学家比经济学家对比特币更感兴趣

CECBC

GitLab Webhooks 使用

夏兮。

gitlab jenkins CI/CD WEBHOOKS

姚翔:递归零知识证明,如何打造简洁的区块链?

CECBC

区块链

必看:Kubernetes 开发环境对比

百度开发者中心

Kubernetes #技术课程#

网络攻防学习笔记 Day11

穿过生命散发芬芳

5月日更 网络攻防

跟着华为大佬学习—Java亿级高并发,第一天

Java架构师迁哥

iOS 开发:第三方开源库(Swift版)

迪安

移动开发 Framework iOS Developer Open Source

零基础学习NLP-DAY2

Qien Z.

nlp 5月日更

你认识镜子里的那个自己吗?

小天同学

原则 认知 5月日更

微软为什么要对jdk下手?阿里对JDK的理解又是什么样的?

Java架构师迁哥

【图片旋转】十五分钟挑战鸿蒙Codelab组件

liuzhen007

鸿蒙 5月日更

这个云原生开发的痛点你遇到了吗?

阿里巴巴中间件

Spring Cloud Alibaba 生态学习

风翱

spring cloud alibaba 5月日更

吐槽对象

顿晓

对象 5月日更

⚓【Java知识晚餐】精心准备的JVM分析工具⚓

码界西柚

Java JVM 5月日更 JVM分析工具

自主品牌实力认可!浪潮云洲亮相2021年中国品牌日

云计算

MySQL 到 ClickHouse 的高速公路

青云技术社区

MySQL 数据库 Clickhouse

技术笔记(语音识别-语音噪声分类)

攻城先森

噪声 5月日更 技术笔记

由高频护网设备漏洞引发的供应链浅思

Thrash

安全

​ 备份测试:备份为什么如此重要

SaaS的前世、今生与未来 [上篇]

LigaAI

SaaS

新场景+新模式,西安雁塔区打造数字人民币示范区

CECBC

防治肥胖,AI转向

脑极体

浅析以太坊网络状态平台架构及WebSocket

devpoint

区块链 以太坊 websocket

快速搭建接口自动化测试框架

夏兮。

Java JUnit 接口测试 rest-assured

「技术人生」专题第1篇:什么是技术一号位?

阿里巴巴中间件

传统BI如何转大数据数仓

数据社

大数据 BI 5月日更

全新 EMQ X Cloud:升配、降费、增效,助力企业智能化升级

DT极客

70%读写性能提升!基于UCloud对象存储US3的用户态文件系统设计

UCloud技术

对象存储

Amazon发布AWS Batch预览版_亚马逊云科技_Kent Weare_InfoQ精选文章