10 月 23 - 25 日,QCon 上海站即将召开,现在购票,享9折优惠 了解详情
写点什么

使用 AWS Lambda 和 Amazon DynamoDB 自动管理 AWS CloudFormation 模板中的 Parameters 和 Mappings

  • 2019-11-15
  • 本文字数:1902 字

    阅读完需:约 6 分钟

使用AWS Lambda和Amazon DynamoDB自动管理AWS CloudFormation模板中的Parameters和Mappings

背景介绍

相信 AWS 的用户对 AWS CloudFormation 都不会陌生。AWS CloudFormation 是实现 IAC(Infrastructure as Code)自动化运维的一项重要服务,可以帮助用户对 AWS 资源进行建模和设置,以便能花较少的时间管理这些资源。CloudFormation 中有两个重要选项:Mappings 段和 Parameters 段,可以帮助用户组织模板里的参数和映射,让用户更好地自定义堆栈,以实现模板的重用和复用。比方说可以用 Mappings 管理对应 AWS 上不同 region 的 AMI ID,或者管理企业内部的不同部门。



但是当用户所在的组织越来越多地采用 IAC 自动化时,mappings 和 parameters 的数量也会急剧增长,给 CloudFormation 模板的编写和维护带来复杂度。

解决方案

本文里我们介绍一种方法:用当前流行的 Serverless 计算 AWS Lambda 和 Amazon DynamoDB 自动地管理 AWS CloudFormation 模板中的 Parameters 和 Mappings。


本文中主要用到了以下几种 AWS 服务:


1、DynamoDB 表:Amazon DynamoDB 是一个 NoSQL 数据库,这里我们采用它保存 CloudFormation 模板中所有的 mappings 和 parameters。不仅可以实现集中存放,而且可以依赖 DynamoDB 的接口实现方便快速地增删和查找。比方说在我们的 sample code 中,整个企业采用这样一张表:partition key 包括组名(比如说 team1、team2 等)和环境(比如说 development、test、production 等),sort key 保存应用的名字。这个表里的数据类似这样:



当我们把这些数据都 insert 到 DynamoDB 中后,可以在 AWS console 里看到表中的内容是这样的:



2、Lambda 方法:AWS Lambda 又称为 Serverless 的计算,通过它你可以运行你的 code 而不需要预配置或者管理任何服务器。这里我们采用 Lambda 方法实现 CloudFormation 和 DynamoDB 之间的关联,它从 CloudFormation 模板接收 primary key 和 sort key 作为输入,查找 DynamoDB 表,并且返回所有的 key-value 数据。


3、Custom lookup resource:这是 CloudFormation 里的一个自定义资源,与一个 Lambda 方法绑定。CloudFormation 除了可以定义已有的 AWS 资源,还支持几种自定义资源,包括这种以 Lambda 方法作为后端的自定义资源。当这种自定义资源创建、更新或者删除时,CloudFormation 自动地向 Lambda API 发起请求,引发方法并将请求的数据传给 Lambda 方法,本例中所请求的数据是 primary key,返回的数据是 key-value 数据。通常在一个组织中只需要建立这一个 custom resource,所有的 CloudFormation 模板都可以复用它。下图是 sample code 里建立的 custom resource:



让我们将这几种服务组合起来,并且定义好它们之间的交互顺序,整个解决方案就是下图展示的这样:



那么整个的交互顺序如下:


1、用户创建 DynamoDB 表,插入所需的 mappings 和 parameters 数据。


2、CloudFormation 模板中的 custom resource 调用 Lambda 方法,用组名和环境名称(“teamname-environment”)作为 partition key,用应用名称(”appname”)作为 sort key。


3、Lambda 方法用 partition key 和 sort key 作为输入查询 DynamoDB 表。


4、DyanamoDB 将结果返回给 Lambda 方法。


5、Lambda 方法将这些 key-value 数据作为结果返回给模板中的 custom resource。


6、custom resource 拿到数据后,堆栈里的其他资源可以通过 Fn::GetAtt 的方式获得这些数据。

结论

通过这种方式,可以将我们创建堆栈所需的固定部分保存在模板中,而将可变部分 mappings 和 parameters 保存在方便增删改查的 DynamoDB 中,用 Lambda 实现两者之间的关联。对于大型组织来说,这样可以提高运维效率,也是使用 CloudFormation 的一种最佳实践。

参考

可以在我们的网站上下载到相关的 sample code:https://github.com/awslabs/custom-lookup-lambda


关于 AWS Lambda 的更多内容请参考网站:https://aws.amazon.com/lambda/


关于 CloudFormation 自定义资源的更多内容请参考网站:http://docs.aws.amazon.com/AWSCloudFormation/latest/UserGuide/template-custom-resources.html


作者介绍



张芸


AWS 云架构咨询顾问,获得 AWS 解决方案架构师专业级认证和 DevOps 工程师专业级认证,为企业客户和合作伙伴提供迈向云端的专业服务。目前已为多家跨国公司及本土公司、合作伙伴提供上云迁移、应用优化、架构设计等咨询设计和实施服务。在加入 AWS 之前有近 10 年的云计算和大数据开源技术研究和开发经验,拥有多项美国和中国专利及专利申请,涉及云计算及服务,分布式系统,软件定义数据中心和自动化运维等领域,合作编著图书《大数据–战略·技术·实践》。


本文转载自 AWS 技术博客。


原文链接:


https://amazonaws-china.com/cn/blogs/china/automatically-manage-parameters-and-mappings/


2019-11-15 08:00952

评论

发布
暂无评论
发现更多内容

数百名专家政要出席阿联酋区块链大会“DCS 2021 ” 虎符受邀亮相

区块链前沿News

Hoo 虎符交易所 区块链峰会 DCS 2021 全球分布式云存储峰会

LevelDB封装和功能拓展

FunTester

数据库 测试框架 测试开发 leveldb FunTester

管控一体化 | IM即时通讯构建企业协同生态链

BeeWorks

十一月热点:BML预置模型调参添新利器;EasyDL图像分类上线免训练极速迭代模式

百度大脑

人工智能

网络安全产品之堡垒机应用于教育行业案例讲解

行云管家

网络安全 教育 等保 等级保护

Hybris commerce产品主数据的搜索API,批量返回若干主数据的值

汪子熙

28天写作 SAP 12月日更

重磅!博睿数据Go语言智能探针技术GoAgent国内首发

博睿数据

飞桨企业版重磅发布智能边缘控制台,5分钟零代码自动化模型部署

百度大脑

人工智能

Flink Sql Gateway的原理与实践

安第斯智能云

数据库 sql

压测大师链路监控服务开放免费体验预约

WeTest

2021年11月券商App行情刷新及交易体验评测报告

博睿数据

10个常见的前端手写功能,你全都会吗?

CRMEB

从直播硬件出发,浅析直播技术到物联网设备的智能化趋势

阿里云CloudImagine

阿里云 物联网 直播 直播技术 视频云

微服务架构 | 如何优化日志链路追踪输出SQL的执行效率?

李尚智

微服务架构 链路追踪 SpringCloud

MySQL从入门到入魔(01)

海拥(haiyong.site)

MySQL 入门 28天写作 12月日更

国内首次Feature Store Meetup回顾

第四范式开发者社区

机器学习 第四范式 OpenMLDB 特征平台

Android C++系列:Linux Socket编程(四)多路IO转接服务器

轻口味

28天写作 12月日更

为什么我不怎么用调试器

Justin

软件开发 28天写作 调试工具

今日谈:信道复用、PPP帧、ARP协议的有关知识

恒生LIGHT云社区

信道编码 ARP协议 PPP

CRM报告如何改变您的业务

低代码小观

低代码 企业管理 CRM 企业管理系统 CRM系统

CurveFS预览版重磅首发,Curve加速迈向云原生软件定义存储

网易数帆

GitHub

VUEX的store用法

CRMEB

使用 Nocalhost 开发 Kubernetes 中的 APISIX Ingress Controller

CODING DevOps

Kubernetes 云原生 APISIX Nocalhost Ingress Controller

1. 编译原理概览

书旅

Go 后端 编译原理 源码剖析

3个步骤,4大平台,搞定大规模数据处理

百度开发者中心

大数据

再下一城!两大社区携手打造 API 日志监控新利器

API7.ai 技术团队

云原生 网关 日志管理 Apache APISIX Apache RocketMQ

阿里云李克:边缘云技术发展与实践

阿里云Edge Plus

CDN 边缘计算 CDN加速

从4K到8K,谁才是开启8K时代的钥匙?

郑州埃文科技

数据库 IP 8k

前端布局中让子元素横向排列并自动换行

Changing Lin

Vue 前端开发 12月日更

什么是反序列化?反序列化的过程,原理

网络安全学海

黑客 网络安全 信息安全 渗透测试 反序列化

12月17日技术大咖云集,云智技术论坛“年度收官”聚焦知识智能化

百度大脑

人工智能

使用AWS Lambda和Amazon DynamoDB自动管理AWS CloudFormation模板中的Parameters和Mappings_语言 & 开发_亚马逊云科技 (Amazon Web Services)_InfoQ精选文章