【ArchSummit】如何通过AIOps推动可量化的业务价值增长和效率提升?>>> 了解详情
写点什么

基于 S3 的图片处理服务

  • 2019-11-11
  • 本文字数:3559 字

    阅读完需:约 12 分钟

基于S3的图片处理服务

作者:高寅敬 徐榆

1.背景介绍

随着移动互联网的快速发展,各种移动终端设备爆发式的增长,社交类 APP 或者电商网站为了提升访问速度、提高用户体验,必须根据客户端的不同性能,不同屏幕尺寸和分辨率提供适当尺寸的图片。这样一来开发者通常需要预先提供非常多种不同分辨率的图片组合,而这往往导致管理难度的提升和成本的增加。


在这篇博客中,我们将探讨一种基于 S3 的图片处理服务,客户端根据基于 HTTP URL API 请求实时生成不同分辨率的图片。

2.解决方案架构


为了保证图片服务的高可用,我们会把所有的图片(包括原图和缩率图)储存于 AWS 的对象储存服务 S3 中,把图片处理程序部署于 AWS EC2 中。大部分的图片请求都会直接由 AWS S3 返回,只有当 S3 中不存在所需缩率图时才会去请求部署于 EC2 上的图片处理服务来生成对应分辨率图片。


业务流程:


  1. 用户客户端(通常是浏览器或者 APP)发起请求 200×200 像素的图片

  2. S3 中未存在该尺寸缩率图,于是返回 HTTP 302 Redirect 到客户端

  3. 客户端根据 HTTP 302 响应,继续请求部署于 EC2 上的图片处理服务

  4. 部署于 EC2 的图片处理服务,会从 S3 获取源图

  5. 图片处理服务,根据请求参数生成对应尺寸图片缩率图

  6. 图片处理服务将对应的图片返回给客户端

  7. 图片处理服务把缩率图存回到 S3 中,加速下一次客户访问

3.架构特点

相较于预先生成所有所需分辨率图片和传统的基于独立图片处理服务器,这种新的处理方式包含以下优点:

更高的灵活性:

当我们的前端开发人员对界面进行改版时,时常会涉及到修改图片尺寸。对所有原始图片进行缩放的批处理是十分耗时,高成本且易出错的。利用这种基于 URL API 的实时处理方式,前端开发者指定新的尺寸后,立即就能生成符合客户访问新的网页和应用对应的图片,提高了前端开发人员的开发效率。

更低的储存成本:

对于传统图片处理方式,在未使用之前预先批量生成所需分辨率图片,占用大量的储存空间,而且利用率并不高。


以按需方式生成图片,能减少不必要的储存空间,降低储存成本。


相对于独立图片处理服务器把图片完全储存于 EC2 的 EBS 卷,储存于 S3 的成本也更低。


我们知道缩率图是属于可再生数据,所以我们在程序上 会把缩率图储存为 S3 的去冗余储存类型,再次降低约 13% 的存储成本。

更高的服务可用性:

我们可以看到,独立地部署单台图片服务器,无法支持大并发负载。同时存在单点故障 无法保证服务的高可用性,高可扩展性。


而基于 S3 的解决方案,大量的图片请求,由 AWS S3 来完成,S3 会自动扩展性能,因此应用程序的运行速度在数据增加时不会减慢。


只有少量的未生成的图片尺寸才会用到部署于 EC2 的图片服务器,并且我们图片逻辑服务器与图片储存 S3 是解耦合关系,我们还可以针对 基于 EC2 的图片处理服务 进行横向扩展,比如把图片服务程序 加入到 Web 服务器层,配合 负载均衡器 ELB、自动伸缩组 AutoScaling 来实现自动伸缩。

4.服务部署

为了服务部署能更接近生产环境,我们以下所有步骤将以创建一个以域名为 images.awser.me 的图片服务为例,来详细介绍如何基于 AWS 来部署。


在 EC2 上部署图片处理服务


1.创建一台 EC2 服务器,并赋予 具有 S3 访问权限的IAM 角色,配置正确的安全组开启 HTTP 80 端口访问权限。



  1. 示例程序基于 PHP,所以需要确保服务器安装了 Apache 2.4 和 PHP 7.0 以上。以及 PHP 图片处理的相关的组件:ImageMagick、ImageMagick-devel 。


参考 基于 Amazon Linux 的安装命令:


yum -y install httpd24 php70 ImageMagick ImageMagick-devel php70-pecl-imagick php70-pecl-imagick-devel


  1. github 或者 从S3 下载图片处理程序,修改 根目录 resize.php 文件,bucketName 变量为你的域名或者是你的储存桶名称,例如:$bucketName=’images.awser.me’。


将程序部署于你的 web 目录底下,并且确保 能通过 EC2 公网 IP 进行访问。


例如:http://52.80.80.80/resize.php?src=test_200x200.jpg


最好为你的图片服务器设置一个域名,我们这里设置了 imgpro.awser.me。


例如: http://imgpro.awser.me/resize.php?src=test_200x200.jpg


这里记录下你的 EC2 Web 访问地址,在下一步的 S3 储存桶配置中会用到。


创建和配置 S3 储存桶


  1. 创建储存桶


由于我们在生产环境中,需要使用指定的域名来访问 S3 资源。所以我们需要在 S3 控制台 创建储存桶时,把储存桶名称设置为我们的域名,如: images.awser.me。


  1. 储存桶权限控制


在刚刚创建的 S3 储存桶,权限选项卡中 选择储存桶策略填写如下内容(注意修改 images.awser.me 为你的域名 或者 储存桶名称) 开启匿名访问


Java


{
"Version":"2012-10-17",
"Statement":[
{
"Sid":"AddPerm",
"Effect":"Allow",
"Principal": "*",
"Action":["s3:GetObject"],
"Resource":["arn:aws-cn:s3:::images.awser.me/*"]
}
]
}
复制代码


  1. 开启静态网站托管


在刚刚创建的 S3 储存桶,属性选项卡中 开启 静态网站托管 ,并配置 重定向规则 为以下示例内容(请修改 HostName 为上一步骤 所创建的 EC2 Web 访问地址):


Java


<RoutingRules>
<RoutingRule>
<Condition>
<KeyPrefixEquals/>
<HttpErrorCodeReturnedEquals>404</HttpErrorCodeReturnedEquals>
</Condition>
<Redirect>
<Protocol>http</Protocol>
<HostName>imgpro.awser.me</HostName>
<ReplaceKeyPrefixWith>resize.php?src=</ReplaceKeyPrefixWith>
<HttpRedirectCode>302</HttpRedirectCode>
</Redirect>
</RoutingRule>
</RoutingRules>
复制代码



记录终端节点名称 例如:images.awser.me.s3-website.cn-north-1.amazonaws.com.cn


在 DNS 服务商 添加一个 CNAME 记录 ,把你的自定义域名 如 images.awser.me 解析到 该终端节点上。


  1. 配置 S3 存储桶生命周期,自动清理缩率图


随时时间推移,我们会发现我们保存着在大量过时的缩率图,造成储存空间的浪费。其实我们可以利用 S3 存储桶的生命周期功能,来实现一定时间范围以外的缩率图自动清理。


在 S3 储存桶管理选项卡中,选择 添加生命周期规则



由于我们在图片缩放程序中,产生缩率图的过程,已经给所有缩率图打上了一个特殊标签 thumbnail = yes,那么我们就可以在生命周期规则中,把该标签作为过滤条件,这样才不会影响储存桶中的其他资源(如原图)。



然后在过期选项中设置,过期时间为 30 天。



这样配置完以后,所有缩率图生成三十天后会自动清理,来节省储存和管理成本。

5.测试图片缩放

首先上传一张测试图片至 S3 存储桶,我们选择一张经典的地球图片作为测试 命名为 earth.jpg。


1.测试使用 S3 终端节点访问,测试储存桶 权限是否配置正确:


http://images.awser.me.s3-website.cn-north-1.amazonaws.com.cn/earth.jpg


2.测试使用 自定义域名访问,测试储存桶命名以及 DNS 配置是否正确


http://images.awser.me/earth.jpg


3.测试图片缩放功能是否正常,尝试请求一张 200×200 像素的图片:


http://images.awser.me/earth_200x200.jpg


如果一切正常,我们可以看到浏览器 会自动跳转访问


http://imgpro.awser.me/resize.php?src=earth_200x200.jpg


并返回 200×200 像素的图片。


4.测试 S3 缓存是否生效,当我们第二次访问


http://images.awser.me/earth_200x200.jpg 如果一切正常,我们可以观察到 浏览器 没有做跳转。

6.总结

以上内容是对基于 S3 的图片处理服务解决方案的一个简单实现,也提到一部分生产环境可能遇到的问题,比如图片服务器的自定义域名、使用 S3 低冗余储存类型来降低成本、缩率图的自动清理等。


其实实际生产环境还可以对成本进行进一步优化,比如可以分析 S3 产生的访问日志,找出访问记录比较久远的对象 、调用 S3 API 对长久未使用的缩率图进行定时清理,甚至可以根据日志做分析 找出热门的图片格式需求,提前针对热门图片生产缩率图,提高用户体验。


另外通过以上的架构描述可以看出,由于 AWS 所提供的所有云服务都有丰富的 API 接口 和详细的配置选项,它就像一个乐高玩具一般,开发人员或者架构师可以脑洞大开随意去组合它成为自己想要的产品。


作者介绍:



高寅敬,AWS 解决方案架构师,负责基于 AWS 云计算方案架构的咨询和设计,在国内推广 AWS 云平台技术和各种解决方案。在加入 AWS 之前就职于美国虚拟运营商 Seawolf 海狼通讯,超过 7 年的互联网通信应用系统开发和架构经验。


超过 5 年的 AWS 实践经验, 精通基于 AWS 全球分布式 VoIP 系统的开发、运营及部署,深度理解 AWS 核心的计算、网络、存储以及云计算的弹性伸缩。



徐榆,AWS 实习架构师,研究生一年级对云计算/大数据和人工智能有一定研究。


本文转载自 AWS 技术博客。


原文链接:


https://amazonaws-china.com/cn/blogs/china/image-processing-service-based-on-s3/


2019-11-11 08:001041

评论

发布
暂无评论
发现更多内容

阿里P8不眠不休,用了两个月整理出这本32W字Java面试手册,在Github上引起震动

Java 编程 程序员 面试 计算机

我写了一个脚本,可在“任意”服务器上执行命令!

冰河

Java 后台开发 运维 研发效能 系统架构

【得物技术】MySQL 8.0:新的身份验证插件(caching_sha2_password)

得物技术

MySQL 默认方法 得物技术 身份 身份插件

跪了!阿里官方出品Spring Security王者手册,Github获赞70k+

spring 程序员 编程语言

程序员(媛)不懂汉服?岂能让别人小看,咱先靠肉眼大数据识别万张穿搭照

梦想橡皮擦

9月日更

Dubbo3.0|阿里巴巴服务框架三位一体的选择与实践

阿里巴巴云原生

阿里云 云原生 Dubbo3

Canvas制作转盘和钢琴

空城机

typescript 大前端 canvas 引航计划

学生管理系统架构设计文档

Rabbit

阿里内部神作Java并发原理JDK源码手册让Github沸腾,现已开源

Java 编程 程序员 面试 计算机

报名领奖|云栖大会,10月19-22日杭州不见不散!

阿里巴巴云原生

阿里巴巴 阿里云 云原生 云栖大会

终于有人把大厂面试必考的动态规划、链表、二叉树、字符串全部整理出来了

Java 架构 面试 算法 后端

☕【Java技术指南】「JPA编程专题」让你不再对JPA技术中的“持久化型注解”感到陌生了!

洛神灬殇

Java 注解 jpa 使用技巧 9月日更

DDD领域驱动设计在团队中推广和实施

BeyondLife

谈谈几种数据库优化方法和依据的指标

Regan Yue

数据库优化 9月日更

学习心得 - 架构训练营 - 第四课

Fm

基于OpenCV+QT开发超实用的视频编辑器

轻口味

OpenCV 音视频 引航计划 9月日更

让项目顺利上线:做好转测试与上线准备

石云升

项目管理 管理 引航计划 内容合集 9月日更

智能世界的罗马是怎样建成的?

脑极体

前端性能优化实战(二)

Augus

JavaScript 9月日更

"你的网站加载速度很慢怎么办?"——技术经理在面试中可能遇到的可怕问题

云原生

架构 面试 web技术 职业生涯

北鲲云超算平台有哪些形式为高性能计算用户提供算力服务?

北鲲云

架构实战营模块四

WolvesLeader

「架构实战营」

有人出15万要买下这份384页JDK源码笔记的版权,但被我果断拒绝,为了大家,我要开源

Java 程序员 架构 面试 计算机

一个Product Owner的假设引发的思考

Bruce Talk

敏捷 随笔 Agile Product Owner

Postman 如何调试加密接口?

星安果

Postman

美团一面:为什么选用Hbase,Hbase和MySQL的区别是什么?

Java MySQL 架构 面试 后端

联机数据分析OLAP:Kylin入门

正向成长

kylin

说要内推阿里的学长,替我整理好的Java面试题,分享给大家

Java spring 程序员 架构 编程语言

阿里第三版「SpringCloudAlibaba笔记」出世,全新技术限时开源

Java 编程 架构 面试 微服务

模块8

Geek_35a345

架构实战营 - 模块四作业

Alex.Wu

基于S3的图片处理服务_其他_亚马逊云科技 (Amazon Web Services)_InfoQ精选文章