【AICon】探索RAG 技术在实际应用中遇到的挑战及应对策略!AICon精华内容已上线73%>>> 了解详情
写点什么

如何在云上快速搭建 NFS

  • 2019-10-28
  • 本文字数:2503 字

    阅读完需:约 8 分钟

如何在云上快速搭建 NFS

简介

传统架构中我们常使用 NFS 来作为共享文件的存储。那么在搬迁到云中的时候我们该如何快速搭建相应的 NFS 系统?


本文将为您介绍快速搭建 NFS 系统的解决方案的四个关键词,分别是:


· 利用适用于文件的 AWS Storage Gateway 搭建云中 NFS


· 在 EC2 上使用 NFS


· NFS 只在 VPC 内网可连


· 工作于由光环新网运营的 AWS 中国(北京)区域

服务简介

File Gateway

文件网关提供了一个文件接口,让您可以使用行业标准 NFS 文件协议将文件作为对象存储在 Amazon S3 中,并通过 NFS 从您的数据中心或 Amazon EC2 访问这些文件,或通过 S3 API 以对象形式访问这些文件。所有权、权限和时间戳作为与该文件关联的对象的用户元数据,永久存储在 S3 中。当对象传输到 S3 之后,它们可以作为原生 S3 对象进行管理,版本控制、生命周期管理和跨区域复制等存储桶策略将直接应用于存储在存储桶中的对象。


客户使用文件网关 NFS 接口将文件数据存储到 S3 中,这些数据便可以供基于对象的工作负载使用,用作传统备份应用程序的经济高效的存储目标,或者用作应用程序文件存储的云端存储库或存储层。

在 EC2 上使用 File Gateway 作为 NFS


工作方式:


· 对象数据存储在 S3 中,提供数据可靠性和持久性


· Gateway 缓存为一个 EC2 实例,和 S3 定期同步数据


· 使用 NFS 的实例与 gateway 缓存实例交流读写数据

搭建步骤

创建网关

  1. 创建 Storage Gateway, 选择文件网关类型



  1. 选择 Amazon EC2 作为主机平台,按照设置说明配置 VPC,主机类型,添加新 EBS 卷,安全组等。


注意:


1)我们将配置 NFS 服务器只在 VPC 可连,所以请禁用自动分配公有 IP 选项


2)对添加的 EBS 卷,设置大小在 150G 以上


3)在安全组上临时配置安全策略,允许 VPC 内其它机器通过 80 端口访问该机器


4)保证该机器能够访问公网,一般通过 NAT 网关(https://docs.aws.amazon.com/zh_cn/AmazonVPC/latest/UserGuide/vpc-nat-gateway.html)等方式实现。



  1. 等待 EC2 创建完成,点击进入 EC2 详情页,记录下该机器的私有 IP (下文称该 IP 为: Gateway 私有 IP)

链接并激活网关

  1. 在 IAM 中创建新的 EC2 角色,配置拥有 AWS Storage Gateway Full Access




  1. 在同一个 VPC 中创建另外一台临时的 EC2 实例(Amazon Linux),并满足以下条件


a. 能够使用 SSH 登录


b. 绑定上一步中创建的 EC2 角色(ec2-storage-gateway)


  1. SSH 登录到临时 EC2 实例

  2. 运行以下命令得到 gateway 实例的激活码


curl -I [gateway 私有 IP]/?activationRegion=cn-north-1



记录下激活码 activationKey 的值


  1. 运行以下命令激活 file gateway


aws storagegateway activate-gateway –activation-key [activationKey] –gateway-name [gateway name] –gateway-timezone “[time zone]” –gateway-region cn-north-1 –gateway-type FILE_S3 –region cn-north-1



激活成功后命令返回 GatewayARN


  1. 返回 Storage Gateway,检查 my_gateway 是否已经建立



  1. 点击 my_gateway,编辑本地磁盘,将创建时添加的 EBS 卷配置成缓存,并且保存。

关联 S3 和 file gateway

1.点击并创建文件共件



2.配置文件共享设置。


1)选择网关 my_gateway


2)S3 存储段名称填写 s3 存储桶名称,可以为现有的 s3 存储桶,也可以新建一个



  1. 在 S3 存储桶和 file gateway 不在同一账号的情况下,我们也可以关联两者。需要在 S3 存储桶上额外设置存储桶策略。如果只是同一账号的情景,请直接跳到下一步。


注意:以下策略中的 Principal 中配置的角色为上一步中自动创建的新 IAM 角色。可以在 IAM 界面中查询到。


Json

{
                "Version": "2012-10-17",
    "Id": "FGWPolicy",
    "Statement": [
        {
            "Sid": "FGWStmt",
            "Effect": "Allow",
            "Principal": {
                "AWS": "arn:aws-cn:iam::[account id]:role/service-role/StorageGatewayBucketAccessRole8e94d222-b375-4f29-ac2a-99d77c1bf3"
            },
            "Action": "s3:*",
            "Resource": [
                "arn:aws-cn:s3:::images-andrew",
                "arn:aws-cn:s3:::images-andrew/*"
            ]
        }
    ]
}


当然,你也可以控制 file gateway 账户只对 S3 存储桶拥有只读权限。


Json

{
    "Version": "2012-10-17",
    "Id": "FGWPolicy",
    "Statement": [
        {
            "Sid": "FGWStmt",
            "Effect": "Allow",
            "Principal": {
                "AWS": "arn:aws-cn:iam::[account id]:role/service-role/StorageGatewayBucketAccessRole8e94d222-b375-4f29-ac2a-99d77c1bf3"
            },
            "Action": [
                "s3:Get*",
                "s3:List*"
            ],
            "Resource": [
                "arn:aws-cn:s3:::images-andrew",
                "arn:aws-cn:s3:::images-andrew/*"
            ]
        }
    ]
}


4.点击下一步,确认,等待文件共享状态变为可用。


在 Ec2 上使用 file gateway 上的 NFS

  1. 登录已经创建的临时 EC2 实例。我们将在该机器上测试 NFS 的配置。

  2. 运行以下命令


sudo mount -t nfs -o nolock [gateway 私有 IP]:/[s3 存储桶名] [MountPath]



  1. 成功 mount 后,您就可以在/nfs 文件夹看到 s3 存储桶中的内容了。您可以添加,删除,或者查看这些内容。


注意: 您在/nfs 文件夹下的操作会直接映射到 gateway 缓存实例上。缓存实例会定期和 S3 做同步。所以如果您添加了一个文件在/nfs 中,过若干秒就能在 S3 存储桶中看到它了。

注意事项

Gateway 缓存实例在该架构中为一个潜在的单点故障,建议使用一些机制来减小它的影响。比如在该机器上设置自动恢复机制。详情请参考:


https://docs.aws.amazon.com/zh_cn/AWSEC2/latest/UserGuide/ec2-instance-recover.html


作者介绍:


任庆杰


任庆杰,AWS解决方案架构师。负责基于AWS的云计算方案架构的咨询和设计,同时致力于AWS云服务在国内和全球的应用和推广。在加入AWS前,拥有超过7年的软件开发和IT项目管理经验。
复制代码


本文转载自 AWS 技术博客。


原文链接:


https://amazonaws-china.com/cn/blogs/china/how-to-establish-nfs


2019-10-28 08:00616

评论

发布
暂无评论
发现更多内容

第七周总结

2020LF AI&DATA DAY(AI开源日):中国开源社区迈入全球化新征程

天啦撸!打印日志竟然只晓得 Log4j?

沉默王二

Java 日志 log4j

重磅解读:K8s Cluster Autoscaler模块及对应华为云插件Deep Dive

华为云开发者联盟

容器 k8s 服务

mongodb 源码实现系列 - 网络传输层模块实现三

杨亚洲(专注MongoDB及高性能中间件)

MySQL mongodb 分布式 高性能 分布式数据库mongodb

每周一看:16份文档资料,程序员软硬实力全概览,总有一个适合你

小Q

Java 学习 程序员 架构 面试

全面解析ArrayList,超详细!

程序员的时光

面试 ArrayList JAVA集合

架构师训练营第 1 期第 7 周作业

owl

极客大学架构师训练营

架构师训练营第八周总结

邓昀垚

嗯,查询滑动窗口最大值的这4种方法不错...

王磊

Java 数据结构和算法

阿里云官方推出操作系统“等保合规”镜像 -- Alibaba Cloud Linux 等保2.0三级版

阿里云基础软件团队

内核

【云小课】版本管理发展史之Git+——代码托管

华为云开发者联盟

git 代码管理 托管

第 7 周 性能优化(一)总结

蓝黑

极客大学架构师训练营

架构师训练营第八周作业

邓昀垚

极客大学架构师训练营

“开源软件供应链点亮计划-暑期2020”公布结果 基于ChubaoFS开发的项目获得最佳质量奖

京东科技开发者

大数据 开源 云原生

分库分表的 9种分布式主键ID 生成方案,挺全乎的

程序员小富

分库分表 Java 分布式

会展云技术解读 | 面对突发事故,APP如何做好崩溃分析与性能监控?

京东科技开发者

云计算 云服务

DB-Engines 11月数据库排名:PostgreSQL坐稳同期涨幅榜冠军宝座

华章IT

数据库 postgresql

解决大中型浏览器(Chrome)插件开发痛点:自定义热更新方案——2.基于双缓存更新功能模块

梁龙先森

Java chrome 大前端 浏览器 技术方案

tomcat打包成rpm包

lee

tomcat rpm

接口测试如何在post请求中传递文件

测试人生路

接口测试

简析低代码开发与传统开发的区别与优势

Marilyn

敏捷开发 低代码

《迅雷链精品课》第一课:认识区块链

迅雷链

区块链

架构师训练营第 1 期第 8 周作业

业哥

数据结构与算法系列之栈&队列(GO)

书旅

数据结构与算法 Go 语言

数据结构与算法系列之链表操作全集(三)(GO)

书旅

数据结构 Go 语言

终于啃完了这份Java核心原理+框架“面试圣经”,成功五面上岸美团

Java架构追梦

Java 架构 面试 微服务 框架开发

go-zero如何追踪你的请求链路

万俊峰Kevin

Trace microservice Go 语言

【涂鸦物联网足迹】API及SDK介绍

IoT云工坊

软件开发 物联网 API sdk 云平台

技术分享:WebAssembly能否重新定义前端开发模式?

葡萄城技术团队

webassembly

移动安全加固助力 App 实现全面、有效的安全防护

蚂蚁集团移动开发平台 mPaaS

安全攻防 App风险 mPaaS

如何在云上快速搭建 NFS_语言 & 开发_亚马逊云科技 (Amazon Web Services)_InfoQ精选文章