最新发布《数智时代的AI人才粮仓模型解读白皮书(2024版)》,立即领取! 了解详情
写点什么

EFS File Sync,向 Amazon EFS 文件系统更快传输文件

  • 2019-10-28
  • 本文字数:1270 字

    阅读完需:约 4 分钟

EFS File Sync,向 Amazon EFS 文件系统更快传输文件

我们在 AWS re:Invent 2017 举行前不久推出了 EFS File Sync,现在我终于有一点时间来讲讲它!


如果您需要将大量文件从本地或云文件系统移动到 Amazon Elastic File System,此工具正是为您量身打造。简单的单线程命令行工具 (例如 cprsync ) 产生于云时代以前,无法提供在不同地点之间大规模移动数据所需的吞吐能力。这些工具一般作为积木块的形式使用,常常在负责计划调度、编排管理和网络安全脚本中使用。


安全、并行处理


EFS File Sync 采用安全的高度并行数据传输机制,速度比我之前提到的工具快 5 倍。它作为 VMware ESXi 中或 EC2 实例上运行的代理提供,通过 NFS (v3 和 v4 版本) 访问源文件系统,可以在所有开放 EFS 的 AWS 区域使用。由于代理负责启动与 AWS 之间的所有通信,您无需搭建 VPN 或允许入站连接通过您的防火墙。


您可以从 AWS 管理控制台启动、控制和监控代理以及您的同步任务。作业可以指定传输整个文件系统或具体的目录树,此外还提供检测并跳过已经存在于目标文件夹中的文件的选项。此外还可以复制文件的元数据 (修改和访问权限、时间、POSIX 所有权和权限、符号链接、硬链接)。


使用 EFS File Sync


为了撰写此博文我启动了一个 EC2 实例,导出了一个 NFS 文件系统 (/data),然后使用 Linux 内核源代码填充该文件系统。


打开与我的实例位于同一区域的 EFS 控制台,然后单击文件同步



我单击开始使用,选择 Amazon EC2 作为我的主机平台,然后单击启动实例,然后单击 Connect to agent (连接到代理) 继续:



单击启动实例会在新的选项卡中打开 EC2 控制台。我选择一个内存优化实例类型 (xlarge 或更大的类型),为其配置一个公有 IP 地址和一个允许 80 端口入站流量的安全组,然后与其他 EC2 实例一样启动它。然后我会等待一两分钟 (可以浇浇花、看看狗),直到通过状态检查:



然后我会获取该实例的公有 IP 地址,返回 EFS 选项卡,输入该地址,然后单击 Activate agent (激活代理)



这一步骤会从同步代理检索激活密钥。完成后,我会为它输入一个名称,然后单击 Activate agent (激活代理) 继续:



现在代理正在运行并已激活,我会单击 Create sync task 以开始将一些文件移动到 EFS:



我会配置源位置 (我在这一部分开始时提到的 EC2 实例):



此外我还会选择目标 EFS 文件系统,并在该文件系统中为我的文件指定一个目标位置:



然后我选择同步选项并单击下一步以检查配置:



检查结果看似正常,然后单击 Create sync task 以开始复制我的文件:



创建同步任务并且其状态变为可用后, 我可以选中它并从 Actions 菜单选择 Start 以启动同步:



我调整在创建任务时建立的设置,然后单击 Start 继续:



我可以在 History 选项卡中跟踪同步任务的状态:



这会在几分钟内完成,我的 EFS 文件系统现在已经包含了新的文件:


B00526J31YB003U6VRXAB01LVZXDGB0140549889B076PZS694B000ASKN90B00GX3CUV0B002H09I0YB01N0ELGGPB002IPGXVAB0000CFN7L


现已推出


EFS File Sync 现已在支持 EFS 的所有 AWS 区域推出。您需要为所消费的 EFS 和 EC2 资源付费,价格为每 GB 的数据 0.01 USD (更多信息请参阅 EFS 定价页面)。


本文转载自 AWS 技术博客。


原文链接:


https://amazonaws-china.com/cn/blogs/china/efs-file-sync-faster-file-transfer-to-amazon-efs-file-systems/


2019-10-28 08:00605

评论

发布
暂无评论
发现更多内容

架构实战营模块七作业

天琪实刚亮

OceanBase 成为信通院首批可信开源社区、可信开源项目

OceanBase 数据库

中国信通院 OceanBase 开源

@全球开发者|首届云原生边缘计算峰会邀您共话

华为云开发者联盟

云原生 边缘计算 kubeedge

样品管理系统解决方案

低代码小观

Lims LIMS实验室信息管理系统 LIMS系统

动态路由协议之RIP协议,最古老的距离矢量协议!

wljslmz

IP 网络工程师 动态路由 6月月更 路由协议

盘点校招面试 HR 可能会问到的问题

宇宙之一粟

面试 校招 6月月更

天猫精灵语音技能单轮对话表达式的参数定义

Jerry Wang

人工智能 机器学习 聊天机器人 机器人 6月月更

2022年中国新能源汽车换电市场发展洞察

易观分析

新能源汽车

华为云GaussDB首席架构师冯柯:摘取皇冠上的明珠,华为云数据库的创新与探索

华为云开发者联盟

数据库 华为云 GaussDB 国产数据库

科创人·神州数码集团CIO沈旸:最佳实践模式正在失灵,开源加速分布式创新

科创人

函数节流和函数防抖和他们的区别

工边页字

JavaScript 性能优化 前端 6月月更

架构实战营模块七 作业

库尔斯

架构实战营

从零开始搭建vue-cli项目

小恺

6月月更

当AI抄起了水表

华为云开发者联盟

人工智能 modelarts workflow 智能水务

企业知识管理体系怎么搭建和运营?

小炮

LabVIEW控制Arduino采集LM35温度传感器数值(基础篇—12)

不脱发的程序猿

单片机 LabVIEW Arduino LIAT 采集LM35温度传感器数值

一篇文章带你彻底了解哈希表

武师叔

算法 哈希表 6月月更

直播回顾 | 7000字干货,深析区块链+汽车供应链金融的应用价值

旺链科技

区块链 产业区块链 供应链金融

哈希游戏开发竞猜系统哈希值hash算法

薇電13242772558

哈希算法

王者荣耀商城异地多活架构设计

流火

都有哪些较好用的项目管理软件?

优秀

项目管理 项目管理软件

【高并发】在高并发环境下该如何构建应用级缓存?

冰河

并发编程 多线程 高并发 异步编程 6月月更

Java27岁了——一次争执引起的Java内卷生涯

写代码两年半

javase Java EE 6月月更

开始使用DOCKER COMPOSE V2

mengzyou

Docker DevOps Docker-compose

中国标准走进国际视野,首个零信任国际标准的诞生往事

脑极体

【云服务器】云计算平台的架构是什么样的?

Finovy Cloud

云服务器 GPU服务器

移动平台打造新生态 | 助力企业跨业务、一站式、全场景的系统建设

WorkPlus

应用流程挖掘,发现潜在RPA可实施的场景,助力银行优化业务流程

易观分析

RPA

Docker的安装及日常命令的使用

Geek_982ff5

6月月更

阿里云刘珅孜:云游戏带来的启发——端上创新

阿里云弹性计算

gpu 元宇宙 云游戏

【Spring 学习笔记(一)】第一个Spring程序与IoC思想

倔强的牛角

6月月更

EFS File Sync,向 Amazon EFS 文件系统更快传输文件_语言 & 开发_亚马逊云科技 (Amazon Web Services)_InfoQ精选文章