最新发布《数智时代的AI人才粮仓模型解读白皮书(2024版)》,立即领取! 了解详情
写点什么

淘宝分布式框架 Fourinone2.0 新版本发布

  • 2012-06-04
  • 本文字数:1100 字

    阅读完需:约 4 分钟

淘宝 Fourinone2.0 提供了一个 4 合 1 分布式框架和简单易用的编程 API,实现对多台计算机 CPU,内存,硬盘的统一利用,从而获取到强大计算能力去解决复杂问题。Fourinone 框架提供了一系列并行计算模式(农民工 / 包工头 / 职介绍 / 手工仓库)用于利用多机多核 CPU 的计算能力;提供完整的分布式缓存和小型缓存用于利用多机内存能力;提供像操作本地文件一样操作远程文件(访问,并行读写,拆分,排它,复制,解析,事务等)用于利用多机硬盘存储能力;由于多计算机物理上独立,Fourinone 框架也提供完整的分布式协同和锁以及简化 MQ 功能,用于实现多机的协作和通讯。

Fourinone 2.0 新增功能:

一、提供了对分布式文件的便利操作,将集群中所有机器的硬盘资源利用起来,通过统一的 fttp 文件路径访问 如:

复制代码
windows:fttp://v020138.sqa.cm4/d:/data/a.log
linux:fttp://v020138.sqa.cm4/home/user/a.log

比如以这样的方式读取远程文件:

复制代码
FttpAdapter fa = FttpAdapter("fttp://v020138.sqa.cm4/home/log/a.log");
fa.getFttpReader().readAll();

提供对集群文件的操作支持,包括:

  1. 元数据访问,添加删除,按块拆分,高性能并行读写,排他读写(按文件部分内容锁定),随机读写,集群复制等
  2. 对集群文件的解析支持(包括按行,按分割符,按最后标识读取)
  3. 对整形数据的高性能读写支持(ArrayInt 比 ArrayList 存的更多更快)
  4. 两阶段提交和事务补偿处理
  5. 自带一个集群文件浏览器,可以查看集群所有硬盘上的文件(不同于 hadoop 的 namenode, 没有单点问题和容量限制)

总的来说,将集群看做一个操作系统,像操作本地文件一样操作远程文件。 但是 Fourinone 并不提供一个分布式存储系统,比如文件数据的导入导出、拆分存储、负载均衡,备份容灾等存储功能,不过开发人员可以利用这些 API 去设计和实现这些功能,用来满足自己的特定需求。

更多介绍请看使用指南:

一. 如何搭建配置 FttpAdapter 环境
二. 如何访问集群文件根目录
三、如何访问和操作远程文件
四、如何进行集群内文件复制和并行复制
五、如何读写远程文件
六、如何解析远程文件
七、如何并行读写远程文件
八、如何批量并行读写远程文件和事务补偿处理

二、自动化class 和jar 包部署

class 和 jar 包只需放在工头机器上, 各工人机器会自动获取并执行,兼容操作系统,不需要进行安全密钥复杂配置

三、网络波动状况下的策略处理,设置抢救期,抢救期内网络稳定下来不判定结点死亡

下载地址,此版本打包了源代码: http://www.skycn.com/soft/68321.html


给 InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ )或者腾讯微博( @InfoQ )关注我们,并与我们的编辑和其他读者朋友交流。

2012-06-04 06:176461

评论

发布
暂无评论
发现更多内容

剖析react核心设计原理--异步执行调度

有道技术团队

虎符Hoo交易所开启全新生态布局 完成HOO首次回购

区块链前沿News

Hoo 虎符交易所 HOO回购

OpenHarmony移植案例与原理:startup子系统之syspara_lite系统属性部件

华为云开发者联盟

Token OpenHarmony startup子系统 syspara_lite系统

关于极狐GitLab SaaS,你应该知道这些!

极狐GitLab

DevSecOps SaaS平台

百度App Objective-C/Swift 组件化混编之路(一)

百度开发者中心

深入浅出特征工程 – 基于 OpenMLDB 的实践指南(上)

第四范式开发者社区

机器学习 数据库 大数据 OpenMLDB

百度App Objective-C/Swift 组件化混编之路(二)- 工程化

百度开发者中心

注意!这种笔试方式正在逐渐被取代……

ShowMeBug

笔试 在线面试

【网络安全】知名网络安全企业有哪些?

行云管家

网络安全 数据安全 堡垒机

直播预告|一线专家邀你共话:数据科学赋能多元应用场景价值

MobTech袤博科技

算法 数据 商业

美景本天成,妙笔偶得之——“妙笔”是怎样炼成的?

百度开发者中心

大数据培训:Flink 快照分析

@零度

flink 大数据开发

DevSecOps端到端的安全能力构建为什么重要

极狐GitLab

安全 DevSecOps

全方位构建信创生态体系,焱融科技完成海光 CPU 生态兼容性认证

焱融科技

云计算 分布式 高性能 文件存储 生态

官宣 | 极狐GitLab SaaS来了

极狐GitLab

为冬奥加油——利用贝塞尔曲线实现冰墩墩

战场小包

前端 canvas 冬奥会 2月月更

【堡垒机】堡垒机是啥?一线品牌有哪些?

行云管家

网络安全 数据安全 堡垒机 IT运维

前端培训:Vue3 的自定义指令

@零度

Vue 前端开发

深入解析 Flink 细粒度资源管理

Apache Flink

大数据 flink 开源 编程 实时计算

用UML来描述领域模型吧

蜜糖的代码注释

UML 领域建模 2月月更

人才短缺、成本高昂,制造企业智能化转型路径如何破局?

百度开发者中心

在线YAML转XML工具

入门小站

工具

Mysql数据库表中有索引为什么还是查询慢?

慕枫技术笔记

数据库 2月月更

跨项目度量,CTO、PMO们的好帮手

阿里云云效

阿里云 云原生 敏捷开发 CTO 研发度量

【Python训练营】Python每日一练----第23天:字符计数

是Dream呀

2月月更

HTTP流量神器Goreplay核心源码详解

华为云开发者联盟

Go 流量 GOREPLAY TCP/HTTP

作业7

施正威

2021年第4季度中国网络零售B2C市场交易规模达23593.9亿元

易观分析

B2C 网络零售

教你一个快速视频处理的神器:Python moviepy

华为云开发者联盟

Python 视频 音频 视频处理 Moviepy

优酷 IPv6 演进和实践指南

阿里巴巴终端技术

ipv6 移动网络

英特尔至强单月总出货量超其他厂商全年服务器CPU总出货量

科技新消息

淘宝分布式框架Fourinone2.0新版本发布_DevOps & 平台工程_彭渊_InfoQ精选文章