速来报名!AICon北京站鸿蒙专场~ 了解详情
写点什么

淘宝分布式框架 Fourinone2.0 新版本发布

  • 2012-06-04
  • 本文字数:1100 字

    阅读完需:约 4 分钟

淘宝 Fourinone2.0 提供了一个 4 合 1 分布式框架和简单易用的编程 API,实现对多台计算机 CPU,内存,硬盘的统一利用,从而获取到强大计算能力去解决复杂问题。Fourinone 框架提供了一系列并行计算模式(农民工 / 包工头 / 职介绍 / 手工仓库)用于利用多机多核 CPU 的计算能力;提供完整的分布式缓存和小型缓存用于利用多机内存能力;提供像操作本地文件一样操作远程文件(访问,并行读写,拆分,排它,复制,解析,事务等)用于利用多机硬盘存储能力;由于多计算机物理上独立,Fourinone 框架也提供完整的分布式协同和锁以及简化 MQ 功能,用于实现多机的协作和通讯。

Fourinone 2.0 新增功能:

一、提供了对分布式文件的便利操作,将集群中所有机器的硬盘资源利用起来,通过统一的 fttp 文件路径访问 如:

复制代码
windows:fttp://v020138.sqa.cm4/d:/data/a.log
linux:fttp://v020138.sqa.cm4/home/user/a.log

比如以这样的方式读取远程文件:

复制代码
FttpAdapter fa = FttpAdapter("fttp://v020138.sqa.cm4/home/log/a.log");
fa.getFttpReader().readAll();

提供对集群文件的操作支持,包括:

  1. 元数据访问,添加删除,按块拆分,高性能并行读写,排他读写(按文件部分内容锁定),随机读写,集群复制等
  2. 对集群文件的解析支持(包括按行,按分割符,按最后标识读取)
  3. 对整形数据的高性能读写支持(ArrayInt 比 ArrayList 存的更多更快)
  4. 两阶段提交和事务补偿处理
  5. 自带一个集群文件浏览器,可以查看集群所有硬盘上的文件(不同于 hadoop 的 namenode, 没有单点问题和容量限制)

总的来说,将集群看做一个操作系统,像操作本地文件一样操作远程文件。 但是 Fourinone 并不提供一个分布式存储系统,比如文件数据的导入导出、拆分存储、负载均衡,备份容灾等存储功能,不过开发人员可以利用这些 API 去设计和实现这些功能,用来满足自己的特定需求。

更多介绍请看使用指南:

一. 如何搭建配置 FttpAdapter 环境
二. 如何访问集群文件根目录
三、如何访问和操作远程文件
四、如何进行集群内文件复制和并行复制
五、如何读写远程文件
六、如何解析远程文件
七、如何并行读写远程文件
八、如何批量并行读写远程文件和事务补偿处理

二、自动化class 和jar 包部署

class 和 jar 包只需放在工头机器上, 各工人机器会自动获取并执行,兼容操作系统,不需要进行安全密钥复杂配置

三、网络波动状况下的策略处理,设置抢救期,抢救期内网络稳定下来不判定结点死亡

下载地址,此版本打包了源代码: http://www.skycn.com/soft/68321.html


给 InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ )或者腾讯微博( @InfoQ )关注我们,并与我们的编辑和其他读者朋友交流。

2012-06-04 06:176558

评论

发布
暂无评论
发现更多内容

什么是完全二叉树?

InfoQ IT百科

什么是“哈希算法”?

InfoQ IT百科

阿里云数字化安全生产平台 DPS V1.0 正式发布!

阿里巴巴云原生

阿里云 云原生 数字化 安全生产平台

中关村e谷为产业搭台:中关村论坛(空天专场)黑科技亮相现场

联营汇聚

阿里云发布企业云原生IT成本治理方案:五大能力加速企业 FinOps 进程

阿里巴巴云原生

阿里云 云原生 FinOps

企评家|河南豫能控股股份有限公司的企业成长性报告简述

企评家

递归算法的三个定律是什么?

InfoQ IT百科

易捷行云EasyStack 加入龙蜥社区,共同打造多样化算力创新云平台

OpenAnolis小助手

云计算 开源 龙蜥社区 CLA 易捷行云

使用任务管理软件有哪些好处,好用的任务管理软件有哪些?

爱吃小舅的鱼

企评家,企业评价助力新三板企业健康发展

企评家

Plato Farm 的MARK 处于永远通缩,经济模型解析

西柚子

给定两个字符串s和t,判断这两个字符串中的字母是不是完全一样。

InfoQ IT百科

企业知识管理平台的作用及功能

小炮

企业知识管理

LAXCUS分布式操作系统如何保障系统安全

LAXCUS分布式操作系统

软件系统安全 量子攻击 分布式软件系统

EventBridge 集成云服务实践

阿里巴巴云原生

阿里云 云原生 事件总线 EventBridge 事件源

国厂自研的操作系统都有哪些?

InfoQ IT百科

如何判断两个字符串是否互为回文?

InfoQ IT百科

netty系列之:netty中常用的对象编码解码器

程序那些事

Java Netty 程序那些事 4月月更

CPU散热器是电脑标配吗?

InfoQ IT百科

浅谈MatrixOne如何用Go语言设计与实现高性能哈希表

MatrixOrigin

golang 哈希表 MatrixOrigin MatrixOne 矩阵起源

什么是满二叉树?

InfoQ IT百科

计算单链表的长度。

InfoQ IT百科

动态重定位需要由什么来实现?

InfoQ IT百科

玩转小程序压测

阿里巴巴云原生

小程序 阿里云 云原生 压测 PTS

进程主要由哪几个部分组成?

InfoQ IT百科

微服务架构设计实践

鲁米

微服务架构

企评家企业大数据,实现6种应用的场景

企评家

易周金融观点 | 个人养老金制度正式出炉;居民贷款延期还款政策密集落地

易观分析

银行 养老金制度

加密算法有哪几种?

InfoQ IT百科

大咖说 X 对话开源|论数据库人才发展战略

大咖说

数据库 阿里云 科技

面由 AI 生|虚拟偶像“捏脸”技术解析

ZEGO即构

计算机视觉 虚拟偶像 Avatar AI捏脸

淘宝分布式框架Fourinone2.0新版本发布_DevOps & 平台工程_彭渊_InfoQ精选文章