写点什么

存储系统设计中的二八定律

  • 2015-01-07
  • 本文字数:1144 字

    阅读完需:约 4 分钟

二八定律又名帕累托法则、不平衡原则等,它是一种不均匀分布的理论,已被广泛应用于社会学、企业管理学以及经济学中。同样,该定律也适应于计算机科学领域,如应用负载、磁盘访问、存储系统设计等也都是不均匀的随机分布。近日,存储服务初创公司 Coho Data 的联合创始人兼 CTO Andy Warfield 发表了一篇关于在存储系统设计中二八定律应用的博文。在博文中,Andy Warfield 对二八定律进行了介绍,并指出 Facebook 为大规模的应用程序而设计的存储系统也利用了这种原理。

Andy Warfield 指出他们首先对最近 11 个开发者的台式机存储数据进行了为期一年的跟踪记录,这些记录包括大概 76 亿次的 IO 操作和在 5TB 存储数据上进行的超过 28TB 传输量。Andy 通过初始容量与时间比例分析发现,这些数据很不均匀,如 11 台台式机上共存储有 5.1TB 的数据,这其中还有 627GB(大约 21%)的数据在一个月内很少被访问,3.1TB 的数据在整整一年中没有被访问, 如下图所示:

通过以上分析结果图,Andy 还得出了以下两个新观点:

首先,使用 LRU (最近最少使用算法)作为一个填充快速内存的模型能够估算来自服务(或缓存)的请求比例。另外,随着将快速存储介质添加到系统中,访问命中率也在增长。

其次,通过该图还可以计算出基于访问的标准成本,而不是基于每 GB 的存储成本。伴随着缓存的不停增加,访问命中率却在下降。要实现 100% 的命中率所花费的金钱是最初使用最小高速缓存而实现 35% 命中率所花费的 11 倍多。因此,数据访问的成本将会变得更加昂贵。

关于如何解决分布不均匀的问题,Andy 认为不应该把资金花费在提高冷数据的访问性能上,而应该将资金花费在如何提高热数据的访问性能上。

Andy 认为当前的存储领域也发生了巨大变化,固态存储已不单单有 SATA/SAS SSD、PCIe/NVMe 和 NVDIMM 三种选择,且每个选择的成本和性能都有很大的差别。因此,即使没有磁盘,存储系统仍需要混合介质,只有通过混合形式才可以实现高性能与卓越的价值。一个混合存储系统仍然需要使用磁盘,且应该把热数据存储在高性能的内存中。同样,一个全闪存阵列 AFA 可能由三个甚至更多不同类型的混合存储介质。为了最大程度地提高混合存储的性能,Andy 还研究了一个新算法

最后,Andy 还指出不均匀分布的广泛性以及正因为二八定律才使得系统设计能够服务于最受关注的事物上(如高速公路和农村公路、核心互联网路由器、中心城市交通运输系统等的设计),并提供高性能的服务。对于存储系统的设计也不例外,构建存储系统尤其需要细心地对工作负载进行响应式分析,以确定存储规模并满足实际应用的需要。


感谢郭蕾对本文的审校。

给InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ )或者腾讯微博( @InfoQ )关注我们,并与我们的编辑和其他读者朋友交流。

2015-01-07 03:385527
用户头像

发布了 92 篇内容, 共 51.4 次阅读, 收获喜欢 5 次。

关注

评论

发布
暂无评论
发现更多内容

Dynamic Wallpaper for Mac(精美的动态壁纸)v17.1免激活版

Rose

Rhinoceros 7 (犀牛7)中文直装破解版 三维建模软件

Rose

第十二期双周精选

AutoMQ

人工智能丨利用人工智能自动找bug

测试人

软件测试

企业数字化离不开ERP和MES

万界星空科技

数字化转型 ERP 生产管理系统 mes 万界星空科技

合合信息参编“生成式人工智能个人信息保护技术要求系列标准”,助力AI行业可信发展

合合技术团队

合合信息 #科技 生成式人工智能

GPT-4o Mini深夜突发:即刻免费上线,API降价60%

蓉蓉

GPT-4o mini

现在有什么赛道可以干到退休?

王中阳Go

Go 面试

5家券商综合评级上升 6月券商App终端业务体验评测报告发布

博睿数据

四大核心能力再升级 Bonree ONE 3.0引领全域可观测进入next level

博睿数据

Microsoft 365 for Mac(Office 365)v16.80正式激活版

Rose

Desktop Goose for Mac(抖音桌面宠物鹅)v0.22激活版

Rose

电脑风扇控制软件Macs Fan Control Pro mac破解版下载

Rose

汇聚数字智慧 构建新质未来——《CMG数字中国》融媒体节目正式上线

江湖老铁

极限编程要完全遵守的12个实践!

敏捷开发

程序员 敏捷开发 软件开发 代码规范 极限编程

技术同学的职场生存指南

老张

职业规划 认知提升 打工人 职场发展

Sketch for mac(专业矢量绘图设计软件)v99.1中文激活版

Rose

天猫商品详情API返回值中的商品类型与分类

技术冰糖葫芦

API 文档 API 测试 API 优先 API Hub

硅纪元视角 | GPT-4o mini限时免费微调,每天200万免费token

硅纪元

openai GPT-4o mini Minimax

专业的mac软件下载平台——macw(苹果mac破解软件、资讯教程、视频、模板、壁纸素材)

Rose

如何安装 微信伴侣WechatTweak for mac(微信防撤回、多开助手)

Rose

Autodesk AutoCAD 2022破解版(CAD 2022中文版安装教程)mac/win

Rose

在心大陆的AI童话世界里,每个孩子都拥有“幸福陪伴”

心大陆多智能体

智能体 AI大模型 心理健康 数字心理 陪伴机器人

MobPush标签推送新范式,精准触达再升级!

MobTech袤博科技

开发者 产品动态

文献解读-群体测序-第二十四期|《中国西部一个连续临床疑似儿童原发性腔毛运动障碍队列的临床和遗传特征》

INSVAST

基因测序 基因数据分析 生信服务

时至今日,我们还要必须用敏捷开发吗?

敏捷开发

Scrum 敏捷开发 企业管理 代码规范 敏捷团队

LRC2022中文破解资源 Lightroom Classic 2022下载 mac/win

Rose

GOGC 2024 等你来

非凸科技

开源 技术 招聘 GOGC

存储系统设计中的二八定律_语言 & 开发_李士窑_InfoQ精选文章