百度南京数据中心:数据中心计算与变革

  • 贾国清

2013 年 1 月 15 日

话题:云计算百度DevOps语言 & 开发架构百度云

2013 年 1 月 11 日,随着百度南京数据中心的“开放日”迎来首批嘉宾访客,百度云计算硬件基础设施的神秘面纱也逐步显现。从百度云首席架构师林仕鼎微博中也透露出包含百度自主研发 SSD 在内的五个突破性成果。

本次云计算基础设施中五个成果分别为:

  • 全球首个 ARM 服务器在数据中心的规模应用,取得 10 项发明专利。实现了数据中心低成本和低功耗运行。存储密度提升 70%,TCO降低 25%;
  • 国内首个大规模部署的定制化整机柜,自主设计,取得 40 项设计专利。TCO 降低 10%,支付效率提升 10 倍;
  • 国内最大的万兆集群(5000 台),百度自主研发,接入成本对比同类商用方案下降 83%;
  • SSD 实现百度自主研发,产生发明专利 3 项,学术论文 2 篇。与 PCIe flash 相比,性能提升 2 倍,成本降低 40%;与 SATA SSD 相比,性能提升 6 倍,成本降低 10%;
  • PUE 达国内领先、国际一流水平。如百度 M1 自建机房最佳 PUE 达 1.18,年均 PUE 达 1.37,能效提升 7%,全年完全免费冷却时间达 4200 小时,占全年时间的 48%。

传统以来,PC 与服务器界,Intel Inside 的标志几乎是不可更改的习惯。本次专为百度云服务设计的 ARM,基于云平台将软件与 CPU 指令集解耦,实现了轻计算负载,高存储密度,存储密度提升了 70%,TCO 降低了 25%。而为了达成低功耗,低成本,百度也实现了指令集变迁,即一套代码,两种平台(X86&ARM)。

据参观了百度南京云数据中心人员透露,该数据中心集成了国内互联网行业最大的万兆集群,集群规模超过 5000 个节点。此外,该机房使用了百度自主研发的,基于 64 核处理器的负载均衡系统,该系统可以为业务提供最大 320G 的负载均衡以及 DDoS 攻击防御服务,而其成本不到商用设备的 10%。

林仕鼎也在微博中提到

百度 SSD,是我一直鼓吹的 Datacenter Computing 领域中 application-driven, software-defined 设计理念的典型实践。我们重新设计了 SSD 控制系统,取消写缓冲,对外暴露数据通路,把通路调度,读写平衡、擦除等操作都留给上层软件系统。在存储系统里,已经充分考虑了读写性能不均问题,并且在机群规模进行冗余远比在单块 SSD 里考虑来得有效。这个 SSD 配合 CCDB 新存储系统已经开始大规模使用,软硬件协同创新。硬件和基础设施简单可控可管理,软件更聪明更灵活,应用从上到下逐层驱动系统进化为竖井式架构,这是在数据中心里发生的技术革命。 

自建数据中心年均 PUE1.37,国内最佳。PUE(Power Usage Effectiveness)是国际上通用的数据中心能源使用效率衡量指标。PUE= 数据中心总设备能耗 /IT 设备能耗,是一个比值,PUE 越接近 1 表明能效水平越高。国内数据中心 PUE 目前平均值约为 2.5,这意味着 IT 设备每消耗 1 度电,就有多达 1.5 度的电被 IT 配套基础设施消耗掉了。若全国数据中心 PUE 均值从 2.5 降低到百度的 1.37,则节能率达到 45.2%,保守估计全年可节电超过 35 亿度。 

此外,业内人士也对此举表达了自己的看法:

@网易汪源:需求多变时,就把硬的做成软的;需求不变时,就把软的固化成硬的。从看山是山,到看山不是山,再到看山还是山,历史总是正弦曲线般振荡。也有人是余弦,总差个周期,忽视相位差,竟成预言家。现在搞软的正当时,相信过几年百度又会来硬的。

@梁斌 penny:1 年前百度的 HR 找我抓搞硬件的人才,我还觉得奇怪,怎么百度也要搞硬件了,现在看来,还真是搞出了东西,不过我觉得还是专业分工好,便于专业化。

@文非刀:就是用高效计算单元替换低效计算单元,在高层协调数据读写调度的竖井式结构,比较容易协调读写效率,最大的好处就是结合应用层设计方便调度了,有钱公司就是好啊,估计后续还有其他硬件出来。

@陈怀临:“计算进一步靠近数据” 。 很牛呀!不是数通的人能说出这样的理解……我记得我 2,3 年前在数通圈子里提过这个口号。

@刘欧 V:百度这个创新最牛之处并不只在于技术方案如何,而是做事情的理念和魄力,敢于颠覆”事情就是这样的”陈规,根据现状实际需求,打破长久默认的只适合老场景的软硬件之间的信息透明程度,层与层之间信息透明了,没有旧机制的束缚,事情就变得不一样了,想象空间和新的 power 就会迸发出来,这个意义更大。

@邱隆华为:底层硬件和驱动是华为的,通过和百度合作定制,开放接口,最终应用于百度系统,效果大家都看到了。图片是华为的第三代 SSD 卡,当前已经进入第四代,性能是号称最强 F 友商的两倍,可靠性和工作时间均创记录,是数据加速的不二神器。相信第四代卡可以给百度继续带来更大的帮助。

@陈怀临:昨天普林斯顿的一个好朋友还问这个,好吧,你都做出来了,太牛了。

@梁斌 penny:据我了解,有一些硬件企业拿他们的产品卖百度,它们集成视频编解码、数据压缩等模块在硬件上,可能是刺激了百度,于是决定自主研发。

相关内容:

林仕鼎讲稿下载《数据中心计算与变革》

资料下载:百度网页库存储引擎 BDDB 设计简介

云计算百度DevOps语言 & 开发架构百度云