写点什么

无线仍然是 AI 和边缘计算发展的瓶颈

2020 年 5 月 22 日

无线仍然是AI和边缘计算发展的瓶颈

数据中心正在向网络边缘扩展,以满足人工智能和其他应用程序的快速响应需求,而这是传统数据中心架构所无法提供的。


本文最初发布于 EETimes,由 InfoQ 中文站翻译并分享。


数据中心正在向网络边缘扩展,以满足人工智能和其他应用程序的快速响应需求,而这是传统数据中心架构所无法提供的。


传统架构的问题在于它们的集中式框架。通常,数据会从边缘传到数百英里外的电脑上,然后再传回来。当你在使用电子邮件、谷歌、Facebook 和其他通过云提供的应用程序时,这没问题。人脑是台运行缓慢的电脑,无法记录从在浏览器中点击电子邮件到邮件打开之间的时间延迟。


但人工智能和其他新兴应用,如物联网(IoT)、基于云的游戏、虚拟现实等,需要更快的网络响应速度,也就是所谓的“低延迟”。这意味着数据中心的处理过程必须转移到网络边缘。边缘计算可以在小型数据中心中进行,其大小大致相当于海运集装箱,而不是目前支持云计算的仓库大小的大型建筑。


像 EdgeMicro 和 Vapor.io 这样的初创公司正在部署这样的“微型数据中心”。


数据中心运营商仍然可以使用它们的传统结构,并借助快速网络和其他硬件及软件来确保边缘应用程序所需的快速响应时间。


边缘数据中心可以位于企业办公场所,也可以位于矿山、船舶和油田等外部地点。


Moor Insights&Strategy 总裁兼首席分析师 Patrick Moorhead 表示:“(推动边缘计算的)首要因素是数据中心之外产生的数据量。”到 2024 年,联网传感器的数量将达到 1 万亿,主要由智能城市和视频驱动。


延迟并不是需要边缘计算来解决的唯一问题。Moorhead 说:“成本才是真正推动边缘计算的因素。每次你把数据送入数据中心,都是要付钱的。互联网不是免费的。”互联网提供商对带宽收费,而云提供商,比如亚马逊网络服务(AWS),对在云中进出的数据收取“出口费(egress charges)”


对于无法访问网络的应用程序,组织就需要在边缘进行计算,如在船上、在矿井下或在油田上。与此同时,越来越多的隐私法规要求某些应用程序现场处理数据,尤其是医疗保健。


Moorhead 说:“如果你是一家医院,那么你完全无权向云上发送任何数据。”即使允许这样做,带宽成本也会使移动大部分数据变得非常昂贵,尤其是诊断图像。


运营商对边缘计算的看法


Digital Realty 是世界上最大的数据中心运营商之一,其特别之处在于它有一个全球化的平台和基础设施,从大型多兆瓦的设施到单个的机笼和机架。该公司在全球 20 个国家拥有 267 个数据中心。


边缘地区需要一种新的基础设施。Digital Realty 首席技术官 Chris Sharp 说:“它一点也不像传统的数据中心。其规模要小得多,其工作负载需要很大的功率密度和互连密度。”这些微型数据中心是无人值守的,现场没有操作人员,不提供多租户支持。返回到核心云基础设施的密集光纤连接也是必须的。


Digital Realty 正处于部署微型数据中心的早期阶段,在芝加哥、亚特兰大和达拉斯,他们与初创公司 Vapor IO 合作开发了原型。


微型数据中心并不是唯一的选择。Digital Realty 的全球服务创新总监 Russell Shriver 说,在许多地方,边缘应用程序可以在传统的数据中心内运行,并且仍然可以达到应用程序快速响应所需的 5 毫秒延迟。他表示:“对于许多在市区寻找边缘解决方案的企业而言,这足以满足它们的需求。”


微型数据中心仍然是一个新兴市场。Equinix(Digital Realty 公司的竞争对手)全球业务发展副总裁 Jim Poole 表示,事实上,他们现有的设施可以满足其服务提供商和企业客户的边缘计算需求。“Equinix,从其存在,就在边缘”。


Equinix 在全球 44 个主要城市地区拥有超过 190 个数据中心。对于位于 Equinix 数据中心集群上的应用程序,美国大部分地区已经实现了 10 毫秒的光纤往返访问时间。这一延迟覆盖了 80%的美国人口。在建立新的微型数据中心之前,企业和服务供应商都希望在现有的基础设施中最大限度地部署边缘应用程序。


无线是瓶颈


虽然 Equinix 可以通过光纤实现低延迟,但边缘应用程序也需要无线,而无线仍然是 AI 和其他新兴边缘应用程序的瓶颈。Poole 说,目前,4G 无线网络的延迟最好为 40 毫秒,平均延迟在 60 毫秒到 120 毫秒之间。


5G 有望大幅降低延迟。因此,服务提供商正在与超大规模的云服务提供商合作,从而利用改进后的性能。例如,AWS 和 Verizon 正在合作,将位于洛杉矶市中心的 AWS 数据中心与该市的 Verizon 无线接入网络(RAN)塔连接起来。Poole 说,该项目证明,他们可以在市区周围创建一个低于 10 毫秒的延迟区。反过来,这也可能会产生对微型数据中心的需求。“但是,在我们解决这个特殊的问题之前,没有人会愿意为增加的成本买单,”他表示。


此外,Poole 补充说,5G 的“网络切片”功能将使部署私有无线网络成为可能,从而加强控制和安全。


目前,微型数据中心是一种很有前途的技术,但规模还不大。Poole 说:“你没有看到人们争相宣布要部署成百上千个这样的微型数据中心,原因是人们还没有看到商机。”


尽管如此,Equinix 确实看到了模块化数据中心的使用案例——不一定是在边缘,而是作为一种进入新兴市场的手段,目前看来,在这个市场中,建造一个 1 亿美元的数据中心没什么意义。


AI 驱动


Equinix 高级研究员 Kaladhar Voruganti 表示,人工智能正在带来巨大的边缘计算需求。


人工智能应用程序主要包括两类工作负载:训练和推断。顾名思义,训练就是教一个人工智能模型如何解决问题。这个过程通常涉及组织 PB 级的数据。


Voruganti 说,“通常,你需要大量的计算”。训练运行在非常耗电的 GPU 上,每个满载的机架要消耗高达 30 到 40 千瓦。训练通常需要在大型数据中心里运行,这样才能满足其电力需求,以及某些应用程序中的隐私和监管要求。


Digital Realty 与 Nvidia 合作,在托管服务器中提供硬件供应商的 GPU。


模型训练完成后,下一步是推理,在此过程中,模型应用它在训练中学到的知识,并将其应用到生产应用程序中。推理所需的数据处理要少得多,并且可以运行在网络边缘(智能手机、特斯拉或微型或地铁数据中心)快速部署的 Docker 或其他软件容器中。


分析师 Patrick Moorhead 说:“你可以在大型的云上训练它,然后在工厂、沃尔玛或加油站运行应用程序进行推理。”


这些类型的人工智能应用程序可以在各种情况下使用。例如,航空公司可能使用“数字双胞胎”进行预测性维护。或者,随着经济从Covid-19大流行中恢复,企业可以使用人工智能来运行热点图和面部识别程序,识别进入设施的可能受感染的人。


其他需要边缘计算(经常使用人工智能)的应用包括游戏、物联网、智能工厂、运输和物流。此外,零售技术需要边缘计算来提供所需的响应能力。


Moorhead 认为,零售行业对边缘数据中心的需求特别大。像 Amazon Go 这样的“未来商店”有数百个摄像头,沃尔玛也用视频跟踪顾客。他说:“他们非常需要。”


智慧城市的规划者们希望利用人工智能和其他前沿应用来促进健康和安全,追踪基础设施维护需求以及管理交通。


其他需求来自交通(包括当前大肆宣传的自动驾驶汽车)以及先进制造和产品视觉检验。能源行业也在推动需求,尤其是在远程检测方面。


特殊的硬件需求


Equinix 的 Voruganti 表示,边缘 AI 应用通常使用闪存来实现高性能。这些应用程序还需要高度的网络连通性,从设备到边缘,再到数据中心。Poole 说,在网络上不同位置运行的应用程序组件之间可能也需要链接。“它们需要组件和域之间能够保证低延迟,”他补充说。


Moorhead 说,边缘计算还需要坚固耐用,以便可以部署在电梯、公共交通闸和采矿设备上,而船载计算机必须具备耐盐水性。


边缘计算也带来了物理安全方面的挑战。传统的超大规模数据中心具有接近军事级别的安全性,但位于农村地区的边缘数据中心则无人看守,很容易闯入,攻击者甚至可以用卡车将整个远程数据中心运走。


赢家……


超云、企业供应商、电信供应商和数据中心运营商看起来都像是边缘计算的赢家。Moorhead 说,“AWS 是一艘大船。虽然很缓慢,但肯定会推出一项可信赖的边缘计算服务”。


这家公有云巨头发布了运行其基础设施软件的 AWS Outposts,这是一个运行 AWS 数据中心的硬件机架,和运行在 AWS 数据中心的基础设施相同。Outposts 可以在本地、边缘或数据中心中运行。AWS Snowball是一种边缘计算设备,为船舶一类的远程环境提供计算、内存和存储。亚马逊提供的另一款名为 Wavelength 的产品是一款面向运营商的边缘设备,它让计算机更接近 5G 部署的边缘。


在软件方面,AWS IoT Greengrass 是一个将 IoT 设备连接到云的操作系统。与此同时,其公有云竞争对手微软也提供了 Azure Cloud IoT-for-edge 服务,而 VMware 也提供边缘计算服务。Moorhead 说,VMware“在这个领域的竞争力令人惊讶”。


另一家主要的公有云供应商谷歌一直有点落后,但它正借助面向分布式云应用程序的 Anthos 服务增强自身的竞争力。


Moorhead 说,与此同时,像戴尔、惠普(边缘服务器)和思科(IoT 网络)这样的 IT 基础设施巨头也有优势,因为边缘计算需要一个大的生态系统,将企业内部的基础设施和云连接起来。


Moorhead 认为,新兴的边缘数据中心供应商,如 Vapor IO,也有机会重新定义旧有的技术。“50 年来,一直有数据中心处于边缘。任何沃尔玛都有高架地板和一个数据中心。如果你去加油站或麦当劳,他们在墙上会有一个服务器,”他说,“Vapor IO 真正想要的是添加近网计算能力,尤其是 5G 网络。”


电信公司的中央办公室也可以被改造成微型数据中心,为运营商创造机会。Moorhead 说,“一个典型的社区会有一栋水泥建筑,里面有模拟线路和一堆机架。现在,它们几乎空了。它们功能强大。它们有工业级的强度——确切地说,是一个很难攻破的水泥掩体——而且还有供电和冷却系统。”


Equinix 和 Digital Reality 声称,鉴于他们作为全球数据中心和网络运营商的优势,他们处于边缘计算的有利地位。“你不能违背事实,”Poole 说,“电信公司会做得很好——他们可以在地方一级创造接入。这是无法回避的。”


他补充道:“像 Equinix 这样分布范围很广的数据中心公司将会做得很好,因为如今的应用程序就在我们身边。”


Digital Realty 的 Sharp 补充道:“你需要一个全球性平台,否则你将很难成功。客户在与单一市场的点供应商进行交易时会非常谨慎。如果你没有真正的投入,没有必要的资金来支持全球性环境,那么你就无法取得成功。”


Sharp 补充道,“客户不想管理 10 或 15 个供应商才能推出自己的基础设施”。


查看英文原文:


https://www.eetimes.com/ai-drives-data-centers-to-the-edge/


2020 年 5 月 22 日 08:30698
用户头像
陈思 InfoQ编辑

发布了 567 篇内容, 共 193.3 次阅读, 收获喜欢 1127 次。

关注

评论

发布
暂无评论
发现更多内容

小熊派开发实践丨小熊派+合宙Cat.1接入云服务器

华为云开发者社区

IoT 小熊派 实践

华为工程师:扔掉你手里的其他Netty资料吧,有这份足以

小Q

Java 学习 面试 Netty 网络

架构作业--大数据

Nick~毓

卧槽,牛皮了!某程序员苦刷这两份算法PDF47天,四面字节斩获心仪大厂offer!

Java架构之路

Java 程序员 架构 面试 编程语言

Norns.Urd 中的一些设计

八苦-瞿昙

C# 随笔 随笔杂谈 aop

生产环境全链路压测建设历程第四篇 技术体系的发力

数列科技杨德华

话题讨论 | 说说那些"Oh my god"的时刻

Kurtis Moxley

话题讨论

4项探索+4项实践,带你了解华为云视觉预训练研发技术

华为云开发者社区

AI 华为云 modelarts

LeetCode题解:45. 跳跃游戏 II,贪心从后向前,JavaScript,详细注释

Lee Chen

算法 LeetCode 前端进阶训练营

中国SaaS的病与痛?

ToB行业头条

Flutter技术在会展云中大显身手

京东智联云开发者

flutter 跨平台 移动开发

只谈链不谈币,区块链会发展成什么样的方向?

CECBC区块链专委会

区块链

某Javva程序员金秋9月靠这份文档涨薪10K,你把这份Java进阶文档吃透涨薪超简单!

Java架构之路

Java 程序员 架构 面试 编程语言

C++typename的由来和用法

良知犹存

c++

密码学系列之:明文攻击和Bletchley Park

程序那些事

加密解密 密码学 程序那些事 明文攻击

四面阿里终于如愿拿到P7级offer【Java岗】,分享面经与面试资料

Crud的程序员

Java 程序员 java面试

GO 训练营第 3 周总结

Glowry

学习笔记3

Qx

Java并发编程:进程、线程、并行与并发

码农架构

Java并发

Mock | 拦截ajax的两种实现方式

梁龙先森

Java 前端 前端进阶

区块链技术生态持续优化,五大趋势不容忽视

CECBC区块链专委会

区块链 场景应用

摄像机不智能,基本等于不讲武德

脑极体

如何使用 JuiceFS 在云上优化 Kylin 4.0 的存储性能?

苏锐

大数据 kylin 性能优化 JuiceFS

话题讨论 | 聊聊那些年你重构过的代码?

xcbeyond

话题讨论

LeetCode题解:102. 二叉树的层序遍历,BFS,JavaScript,详细注释

Lee Chen

算法 LeetCode 前端进阶训练营

话题讨论 | 对于懂得编程的人来说,编程对你来说有什么乐趣?编程大概是什么感觉?

xcbeyond

话题讨论

区块链打破数字医疗桎梏,赢数据未来新生

CECBC区块链专委会

区块链 医疗

测试右移之日志收集与监控

BY林子

敏捷 软件测试

为什么删除数据后,Redis内存占用依然很高?

Java架构师迁哥

最值得Deepin的思维模型“组合创新” | 技术人应知的创新思维模型 (3)

Alan

创新 思维模型 28天写作

Spock单元测试框架实战指南五 - void方法测试

Java老k

Java 单元测试 spock

无线仍然是AI和边缘计算发展的瓶颈-InfoQ