【AICon】探索RAG 技术在实际应用中遇到的挑战及应对策略!AICon精华内容已上线73%>>> 了解详情
写点什么

端云协同,打造万物智能化新未来

  • 2022-11-02
    北京
  • 本文字数:6350 字

    阅读完需:约 21 分钟

端云协同,打造万物智能化新未来

近年来,云计算、大数据、人工智能等技术的高速发展对社会生产生活带来愈加深刻的影响。数量和规模快速增长的数据中心,拥有庞大算力和海量存储的集群,每天都在为各行各业运行类型繁多的服务和应用并创造惊人的价值。

 

另一方面,移动互联网的全面普及极大推动了智能终端的进步。今天接入移动网络的智能终端数以十亿计,未来甚至可能达到千亿量级。虽然这些终端承载的应用日趋复杂,但受限于设备尺寸、能耗与成本等因素,其本地算力、存储空间并不能无限提升,以至于成为应用体验持续提升的瓶颈。

 

面对这样的矛盾,行业意识到充分利用云端能力的优势赋能终端,打造端云协同的一体化服务才是最终实现万物智能化未来的解决之道。现如今,端云协同已经成为开发社区竞相研究的前沿技术方向,OPPO 也在积极探索端云一体,并帮助开发者在该领域快速成长。10 月 29 日举办的主题为“云无界、端无边”的 2022 OGeek 技术峰会便是 OPPO 为关注端云协同技术的开发者打造的一个交流平台。

 

“OGeek Day”是由 OPPO 数智工程系统主办的行业技术沙龙品牌,旨在为技术爱好者搭建一个技术交流和分享的开放平台。沙龙主要围绕“科技为人、以善天下”的品牌使命,聚焦于为智能终端提供安全高效的数据、算力、算法、云服务方面的前沿技术,打造技术互动的行业生态,探索技术在行业应用的实践、突破及未来发展方向。2022 年 10 月 29 日、30 日,2022 OGeek 技术峰会在 InfoQ 视频号进行直播,与各位开发者一起探讨音视频、云渲染、AIoT、一站式应用开发等热门技术的演进方向,共建端云协同生态。

 

2022 OGeek 技术峰会的主论坛特别邀请到了来自 OPPO、英特尔、阿里云、亚马逊云科技的多位专家,为大家描绘了一幅美好的“端云协同”技术蓝图。以下为精华内容整理:

一、端云智能协同,守望万物互融未来

 

在端云协同的语境中,终端厂商扮演着非常重要的角色。那么终端厂商该如何发挥云计算的作用,又该如何看待云与终端的关系,充分利用云的能力为终端赋能?OPPO 云计算中心总经理鲍永成为我们解答了这个问题。

 

在打造端云协同生态的道路上,OPPO 首先发力智能云建设方向。OPPO 为实施全球化战略,更好地服务全球亿级活跃用户,需要打造遍布各洲的云基础设施,实现高效率的资源交付、业务部署并保障业务高质量运行。

 

如今,OPPO 智能云服务于搜索、软件商店、游戏、金融、电商等互联网业务,以及芯片、IoT 等领域,月活用户突破 5 亿,数据规模超过 EB 级别。在智能云建设过程中,OPPO 团队打造了高并发、高可靠、高扩展性的全球混合云,拥有了从底层的计算存储网络到中间件、数据库、接入层、智能运维的完整的云服务体系,实现了云、大数据和人工智能的融合。在全球混合云平台的基础上,OPPO 开始打造端云协同的新一代智能云,突破云端与终端原有的交互模式,实现无边界、一体化的端云融合。

 

新一代 OPPO 智能云包含实时通信、云渲染、端云智能大脑、端云存储和 IoT 平台几大核心技术底座,使智能云成为终端的算力、存储和互联平台。基于这样的平台,OPPO 能够为用户提供大量创新性的服务,例如云端相册视频实时播放、云游戏一点即玩、基于实时云渲染的超写实数字人、 3D 云创作、虚拟现实的泛终端服务等,满足用户日益增长的工作、娱乐需求。

 

OPPO 智能云正在向更贴近终端的方向持续演进,OPPO 将以泛终端智能云为无处不在的元终端提供多样化、个性化、智能化的服务,实现端云协同、万物互融的愿景。

 

相比终端厂商,云计算厂商更关注云“创新业务”的技术探索。比如阿里云目前非常重视边缘云的创新业务探索与端云一体技术的研究,阿里云还同 OPPO 展开了紧密合作,共同打造端云协同的产品化落地方案。

 

随着 5G 和新技术相关产业的发展和演进,越来越多的业务场景从中心云下沉到边缘云,或者从终端上移到边缘云。边缘云能够为客户实现成本下降、用户体验提升和业务革新的价值。在本届峰会的主论坛上,阿里云智能边缘云产品负责人佘俊泉解析了阿里云在该领域的实践:

 

阿里云边缘云矩阵由 CDN 和 ENS 两大产品线组成。其中,边缘应用托管服务 ENS 是 IaaS 产品形态,发展四年来先后定义和统一了边缘云标准、完成了全国省市的全域节点覆盖,并规模落地了众多场景方案。阿里云边缘云采用统一的轻量化产品技术架构提供了计算、网络、存储、安全、中间件的产品能力,构建了 IaaS+PaaS 的边缘云组合产品矩阵。在端云协同场景中,阿里云边缘云主要能够为客户提供三大差异化价值:

  • 突破终端的兼容性、性能等限制,达成业务降本提效目标;

  • 分布式部署和调度,通过海量边缘云节点极大提升终端用户体验;

  • 将流量分发和互动控制在边缘,有效降低带宽成本。

 

在具体实践中,阿里云边缘云在云化机顶盒、云游戏和云渲染场景中都发挥了预期的作用。云化机顶盒方案帮助用户节省了机顶盒更新换代的成本,云游戏方案有效降低了大型 3D 手游的硬件运行门槛,云渲染方案则在淘宝“造物节”帮助手淘用户获得了实时虚拟互动的体验。此外,阿里云边缘云在交通、公共事业、新零售等领域也在不断挖掘应用场景,推动各行业架构升级。阿里云还与 OPPO 合作,成为了“云端一体”战略共生合作伙伴,在元宇宙时代加速走向虚实共生的数字化新纪元。

 

二、“硬件创新”将引领云计算的未来

 

云计算技术的发展与硬件技术的持续创新是分不开的。随着物联网、边缘计算的普及和端云协同理念的推广,行业对底层硬件技术提出了更高的需求。本届峰会主论坛上,以英特尔为代表的多家硬件厂商从硬件研发和创新的角度展望了未来云计算产业的底层演进路径。

 

在端云协同的大环境中,分布式计算资源非常普遍,大量数据需要在边缘生成和处理。与此同时,异构计算的需求增长需要更多样化的处理器与加速器组合。面对这样的需求,英特尔做了许多技术探索,并取得了战略性技术突破,英特尔中国区云与行业解决方案集团互联网行业总经理胡凯对于英特尔在该领域提出的解决方案做了详细介绍,他提到,“英特尔不仅在继续发展至强、酷睿、凌动等处理器产品线,还提供了 GPU、IPU 等专用加速器”。

 

随着全球对降低碳排放、减少碳足迹的目标逐渐形成共识,数据中心是碳排放的重要源头之一,为减少云计算产业的碳足迹,硬件厂商需要持续创新来提升服务器集群的能耗比。英特尔的新一代处理器都采用了更先进的制造工艺与一系列节能技术来节约电力、提升运行效率,英特尔公司还与合作伙伴共同研发了数据中心的液冷方案和行业标准。

 

另外,在云计算场景中,安全性是尤为重要的课题。大量用户的个人数据、知识产权、商业信息存储在云端,任何信息泄露或恶意使用事件都会造成灾难性后果。与此同时,大规模数据中心非常重视稳定性、可管理性与可维护性指标,需要尽可能减少运维成本和服务器离线时间。对此,英特尔公司开发了 SGS 安全指令技术来加密敏感数据,并通过服务器能效管理、智能健康检测、智能问题发现与分析等手段保障云端集群可用性。

 


在本届峰会主论坛上,亚马逊云科技首席架构师费良宏介绍了亚马逊云科技的软硬一体解决方案 Nitro System,通过定制的加密芯片、专为云计算构建的虚拟机管理程序、专用 SSD 与板卡等手段结合运用,打造了新一代云计算服务器平台。Nitro System 可以简化集群管理难度、提升存储容量、减少网络延迟和抖动、提供安全可靠的服务器运行环境,进而满足客户对安全性、可维护性、可用性的更高需求。

 

此外,亚马逊云科技升级了自主的 Graviton 处理器,涵盖了常见的 CPU 负载实例,最新的 Graviton 3 处理器在性能和性价比方面都有明显优势。还针对机器学习的推理和训练需求研发了 inferentia 与 trainium 加速芯片,在实践中体现出了显著的能耗比优势。

 

总体来看,硬件产品如今已经广泛应用在了云端基础设施与边缘计算场景中,并在制造业、零售企业、金融行业等领域构建了大量智能解决方案。其中,人工智能芯片产品为端云协同的 AI 应用提供了强大的算力支持,配套的软件环境也为开发者创造了门槛更低的开发环境。

 

未来的云计算需要更高的速度、更好的安全性与更突出的性价比,这也是英特尔等厂商持续为云产业量身定制软硬件、不断迭代进化的动力源泉。


三、"音视频+”是端云协同实践的主战场

 

音视频是互联网内容和流量的主要载体。随着网络通信技术的发展,互联网音视频的存在形式也出现了根本变化。本届技术峰会主论坛上,OPPO 音视频技术总监郑晓川为我们解读了端云协同新形势下,互联网实时音视频技术的发展图景,介绍了 OPPO 实时音视频平台 ORTC 的概况,并展望了未来实时音视频的繁荣生态。

 

3G、4G 时代,音视频应用以直播、点播为主,终端单纯接收内容。后 4G 时代及 5G 技术成熟后,音视频应用向实时音视频形式迭代,出现用户创作内容、多端互联互动、端云实时互动等特点。

 


未来,实时音视频互动将在社交娱乐、互动游戏、企业通讯、医疗、教育、金融和元宇宙等方向激发巨大市场潜力。

 

OPPO 对实时音视频技术非常重视,并建设了 ORTC 平台。早期的 ORTC 是为了满足 OPPO 手机之间的屏幕共享与远程操作需求而生,这也是 ORTC 的初代架构。第一代架构基于开源的 WebRTC 框架构建,深度整合大量自研技术,实现了 99.9% 的接通率、60% 的穿透成功率、200ms 以内的延时。在此基础上,ORTC 2.0 通过 SFU+MCU 的架构打造了端边云一体的平台,实现了全球范围的服务覆盖和稳定的服务质量。

 

在 ORTC 平台建设过程中,OPPO 注意到行业新兴的虚拟场景对端云协同的需求日益增长。ORTC 充分利用云端算力弥补终端性能不足的缺陷,通过实时云渲染技术将计算卸载到云端,并通过 ORTC 的超低延时串流在终端呈现内容,为用户提供高精度的虚拟场景。OPPO 将 ORTC 升级为端云协同的实时云渲染平台,从而满足云手机、云游戏等场景的需求。

 

图:ORTC 平台能力全景

 

ORTC 平台分为最底层的 IaaS 基础资源层、中间的 CPaaS 平台能力层与上层的多场景解决方案。平台覆盖了音频质量保障、AI 降噪、高并发、低延时等基础能力,加入了会议录制、白板协作、多端接入等场景能力,进一步扩展了捏脸换装、虚拟人空间库等元宇宙能力。

 

未来,ORTC 平台将会在智能家居、远程医疗、数字孪生、云端虚拟空间、CloudXR 等业务场景探索落地可能性。平台将进一步强化边缘计算、GPU 虚拟化、分布式渲染、低延时传播等能力,为上述场景构建技术底座。

 

四、从“IoT 平台技术架构演进”看端云协同

 

据相关机构预测,2026 年全球 IoT 市场规模将从目前的 6000 亿美元增长到 1.1 万亿美元,设备总量也将从 250 亿增长到 400 亿级别。OPPO 作为面向消费者的终端设备企业,对 IoT 市场,尤其是智能家居生态投入了大量资源,打造了自主的 IoT 平台。本届技术峰会主论坛的最后,OPPO 智能物联云技术总监夏舰波带来了这一主题的深度解析。

 

2021 年,全球智能家居产品出货量近 9 亿部,国内市场约 2.2 亿。虽然市场容量巨大,但国内头部厂商竞争颇为激烈,各厂商都开发了私有协议,不同厂商之间的产品难以互联互通,形成了各自封闭的生态孤岛。在这样的环境中,用户购买来自不同厂家的智能家居产品就需要安装多个 APP 进行控制,用户体验极为割裂。

 

面对这样的现状,OPPO 从 2018 年开始打造一个开放的 IoT 平台,希望能够为开发者赋能,有效连接来自不同厂商的设备和应用,实现设备间的互联互通,为用户提供智美生活的体验。 OPPO 总结了国外三大巨头的 IoT 架构经验,定义了 IoT 平台的几大核心能力:设备(连接)管理+数据管理+应用使能+云云服务。

 

值得一提的是,OPPO IoT 平台发展伊始就抱持着开放的心态与其他厂家展开合作。具体的合作过程分为云云合作、生态选品、开放赋能和智慧服务几个阶段。在“云云合作”阶段,OPPO 与 IoT 厂家共同制定互联协议,并提供低代码模型与 UI 工作台以方便开发者打造应用。

 


随着云云合作的推进,OPPO 开始转向生态选品方向,围绕安全守护、智能照明等五大场景重点构建智美生活体验。OPPO 精心打磨了 HeyThings IoT 平台,极大提升了用户体验。

 

紧接着,OPPO 开始重点攻关开放赋能方向,将 IoT 平台转向云端,面向外部厂家提供开放服务,吸引更多中小厂家参与生态建设。为此,OPPO 构建了一站式 IoT 开发服务云平台,重点打磨了 MQTT Broker、设备引擎与规则引擎三大核心组件。据悉,明年起,OPPO 将继续在 IoT 领域发力,力求打造更出色的 IoT 平台。

 

五、写在最后

 

本届 OGeek 技术峰会主论坛上,多位技术专家从多个视角解读了端云协同的技术趋势,展望了万物互联、互融、互通的美好未来。通过他们的分享,我们可以预见,在各大厂商的共同努力下,我们将拥有更美好的智慧生活体验。


本场直播评论区互动精华

Q:大量用户数据、商业信息都存储在云端,信息泄露问题,从硬件层面有什么解决方案吗?

 英特尔中国区云与行业解决方案集团互联网行业总经理胡凯:可以用机密计算在数据进行运算的过程中始终保持数据的安全性,隐私性和完整性。机密计算通过在硬件中创建了一块可信环境的计算空间,提升了计算的安全性。英特尔通过在硬件中提供的 Secure Guard  Extensions,即 SGX,达成了机密计算的要求。英特尔为了解决数据运行时加密问题,在 CPU 层面提供了 SGX 对加密运行环境支持,也就是说通过 SGX 在硬件层面提供了一个加密运行环境,电脑上任何软件,甚至操作系统,都触碰不到可信环境里面的明文内容。所以我们就可以放心地把想要运算的机密内容在这块可信环境里面做明文计算,这样做的优势是速度比较快,同时还能够保证运行在可信环境里的所有数据的安全性,可以保证云端用户数据和商业信息的安全。

 

亚马逊云科技首席架构师费良宏:数据安全从来不是一个孤立的问题,不要假设存在一种简单的办法就能够达成数据安全的目的。解决数据安全需要从平台、软件、硬件、架构、网络、存储等全方位入手才有可能满足我们对安全越来越高的要求。至于通过硬件层面实现这个目标,一个潜在的答案是机密计算。例如,我们可以将数据隔离在服务器内存的加密部分中,以确保它不能被访问或篡改。其典型的使用场景就是同态加密,使用加密数据执行复杂处理的。Amazon 的 Nitro Enclaves 就是其中的一个有效的解决方案,这意味着对数据操作可以从本地转移到云端完成诸如多方计算,处理高度敏感数据的任务。今天的机密计算倾向于公有云,但同时也存在多样化的需求,例如公有云、混合和私有云的部署等。任何级别的安全都需要相对应的成本,选择成熟且经济有效的技术方案是实现数据安全的重要环节。

Q:ORTC 平台从多终端、跨场景方面有哪些技术突破?

OPPO 音视频技术总监郑晓川:ORTC 平台作为 OPPO 实时互动平台,诞生的第一天就致力于多终端互联互通、助力业务多场景融合互动。在技术上,作为端端互联端云互通的桥梁,首先,ORTC 构建了覆盖全球的实时网络,实现全球终端/业务就近接入,端到端时延低于 200ms;其次,ORTC 的实时网络具备完整强大的分段 QoS 机制,在上行、中转、下行、接入等各个服务链路段注入自研的 FEC、RED、动态 Nack、Pacher 等抗弱网技术,保障了全链路 70% 抗丢包、1000ms 抗抖动能力。最后,ORTC 覆盖了几乎所有的软件操作系统和硬件设备的接入 SDK,并做到了轻量化,SDK 包括 安卓、iOS、C/C++、JS、Flutter、Electron、RTOS、Unity、Unreal 等等,并支持多人音视频、屏幕共享、互动白板、实时云渲染、富文本远场传输等能力,给业务插上业务场景创新的翅膀。

Q:OPPO 与 IoT 厂家一起制定了哪些互联协议?可以仔细讲讲吗?

 OPPO 智能物联云技术总监夏舰波:OPPO 和美的、VIVO 一起制定了 Heythings 云云对接协议,在此基础上我们扩展支持了海信、中移动、创维、奥克斯等 IoT 厂商的设备。通过云云对接的方式,OPPO 手机可以操控更多智能家居。同时 OPPO 是 CSA 联盟和 OLA 联盟的重要成员,积极参与 matter 标准和 OLA 标准智能家居协议的制定和推进。ColorOS 13 开始支持了 matter 设备的发现和操控。

公众号推荐:

2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。

AI 前线公众号
2022-11-02 12:237285
用户头像
鲁冬雪 InfoQ 主编

发布了 330 篇内容, 共 187.7 次阅读, 收获喜欢 267 次。

关注

评论

发布
暂无评论
发现更多内容

别找了,这份PDF是目前Java程序员最全面的学习文档,没有之一

Java架构之路

Java 程序员 架构 面试 编程语言

Java异常处理的9个最佳实践,看看自己是不是都用过?

geekymv

Java 异常处理

多线程之信号量(By C++)

赖猫

c++ 多线程

Rust太难?那是你没看到这套Rust语言学习万字指南!

华为云开发者联盟

rust 语言 开发语言

四面美团大众点评归来,分享一下我总结的面试题及解析:并发+spring+分布式+jvm+缓存+数据库

Java架构之路

Java 程序员 架构 面试 编程语言

花火交易所系统APP软件开发

系统开发

“关灯”看这出戏,依旧是百年至美

脑极体

【Java入门】Array

Albert

Java 七日更

关于自己的一个梦(控制)

Yuchen

情绪控制 心理 个人 控制感 自我思考

游戏自动化测试——局内战斗

行者AI

测试

架构师训练营第五周总结

Geek_xq

LeetCode题解:42. 接雨水,动态规划,JavaScript,详细注释

Lee Chen

算法 大前端 LeetCode

真香~~看完看阿里P8大牛手写的450页文档总结,我精通Java并发编程了

Java架构之路

Java 程序员 架构 面试 编程语言

美团五面+滴滴四面,复盘总结117道面试题,大厂套路展露无遗

Java架构之路

Java 程序员 架构 面试 编程语言

架构师系列11 微服务架构的思考

桃花原记

普本开发三年,每天两小时面试备战,2个月后五面阿里定级P7

Java架构之路

Java 程序员 架构 面试 编程语言

够屌!看完“大牛程序员必修16课”足足让你超越80%Java面试者!赶紧冲!

比伯

Java 编程 程序员 架构 面试

乘百度AI之风,媒体从业者们这样登上智能云端

脑极体

python3参考秘籍-附PDF下载

程序那些事

Python 程序那些事 Python秘籍 Python数据分析

微服务:服务本身的设计、维护以及治理

积极&丧

《迅雷链精品课》第十三课:PBFT算法

迅雷链

区块链

资深码农:拿下软件测试,只需掌握好这两种方法!

华为云开发者联盟

软件 工具 测试

自定义TBE算子入门,不妨从单算子开发开始

华为云开发者联盟

算法 算子 自定义

华为全栈AI技术干货深度解析,解锁企业AI开发“秘籍”

华为云开发者联盟

AI 全栈 开发

架构师训练营第五周作业

Geek_xq

领域驱动落地实现

星际行者

DDD 领域驱动

【得物技术】如何测试概率性事件-二项分布置信区间

得物技术

测试 开发 概率 得物 得物技术

一周信创舆情观察(12.14~12.20)

统小信uos

GitHub标星78.9K的算法宝典,让你分分钟刷爆LeetCode,更有“左神”精讲视频加持,金三银四offer手到擒来

程序员 面试 算法 架构师

刨根问底,kafka到底会不会丢消息

爱笑的架构师

kafka 消息队列 Kafka知识点 消息中间件 七日更

Hystrix-技术专题-基础运作原理

洛神灬殇

端云协同,打造万物智能化新未来_架构_鲁冬雪_InfoQ精选文章