AI实践哪家强?来 AICon, 解锁技术前沿,探寻产业新机! 了解详情
写点什么

面向 AI 大模型,腾讯云首次完整披露自研星脉高性能计算网络

  • 2023-06-27
    北京
  • 本文字数:1516 字

    阅读完需:约 5 分钟

面向AI大模型,腾讯云首次完整披露自研星脉高性能计算网络

 AIGC 的爆发除了带来算力上的挑战,对网络的要求也达到了前所未有的高度。

星脉高性能计算网络:最大带宽达 3.2T,可支持 10 万卡超大算力集群

 

6 月 26 日,腾讯云首次对外完整披露自研星脉高性能计算网络:星脉网络具备业界最高的 3.2T 通信带宽,能提升 40%的 GPU 利用率,节省 30%~60%的模型训练成本,为 AI 大模型带来 10 倍通信性能提升。基于腾讯云新一代算力集群 HCC,可支持 10 万卡的超大计算规模。

 

AIGC 的火爆带来 AI 大模型参数量从亿级到万亿级的飙升。为支撑海量数据的大规模训练,大量服务器通过高速网络组成算力集群,互联互通,共同完成训练任务。大集群不等于大算力,相反,GPU 集群越大,产生的额外通信损耗越多。大带宽、高利用率、信息无损,是 AI 大模型时代网络面临的核心挑战。

 

千亿、万亿参数规模的大模型,训练过程中通信占比最大可达 50%,传统低速网络的带宽远远无法支撑。同时,传统网络协议容易导致网络拥塞、高延时和丢包,而仅 0.1%的网络丢包就可能导致 50%的算力损失,最终造成算力资源的严重浪费。

 

基于全面自研能力,腾讯云在交换机、通信协议、通信库以及运营系统等方面,进行了软硬一体的升级和创新,率先推出业界领先的大模型专属高性能网络——星脉网络。

 


腾讯云副总裁王亚晨表示:“星脉网络是为大模型而生。它所提供的大带宽、高利用率以及零丢包的高性能网络服务,将助力算力瓶颈的突破,进一步释放 AI 潜能,全面提升企业大模型的训练效率,在云上加速大模型技术的迭代升级和落地应用。”

 

在硬件方面,星脉网络基于腾讯的网络研发平台,采用全自研设备构建互联底座,实现自动化部署和配置。

 

在软件方面,腾讯云自研的 TiTa 网络协议,采用先进的拥塞控制和管理技术,能够实时监测并调整网络拥塞,满足大量服务器节点之间的通信需求,确保数据交换流畅、延时低,实现高负载下的零丢包,使集群通信效率达 90%以上。

 

此外,腾讯云还为星脉网络设计了高性能集合通信库 TCCL,融入定制化解决方案,使系统实现了微秒级感知网络质量。结合动态调度机制合理分配通信通道,可以避免因网络问题导致的训练中断等问题,让通信时延降低 40%。

 

网络的可用性,也决定了整个集群的计算稳定性。为确保星脉网络的高可用,腾讯云自研了端到端的全栈网络运营系统,通过端网立体化监控与智能定位系统,将端网问题自动定界分析,让整体故障的排查时间由天级降低至分钟级。同时,大模型训练系统的整体部署时间从 19 天缩减至 4.5 天,保证基础配置 100%准确。

腾讯数据中心网络技术演进历程

 

星脉网络全方位的升级背后,是腾讯数据中心网络历经三代技术演进的成果。



在腾讯发展初期,数据中心网络流量主要由用户访问数据中心服务器的南北向流量构成,网络架构以接入、汇聚、出口为主。这一阶段主要使用了商用网络设备,搭建标准化数据中心网络,支撑 QQ 在线人数增长超过 1 亿,服务器规模增长超 10 万。

 

随着大数据和云计算的兴起,服务器之间的东西向流量逐渐增多,云租户对网络产生了虚拟化和隔离的要求。数据中心网络架构逐渐演变为同时承载南北向和东西向流量的云网络架构,腾讯云构建了全自研网络设备与管理系统,打造超大规模数据中心网络,服务器规模近 200 万台。

 

如今随着AI大模型的出现,腾讯云在国内率先推出高性能计算网络,采用东西向、南北向流量的分离架构。构建了独立的超大带宽、符合 AI 训练流量特征的网络架构,并配合自研软硬件设施,实现整套系统的自主可控,满足超强算力对网络性能的新需求。

 

日前,腾讯云发布的新一代 HCC 高性能计算集群,正是基于星脉高性能网络打造,可以实现 3.2T 超高互联带宽,算力性能较前代提升 3 倍,为 AI 大模型训练构筑可靠的高性能网络底座。

 

未来,腾讯云还将持续投入基础技术的研发,为各行各业的数智化转型提供有力的技术支撑。

2023-06-27 10:045914

评论

发布
暂无评论
发现更多内容

企评家,企业成长性评价系统怎么用?

企评家

企业成长性分析 企评家 企业投资价值评价

Kubernetes下Stdout日志白名单最佳实践

观测云

可观测性 可观测

硬之城获阿里云首批产品生态集成认证,携手阿里云共建新合作

阿里巴巴云原生

阿里云 云原生 合作伙伴 合作

Docker 实践经验(五)docker上部署 redis 三主三从集群

看,未来

云原生

直播回顾|携手 Opentelemetry 中国社区,走进可观测性

Daocloud 道客

云原生 可观测性

一份优秀的产品帮助文档怎么写?

小炮

【直播预告】研发效率百倍提升的秘密,这些破圈思路了解一下!

FinClip

小程序 finclip 直播预告

对象存储 S3 在分布式文件系统中的应用

焱融科技

对象存储 存储 分布式存储 云存储

易周金融分析 |“一参一控一牌”落地;两家支付机构更名

易观分析

金融 银行

ZooKeeper 在阿里巴巴的服务形态演进

阿里巴巴云原生

Apache zookeeper 阿里云 开源 云原生

11年程序员给本科、研究生应届生以及准备从事后台开发同学的建议,学习进阶之路

C++后台开发

后台开发 社招 应届生 Linux服务器开发 校招

Docker实践经验(二)镜像的构建、镜像仓库、压缩、导入

看,未来

书单 | 5月,这10本上榜新书带你打开新世界的大门!

博文视点Broadview

Spring之 @Component和@ComponentScan注解用法介绍和注意事项

echoes

未来已来:云原生时代(一)云计算如何一步步走来?

看,未来

未来已来:云原生时代(二)云计算发展现状调研

看,未来

云原生

Docker 实践经验(三):Docker 容器数据卷

看,未来

Docker实践经验(四)docker 上部署 mysql8 主从复制

看,未来

React 实现 PDF 文件在线预览 - 手把手教你写 React PDF 预览功能

蒋川

JavaScript react.js 低代码 CRM pdf预览

优秀标杆!华泰证券多芯协同云网管理平台

BoCloud博云

多云管理平台 多云管理

面向高校 | “云原生技术应用与实践”示范课程项目开放申报

阿里巴巴云原生

阿里云 云原生 云原生课程

Docker 实践经验(一)简介、安装与实操

看,未来

云原生

UniqueMergeTree:支持实时更新删除的ClickHouse表引擎

字节跳动数据平台

Clickhouse 表引擎 实时

「开源人的福音」一键部署Java构件到Sonatype

Jianmu

后端 持续集成 开源项目 部署 Java构件

自动驾驶等级家喻户晓,小微企业宽带等级你知道吗?

脑极体

国产ETL数据仓库调度平台TASKCTL对于Kettle作业类型的转换使用

敏捷调度TASKCTL

DevOps 数据仓库 kettle ETL 自动化运维

基于边缘计算的云游戏场景实践

火山引擎边缘云

最佳实践 边缘计算 实时音视频 云游戏

Vue进阶(贰零捌):ES6 对象解构

No Silver Bullet

ES6 5月月更 对象解构

什么是时序数据库

领创集团Advance Intelligence Group

架构实战营 - 第 6 期 模块七课后作业

乐邦

「架构实战营」

Docker 实践经验(六):Docker 网络

看,未来

云原生

面向AI大模型,腾讯云首次完整披露自研星脉高性能计算网络_腾讯_凌敏_InfoQ精选文章