NVIDIA 初创加速计划,免费加速您的创业启动 了解详情
写点什么

直击异构算力资源纳管困难,又一款智算操作系统重磅发布

  • 2024-04-19
    北京
  • 本文字数:1477 字

    阅读完需:约 5 分钟

大小:789.16K时长:04:29
直击异构算力资源纳管困难,又一款智算操作系统重磅发布

4 月 18 日,2024 九章云极 DataCanvas 智算操作系统新品发布会于北京召开,全新产品 DATACANVAS AIDC OS 智算操作系统(以下简称 AIDC OS)正式官宣。这款智算系统也成为了九章云极 DataCanvas 公司在“算法+算力”一体化 AI 服务战略旅程上全新的实践里程碑。

AIGC 时代,底层计算有多重要?

发布会上,九章云极 DataCanvas 公司董事长方磊深度剖析大模型影响下的计算世界的新方向和新机遇,揭示了当前底层计算变革的重要性和复杂性,并展望软件与硬件共同演进的相互影响和创新空间。他指出,软件定义算力的时代即将到来,AIDC OS 智算操作系统在这场变革中将起到关键作用。



 九章云极 DataCanvas 公司董事长方磊

 

当前,新一轮的底层计算变革正由大模型的崛起而引发。底层计算从来都是软件与硬件协同的结果,软件和硬件的紧密协作显得尤为重要,也各自迎来全新的机遇与挑战。

 

回顾计算世界的演变历程,一条共性的客观规律显而易见:硬件始终以满足最终计算需求为导向不断演进,而软件则以操作系统的形态作为桥梁,将硬件与应用无缝衔接。在这场变革中,随着硬件技术的不断发展和同质化趋势的加剧,软件的创新空间变得愈发广阔,其在变革中所扮演的角色也愈发重要。

 

在这一大背景下,AIFS 人工智能基础软件孕育出了巨大的发展机会,AIDC OS 智算系统也借着这股东风应运而生。

 

与传统服务于硬件的资源管理驱动不同,AIDC OS 智算系统以 AI 使用能力为驱动。它不仅关注硬件资源的有效管理和利用,更着眼于如何更好地满足终端用户对算力的核心需求:通过智能调度和优化配置,AIDC OS 致力于将可用的、好用的、经济的算力提供给使用者。

五大核心价值,链接底层硬件和大模型应用层


九章云极 DataCanvas 公司联合创始人暨 CTO 尚明栋正式发布 DATACANVAS AIDC OS 智算操作系统,他介绍,AIDC OS 智算操作系统在智算中心产业生态中处于中间位置,在底层硬件芯片和上层大模型之间建立了高效的链接。

 

AIDC OS 能够向下协同大规模 GPU 算力,确保硬件资源得到有效利用和高效管理;同时,向上提供完整的大模型工具链,为大模型训练和推理以及大模型应用提供便捷、高效的开发环境,满足复杂 AI 任务的需求。

 

直击异构算力资源纳管困难、算力调度能力不足且利用率低、AI 加速优化能力不足以及 AI 大模型训练微调门槛高等行业痛点,AIDC OS 在设计前期构建了告别“裸金属”、为 AI 而生、全局加速优化、异构算力纳管与调度和 1 度算力五大价值基核,并以此为根基设计产品功能。发布会上,尚明栋先生从核心价值出发,详细介绍了 AIDC OS 的亮点功能和性能。

 

  • 告别“裸金属”

通过构建多层次、全方位的算力需求满足机制,包含超级智算集群、弹性容器集群、GPU 云服务器、AI 容器实例等系列产品,为精准匹配和满足多样化规模及复杂度的算力需求提供保障。


  • 为 AI 而生

专注于人工智能核心任务,包括大模型的训练、微调、部署和推理等服务。提供集“算力、数据、算法、调度”为一体的融合服务,旨在推动人工智能产业化的创新发展。


  • 全局加速优化

实现并行加速、编译优化、内核加速、算法加速、内存优化、通信加速等六大加速,释放硬件效能。集群训练效率提升 100%,单卡利用率提升 50%;模型推理速度提高 4 倍,Token 吞吐量增加 5 倍。


  • 异构算力纳管与调度

提供包含国内外多种算力资源的适配、纳管、调度和优化。通过实时监控和管理各智算中心的智算设备,以及创新的调度算法,成功实现跨智算中心的海量算力智能调度,大幅提升算力资源的利用率。


  • 1 度算力

DATACANVAS AIDC OS 从用户视角出发,首次提出了统一的算力服务计量单位“度”(DCU),并用其实现标准化的算力计量计费,旨在为用户实现“买到即用到”的算力服务,为未来算力资源互联互通打下良性商业基础。

2024-04-19 17:374111
用户头像
李冬梅 加V:busulishang4668

发布了 814 篇内容, 共 381.4 次阅读, 收获喜欢 1002 次。

关注

评论

发布
暂无评论

Facebook宕机事故,暴露了上云不是唯一的答案

脑极体

粪菌移植的背后,肠道菌那些你不知道的事儿

脑极体

SpringBoot 实战:在 RequestBody 中优雅的使用枚举参数(原理篇)

看山

Java Spring Boot Effective Spring 10月月更

面试官:你说说ThreadLocal为什么会导致内存泄漏?

长河

Java

gRPC,爆赞

AlwaysBeta

golang 编程 gRPC 后端 Go 语言

拿蚂蚁offer,全靠阿里P8大牛总结的Java架构开发手册

Java 编程 程序员 架构 面试

业界良心啊!第五次更新的Spring Cloud Alibaba升级太多内容

Java 编程 程序员 IT 计算机

【Vuex 源码学习】第十二篇 - Vuex 插件机制的实现

Brave

源码 vuex 10月月更

阿里架构师总结Go语言和java语言之间的对比联系

hanaper

Serverless 工程实践 | 零基础上手 Knative 应用

阿里巴巴云原生

阿里云 Serverless 云原生 Knative

「架构师教程」二十年架构师「马士兵」大牛的Java高级架构师教程

Java 编程 程序员 IT 计算机

Node.js 日志之 winston 实践

devpoint

nodejs winston logger 10月月更

SSRF漏洞实例分析

网络安全学海

网络安全 信息安全 渗透测试 WEB安全 漏洞分析

并发相关的性质学习笔记

风翱

并发 10月月更

Prometheus 基础查询(一)

耳东@Erdong

Prometheus 10月月更

双非学历为进大厂天天刷Java面试题,面试却履败,原因竟是算法?

Java 编程 程序员 架构 IT

隐蔽的角落-这次我们只聊Cilium IPAM

Lance

面试作弊神器?!阿里P8亲自撰写的这份Java最新面试手册

Java 程序员 架构 面试 后端

Alibaba最新微服务持续集成,内含(Jenkins+Docker+Spring Cloud+K8S)

Java 架构 面试 程序人生 编程语言

ToB产品如何自传播(下)

石云升

产品经理 产品思维 10月月更

前后端、多语言、跨云部署,全链路追踪到底有多难?

阿里巴巴云原生

阿里云 云原生 全链路追踪

趣说Node.js的回调函数

Regan Yue

node.js JavaScrip Regan Yue 10月月更

linux中vi,vim操作技巧

入门小站

Linux

应用出海,如何使用苹果 CallKit 提升网络通话体验

融云 RongCloud

音视频 出海社交

学生试卷&答题结构redis存储

Nico

存量时代会员深度运营逻辑

boshi

深度思考 运营

Leetcode 题目解析:279. 完全平方数

程序员架构进阶

算法 LeetCode 动态规划 10月月更

Groovy记录(1)-GroovyClassLoader

春秋易简

Groovy

在线下划线转驼峰,驼峰转下划线工具

入门小站

工具

Groovy 记录(2)-CompilationUnit

春秋易简

实践篇 -- Redis客户端缓存在SpringBoot应用的探究

binecy

缓存 springboot redis sentinel

直击异构算力资源纳管困难,又一款智算操作系统重磅发布_操作系统_李冬梅_InfoQ精选文章