在 2025 收官前,看清 Data + AI 的真实走向,点击查看 BUILD 大会精华版 了解详情
写点什么

第四范式发布先知 AIOS 5.1,升级支持 GPU 资源池化功能

  • 2024-07-23
    北京
  • 本文字数:433 字

    阅读完需:约 1 分钟

大小:240.51K时长:01:22
第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能

今天,第四范式先知 AIOS 5.1 版本正式发布。该版本新增 GPU 资源池化(vGPU)能力,实现对硬件集群平台化管理、算力资源的按需分配和快速调度,最多节省 80%的硬件成本,提高 GPU 综合利用率多达 5-10 倍。



第四范式先知 AIOS 5 是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标,在支持接入企业各类模态数据的基础上,提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力,实现端到端的行业大模型的构建、部署、管理服务。



在行业大模型的构建过程中,为进一步提高算力资源利用率,第四范式先知 AIOS 5.1 版本新增 GPU 资源池化(vGPU)能力,拥有五大技术亮点:

  • 全面适配国产/非国产算力,支持混合部署与统一调度

  • 算力和显存超分复用,算力切分精细到 1%,显存切分以 M 兆为单位

  • 具备千卡级别分布式调度与管理能力

  • 支持自定义隔离策略,实现共享或独享算力池

  • 利用多任务共享及处理优化技术,推理性能提升 10 倍以上

 

了解产品详情,可致电 400-898-7788,或扫描下方二维码。



2024-07-23 16:499177

评论

发布
暂无评论
发现更多内容

跨平台应用开发进阶(二十一) :uni-app 路由传参参数丢失问题解决方案探究

No Silver Bullet

uni-app 跨平台应用 参数传递 12月月更 参数丢失

springboot整合quartz实现定时任务优化

@下一站

12月日更 12月月更 springboot整合 springboot整合quartz

架构训练营第10期模块二作业

刘博

实战训练营-模块八消息队列数据库设计

Geek_b35d92

《绩效领导力:使用OKR成就超出期望的未来组织》读后感

Bruce Talk

OKR 敏捷

微服务真的是万能解药吗?

Jackpop

如何使用DDD进行设计

SkyFire

DDD

MySQL数据库迁移到国产数据库Gbase 8s

@下一站

程序设计 国产数据库 12月日更 12月月更 Gbase8s

微信朋友圈高性能复杂度分析

你敢

高性能 微信朋友圈 架构实战营 模块二

URI和URL的区别

穿过生命散发芬芳

url 12月月更

微信朋友圈之高性能架构设计

Geek_7d539e

架构实战营模块2作业

程序员小张

「架构实战营」

架构实战营第 10 期-模块二作业:微信朋友圈高性能复杂度分析

kaizen

「架构实战营」

消息队列MySQL物理模型设计

π

架构师实战营

2022-12-18:给定一个长度为n的二维数组graph,代表一张图, graph[i] = {a,b,c,d} 表示i讨厌(a,b,c,d),讨厌关系为双向的, 一共有n个人,编号0~n-1, 讨

福大大架构师每日一题

算法 rust 福大大

架构训练营模块二作业

现在不学习马上变垃圾

#架构实战营

架构实战营10期-作业2

炮仗

【MindStudio训练营第一季】基于MindX的U-Net网络的工业质检实践作业

Angel Wings

华为 AI CANN MindStudio Ascend

SpringBoot3.0自定义stater整合chatGPT49种应用场景代码已开源

非喵鱼

Java springboot openai ChatGPT

跨平台应用开发进阶(十九) :position:fixed 虚拟按键触发后无法生效问题分析及解决方案探究

No Silver Bullet

uni-app 跨平台 自定义组件 12月月更 虚拟按键

第二周作业

不爱学习的程序猿

作业

2 微信朋友圈高性能架构

梁山伯

运维进阶训练营 -W08H

b1a2e1u1u

运维

Verilog的多分支语句

芯动大师

Verilog Verilog语法 Verilog多分支语句

架构十期--模块二作业

许你丶

架构训练营10期

别只关注chatGPT能不能写论文了,它还支持49中场景,代码都给你写好了,速领

非喵鱼

Java Python JavaScript openai ChatGPT

模块二-作业:朋友圈高性能架构

unique

软件测试 | 测试开发 |面试真题 | 需求评审中从几个方面发现问题

测吧(北京)科技有限公司

测试

跨平台应用开发进阶(二十三) :一文走近 testflight 上架

No Silver Bullet

uni-app testflight 12月月更 应用上架

Windows命令行到底有多强大?

Jackpop

软件测试 | 测试开发 | 校招面试 | 一面试就紧张,怎么办?

测吧(北京)科技有限公司

第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能_AI&大模型_第四范式技术团队_InfoQ精选文章