第四范式发布先知AIOS 5.1，升级支持GPU资源池化功能_AI&大模型_第四范式技术团队_InfoQ精选文章



 写点什么

登录/注册



大小：240.51K时长：01:22

第四范式发布先知AIOS 5.1，升级支持GPU资源池化功能

今天，第四范式先知 AIOS 5.1 版本正式发布。该版本新增 GPU 资源池化（vGPU）能力，实现对硬件集群平台化管理、算力资源的按需分配和快速调度，最多节省 80%的硬件成本，提高 GPU 综合利用率多达 5-10 倍。

第四范式先知 AIOS 5 是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标，在支持接入企业各类模态数据的基础上，提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力，实现端到端的行业大模型的构建、部署、管理服务。

在行业大模型的构建过程中，为进一步提高算力资源利用率，第四范式先知 AIOS 5.1 版本新增 GPU 资源池化（vGPU）能力，拥有五大技术亮点：

全面适配国产/非国产算力，支持混合部署与统一调度
算力和显存超分复用，算力切分精细到 1%，显存切分以 M 兆为单位
具备千卡级别分布式调度与管理能力
支持自定义隔离策略，实现共享或独享算力池
利用多任务共享及处理优化技术，推理性能提升 10 倍以上

了解产品详情，可致电 400-898-7788，或扫描下方二维码。

评论

发布

暂无评论

JavaScript07 - 流程控制语句

吐血整理：推荐几款顶级好用的IDEA插件

Java intellij-idea idea插件

认识产品经理

JVM 垃圾收集算法

JVM 垃圾回收算法

JavaScript08 - 数组

深入理解MVCC与间隙锁

关于价值、目标、任务的思考

架构师训练营 4 期第4周

架构师训练营 4 期

「架构师训练营 4 期」第四周 - 002

泪目！为什么Flutter能最好地改变移动开发？成功收获美团，小米安卓offer

欢喜学安卓

android 程序员面试移动开发

第4周总结-系统架构

架构师训练营 4 期

商务部CECBC区块链专委会副主任、数字经济商学院院长吴桐：建立完善稳健的基础设施加速区块链与产业深度融合

「产品经理训练营」作业02：利益相关方识别

产品经理训练营

【JS】Array.of() 创建数组

德育处主任

JavaScript 大前端 js ES6 28天写作

五分钟学会模板模式

CSS（二）——CSS核心基础

程序员的时光

CSS 程序员七日更 28天写作

Python 中 lru_cache 的使用和实现

Python 源码分析 LRU

JavaScript06 - 操作符

GNUCash 2: 缺点

GNUCash 28天写作

【函数计算实践】一个应用案例

程序员架构进阶

阿里云架构项目实战函数计算 28天写作

能源革命背后的牛公司 (28天写作 Day16/28)

28天写作能源革命

第4周课后练习-系统架构

架构师训练营 4 期

人民日报——大力发展数字经济

Scrum Patterns:Sprint计划会(译)

敏捷译文 Agile Scrum Patterns

【JS】Array.from() 将伪数组转换成数组

德育处主任

JavaScript js ES6 array 28天写作

老师讲的真棒！2021Android精选面试实战总结整理，分享PDF高清版

欢喜学安卓

android 程序员面试移动开发

C++静态链接符号冲突的几种处理方法

自动泊车初步了解 (28天写作 Day17/28)

自动驾驶 28天写作自动泊车

“区块链+产业应用”系列研讨会首场“大健康产业篇”在深圳举行

优雅编码 | 18个Javascript代码的小技巧

代码优化优雅

Java-可重入锁

Java 可重入锁