第四范式发布先知AIOS 5.1，升级支持GPU资源池化功能_AI&大模型_第四范式技术团队_InfoQ精选文章

智能体刷屏的背后，是 AI 应用拐点的来临？AICon 北京站议程重磅公布，50+ 硬核分享不容错过了解详情 



 写点什么

登录/注册



大小：240.51K时长：01:22

第四范式发布先知AIOS 5.1，升级支持GPU资源池化功能

今天，第四范式先知 AIOS 5.1 版本正式发布。该版本新增 GPU 资源池化（vGPU）能力，实现对硬件集群平台化管理、算力资源的按需分配和快速调度，最多节省 80%的硬件成本，提高 GPU 综合利用率多达 5-10 倍。

第四范式先知 AIOS 5 是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标，在支持接入企业各类模态数据的基础上，提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力，实现端到端的行业大模型的构建、部署、管理服务。

在行业大模型的构建过程中，为进一步提高算力资源利用率，第四范式先知 AIOS 5.1 版本新增 GPU 资源池化（vGPU）能力，拥有五大技术亮点：

全面适配国产/非国产算力，支持混合部署与统一调度
算力和显存超分复用，算力切分精细到 1%，显存切分以 M 兆为单位
具备千卡级别分布式调度与管理能力
支持自定义隔离策略，实现共享或独享算力池
利用多任务共享及处理优化技术，推理性能提升 10 倍以上

了解产品详情，可致电 400-898-7788，或扫描下方二维码。

评论

发布

暂无评论

Binder源码阅读指南之java层，Java程序员如何有效提升学习效率

Java 程序员后端

CPU战争40年，终于把Intel打趴下了，字节跳动两轮面试让等hr

Java 程序员后端

鸿蒙生态的2021：像犀牛在丛林飞

第 2 周作业

「架构实战营」

avatar Logo，nginx负载均衡算法及原理

Java 程序员后端

client-go实战之一：准备工作，干货分享

Java 程序员后端

Flink1，java从入门到精通第四版pdf下载

Java 程序员后端

BAT大厂Java面试必备：20道最新JVM面试题（含答案

Java 程序员后端

Flink on Yarn三部曲之一：准备工作，java开发校招面试题

Java 程序员后端

架构实战营模块二作业

「架构实战营」

CAS都不了解，你还怎么看J-U-C，下载量瞬秒百万

Java 程序员后端

apiserver源码分析——启动流程，java工程师技术栈

Java 程序员后端

Dijkstra求最短路算法 ( 超级超级详细的 ) 不断更新中

Java 程序员后端

Docker系列(3)--容器连接和Dockerfile，kafka的原理

Java 程序员后端

爽！字节大佬DDD（领域驱动设计）巅峰之作，拆解业务代码真好用

编程程序员字节

elasticsearch实战三部曲之二：文档操作，java基础填空题

Java 程序员后端

as-if-serial规则和happens-before规则的区别

Java 程序员后端

docker-compose下的java应用启动顺序两部曲之二：实战

Java 程序员后端

Elasticsearch查询速度为什么这么快？看啥？问你呢

Java 程序员后端

CDH+Kylin三部曲之二：部署和设置，java项目百度网盘

Java 程序员后端

DL4J实战之五：矩阵操作基本功，微服务架构技术栈

Java 程序员后端

Docker 从入门到实践系列三 - Docker 常用命令

Java 程序员后端

Dubbo面试题，mybatis架构图

Java 程序员后端

git(8)Git 与其他系统，高性能mysql第四版pdf百度云

Java 程序员后端

git(9)Git 内部原理，nginx模块工作原理

Java 程序员后端

CentOS部署Harbor镜像仓库，java进阶训练营百度网盘

Java 程序员后端

ECMAScript6（ES6）基础语法，linux基础及应用教程第二版

Java 程序员后端

Elasticsearch聚合学习之二：区间聚合，java中高级面试题大全

Java 程序员后端

Elasticsearch聚合学习之五：排序结果不准的问题分析

Java 程序员后端

flex 布局详解，我是如何收割多家大厂offer的

Java 程序员后端

apollo在Spring boot加载过程解析，redis单线程原理

Java 程序员后端