第四范式发布先知AIOS 5.1，升级支持GPU资源池化功能_AI&大模型_第四范式技术团队_InfoQ精选文章



 写点什么

登录/注册



大小：240.51K时长：01:22

第四范式发布先知AIOS 5.1，升级支持GPU资源池化功能

今天，第四范式先知 AIOS 5.1 版本正式发布。该版本新增 GPU 资源池化（vGPU）能力，实现对硬件集群平台化管理、算力资源的按需分配和快速调度，最多节省 80%的硬件成本，提高 GPU 综合利用率多达 5-10 倍。

第四范式先知 AIOS 5 是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标，在支持接入企业各类模态数据的基础上，提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力，实现端到端的行业大模型的构建、部署、管理服务。

在行业大模型的构建过程中，为进一步提高算力资源利用率，第四范式先知 AIOS 5.1 版本新增 GPU 资源池化（vGPU）能力，拥有五大技术亮点：

全面适配国产/非国产算力，支持混合部署与统一调度
算力和显存超分复用，算力切分精细到 1%，显存切分以 M 兆为单位
具备千卡级别分布式调度与管理能力
支持自定义隔离策略，实现共享或独享算力池
利用多任务共享及处理优化技术，推理性能提升 10 倍以上

了解产品详情，可致电 400-898-7788，或扫描下方二维码。

评论

发布

暂无评论

nginx+lua+redis实现灰度发布

京东科技开发者

如何杜绝LED舞台租赁屏事故的发生？

LED display LED显示屏虚拟演唱会市场舞台表演

云端新纪元：Cloud Studio引领开发与学习革命

洋井石化集团：以业务为中心，构建数字化洋井

用友智能财务

WebAssembly场景及未来

前端 Web Web 3.0 WebAssenbly

QT 软件外包开发流程

北京木奇移动技术有限公司

软件外包公司 QT开发公司 QT开发团队

【Elasticsearch】使用阿里云 infererence API 及 semantic text 进行向量搜索

阿里云大数据AI技术

elasticsearch 阿里云 API AI搜索

【玩转金融素材生成】探索交互式AIGC组合素材生成技术

京东科技开发者

在华为开发者空间，基于FunctionGraph快速部署在线画图工具

华为云开发者联盟

软件开发云主机 API 接口

AI工具百宝箱｜CodeArena：开源编程语言模型代码对决平台，等你来战！

解析$nextTick魔力，为啥大家都爱它？

京东科技开发者