写点什么

第四范式发布先知 AIOS 5.1,升级支持 GPU 资源池化功能

  • 2024-07-23
    北京
  • 本文字数:433 字

    阅读完需:约 1 分钟

大小:240.51K时长:01:22
第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能

今天,第四范式先知 AIOS 5.1 版本正式发布。该版本新增 GPU 资源池化(vGPU)能力,实现对硬件集群平台化管理、算力资源的按需分配和快速调度,最多节省 80%的硬件成本,提高 GPU 综合利用率多达 5-10 倍。



第四范式先知 AIOS 5 是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标,在支持接入企业各类模态数据的基础上,提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力,实现端到端的行业大模型的构建、部署、管理服务。



在行业大模型的构建过程中,为进一步提高算力资源利用率,第四范式先知 AIOS 5.1 版本新增 GPU 资源池化(vGPU)能力,拥有五大技术亮点:

  • 全面适配国产/非国产算力,支持混合部署与统一调度

  • 算力和显存超分复用,算力切分精细到 1%,显存切分以 M 兆为单位

  • 具备千卡级别分布式调度与管理能力

  • 支持自定义隔离策略,实现共享或独享算力池

  • 利用多任务共享及处理优化技术,推理性能提升 10 倍以上

 

了解产品详情,可致电 400-898-7788,或扫描下方二维码。



2024-07-23 16:498903

评论

发布
暂无评论
发现更多内容

安全是最大的豪华!星纪元ET成功挑战31.9米空中坠落试验

极客天地

数据库、OS内核安全等精彩继续!龙蜥大讲堂 5 月直播预告来袭

OpenAnolis小助手

开源 操作系统 龙蜥大讲堂 龙蜥i社区

高情商程序员是如何沟通需求的?

养心进行时

需求 需求排序 需求变更 需求澄清 需求评审

AIGC时代IT人的迷茫有解(3):从“用户画像”到“个人职业画像”

养心进行时

职业规划 用户画像 #职业发展

锁定“场景”,告别“需求不明确”

养心进行时

需求 场景 场景化 场景化思维 需求澄清

锁定“用户人群”,远离“ 需求取舍难”

养心进行时

需求 用户 用户画像 需求澄清 需求评审

掌握高阶定位技巧:Xpath神功解析!

测试人

软件测试 自动化测试 测试开发 xpath

你的拖延,该不会是“约拿情结”吧?程序员的5个时间管理技巧

养心进行时

时间管理 拖延症

“芯”心相“蜥” 共筑未来!龙蜥社区走进兆芯 MeetUp 圆满结束

OpenAnolis小助手

开源 操作系统 Meetup 龙蜥社区

高情商程序员:5种类型的bug沟通有诀窍!

养心进行时

bug bug修复 bug管理 bug报告

AIGC时代IT人的迷茫有解(2):从“产品规划十步法”到“职业规划十步法”

养心进行时

职业规划 产品规划

将“安全”进行到底!星纪元ET挑战TOP Safety空中坠落试验现场大公开

极客天地

星纪元ET首次上演空中“自由落体”,极致安全实力无惧硬核极限挑战

极客天地

AIGC时代IT人的迷茫有解(1):从“商业画布”到“个人画布”

养心进行时

职业规划 商业画布 个人画布

Apache RocketMQ ACL 2.0 全新升级

阿里巴巴云原生

阿里云 云原生 Apache RocketMQ

开放原子&龙蜥社区 2 大学习赛首批获奖者名单公布

OpenAnolis小助手

开源 操作系统 龙蜥社区 人人都可以参与开源

HTTP Multipart 概述:一步步理解复杂数据传输

Apifox

前端 Web 后端 HTTP API

即时通讯技术文集(第37期):IM代码入门实践(Part1) [共16篇]

JackJiang

即时通讯;IM;网络编程

竞品调研- 19条小技巧快速收集竞品信息

养心进行时

竞品分析 竞品调研

需求做不完?7种“问句”用了没?

养心进行时

需求 需求排序 需求变更 需求澄清 需求评审

第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能_AI&大模型_第四范式技术团队_InfoQ精选文章