2天时间,聊今年最热的 Agent、上下文工程、AI 产品创新等话题。2025 年最后一场~ 了解详情
写点什么

第四范式发布先知 AIOS 5.1,升级支持 GPU 资源池化功能

  • 2024-07-23
    北京
  • 本文字数:433 字

    阅读完需:约 1 分钟

大小:240.51K时长:01:22
第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能

今天,第四范式先知 AIOS 5.1 版本正式发布。该版本新增 GPU 资源池化(vGPU)能力,实现对硬件集群平台化管理、算力资源的按需分配和快速调度,最多节省 80%的硬件成本,提高 GPU 综合利用率多达 5-10 倍。



第四范式先知 AIOS 5 是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标,在支持接入企业各类模态数据的基础上,提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力,实现端到端的行业大模型的构建、部署、管理服务。



在行业大模型的构建过程中,为进一步提高算力资源利用率,第四范式先知 AIOS 5.1 版本新增 GPU 资源池化(vGPU)能力,拥有五大技术亮点:

  • 全面适配国产/非国产算力,支持混合部署与统一调度

  • 算力和显存超分复用,算力切分精细到 1%,显存切分以 M 兆为单位

  • 具备千卡级别分布式调度与管理能力

  • 支持自定义隔离策略,实现共享或独享算力池

  • 利用多任务共享及处理优化技术,推理性能提升 10 倍以上

 

了解产品详情,可致电 400-898-7788,或扫描下方二维码。



2024-07-23 16:499038

评论

发布
暂无评论
发现更多内容

鸿蒙应用示例: flexGrow 与 layoutWeight 布局属性比较

zhongcx

鸿蒙应用示例:镂空效果实现教程

zhongcx

鸿蒙应用示例:单例工具类实现防抖动策略

zhongcx

鸿蒙应用示例:应用开发中的动态获取属性与调用方法技巧

zhongcx

鸿蒙应用示例:工作中常用的日期时间处理方法

zhongcx

鸿蒙应用示例:跨组件通信实践父组件调用子组件方法及状态共享

zhongcx

鸿蒙应用示例:ArkTS中实现一键置灰功能

zhongcx

鸿蒙应用示例:DevEco Studio实用技巧

zhongcx

鸿蒙开发案例:一个简单的扫雷游戏应用

zhongcx

别分管理与实践,质量体系是一个整体

BY林子

质量管理 软件质量 质量体系

鸿蒙应用示例:键盘管理从避免遮挡到显示监听的方案实践

zhongcx

鸿蒙应用示例:API功能集成示例及注意事项

zhongcx

曲面LED屏:视觉革新与使用优势的深入分析

Dylan

技术 视觉 LED display LED显示屏 市场

公开课 | 金九银十,测试开发面试秘籍大公开!

测试人

软件测试

鸿蒙应用示例:状态管理与UI刷新机制从@State到@ObservedV2的进阶

zhongcx

鸿蒙开发案例:实现数字华容道游戏

zhongcx

鸿蒙应用示例:舒尔特方格游戏实现

zhongcx

鸿蒙开发案例:实现一个带AI的井字游戏(Tic Tac Toe)

zhongcx

首届中国室内AI设计大赛启动,美学与科技助力,助力产业新增长!

极客天地

鸿蒙应用示例:基于 promptAction 封装全局弹窗工具类

zhongcx

鸿蒙应用示例:Java与ArkTS中的方法重载及数值类型对比

zhongcx

鸿蒙应用示例:ArkTS中设置颜色透明度与颜色渐变方案探讨

zhongcx

鸿蒙应用示例:ArkTS UI框架中的文本缩进技巧

zhongcx

鸿蒙应用示例:实现文本高亮与自动换行

zhongcx

鸿蒙应用示例:DevEco Testing 工具的常用功能及使用场景

zhongcx

鸿蒙开发案例:HarmonyOS NEXT语法实现2048

zhongcx

云栖实录 | 智能运维年度重磅发布及大模型实践解读

阿里云大数据AI技术

运维 云原生 gitops 智能运维 大模型

【论文速读】| AutoSafeCoder:通过静态分析和模糊测试保障LLM代码生成安全的多智能体框架

云起无垠

鸿蒙应用示例:NEXT 中 Map 类型的使用及注意事项

zhongcx

实测9款AI文件助手!原来最好用的并不是全网称赞的谷歌NotebookLM...

可信AI进展

人工智能、

NocoBase 与 Appsmith:哪个低代码平台更适合你?

NocoBase

低代码 开发工具 无代码

第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能_AI&大模型_第四范式技术团队_InfoQ精选文章