写点什么

浪潮信息与智源研究院达成战略合作,共建大模型多元算力开源创新生态

  • 2024-12-25
    北京
  • 本文字数:1364 字

    阅读完需:约 4 分钟

大小:721.77K时长:04:06
浪潮信息与智源研究院达成战略合作,共建大模型多元算力开源创新生态

12 月 25 日,浪潮信息与智源研究院达成战略合作协议,双方将紧密协作共建大模型多元算力开源创新生态,提升大模型创新研发的算力效率,降低大模型应用开发的算力门槛。目前,智源 Triton 算子库 FlagGems 已正式接入浪潮信息的元脑企智 EPAI 企业大模型开发平台,助力企业实现更快速、更广泛、更高效的多元算力适配与使用。


面向应用,携手共建多元算力系统生态


人工智能的持续进步推动了算力多元化与模型多样化,在为产业注入创新活力的同时,也带来了较高的大模型应用开发技术门槛。元脑企智 EPAI(Enterprise Platform of AI) 是浪潮信息为企业 AI 大模型落地应用打造的高效、易用、安全的端到端开发平台,支持主流开源与闭源大模型的应用快速开发,可实现大模型应用在跨算力平台上的无感迁移,降低多元、多模的适配与试错成本。


FlagGems 是由智源研究院于 2024 年 6 月推出的面向多元算力的开源大模型通用算子库,在 Triton 生态开源开放的基础上,面向多元算力,遵循统一的中间语言、统一的算子接口和统一的开源算子库实现路径,以大模型需求为导向,为多元算力提供开源、统一、高效的算子层生态接入方案。截止 12 月,FlagGems 已提供超过 130 个大模型算子,是目前提供算子数量最多、覆盖广度最大的开源算子库。


此次,智源研究院携手浪潮信息,将 FlagGems 算子库与元脑企智 EPAI 内置的核心计算框架进行深度融合,旨在确保大模型应用开发能够使用高性能、跨硬件、多框架兼容的算子集合,顺利跨越各类硬件架构,满足多种开发框架的需求。现在,基于元脑企智 EPAI 大模型开发平台,企业可以利用针对大模型应用开发场景优化的先进算子集合,在多种算力平台上高效构建、优化和执行复杂的行业应用算法。在复杂的训练任务及实时性要求严苛的推理场景中,均能实现稳定且高效的运算性能。此外,企业也无需关心多元异构加速卡之间的软硬件差异,真正实现大模型应用在跨算力平台上的无缝开发与迁移。

智源研究院 × 浪潮信息:开源开放,产业协作破解多元多模挑战


算力产业在大模型技术趋势的推动下飞速发展,但硬件架构、指令集的差异及算子库的独立实现却形成了生态藩篱,显著提高了企业应用大模型的算力门槛,构建一个开源、统一、高效的多元算力系统生态显得尤为迫切。

 

智源研究院副院长兼总工程师林咏华表示:“元脑企智 EPAI 为企业提供从底层算力到上层应用的一站式支撑,而智源 FlagGems 提供了高性能、跨硬件、多框架兼容的大模型算子,二者如同精密的‘齿轮组’,确保模型在各类硬件架构中顺滑运转,适配多种开发框架需求,让主流大模型跨越硬件藩篱,无论是复杂的训练任务,还是实时性要求严苛的推理场景,均能稳定、高效运行,性能表现媲美原生模型。”


浪潮信息高级副总裁刘军表示:“在多元多模的产业格局下,AI 的产业化落地本质上是推动人工智能与百行千业的深度融合,浪潮信息元脑企智 EPAI 企业大模型开发平台与智源通用算子库 FlagGems 的全面对接,是双方解决生态离散,化解大模型产业化落地的算力转化和开发复杂等高门槛难题的重要举措,将为 AI 应用创新注入更强大、多元的算力支持,助力构建协同共生、开放共赢的多元算力系统生态,充分释放智能生产力。”


未来,浪潮信息将与智源研究院携手并进,持续推进硬件开放与软件开源,以开源开放、多元多模激发创新活力,以多元算力系统生态加速创新落地,协力共建一个更加高效、灵活、开放的人工智能应用生态。

 

2024-12-25 18:063326

评论

发布
暂无评论

一杯茶的时间,上手 Node.js

图雀社区

node.js

如何认识更多的朋友扩展社交朋友圈的质量

吃素的左撇子

人生 人脉

程序员的晚餐 | 5 月 14 日 虎皮青椒

清远

美食

游戏夜读 | 预测问题的硬核是?

game1night

数据与广告系列一:初识在线计算广告

黄崇远@数据虫巢

互联网 数据 广告

Web3极客日报 #139

谢锐 | Frozen

区块链 独立开发者 技术社区 Rebase Web3 Daily

我肝了一个月,给你写出了这本Java开发手册。

苹果看辽宁体育

Java25周年

手把手带你体验 HTTP/3

清远

产品不需要刻意强调创新

Xue Liang

产品 创新突破 PCon

这种场景你还写ifelse你跟孩子坐一桌去吧

小傅哥

小傅哥 drools ifelse 复杂代码优化 规则引擎使用

程序员的晚餐 | 5 月 10 日 能让你流泪的不只是洋葱

清远

美食

Java 真实笔试题2

旭霁

Java

低代码 .VS. 无代码

Jeff Kit

低代码 零代码

JVM源码分析之深入分析Object类finalize()方法的实现原理

猿灯塔

JVM

严选合伙人(一)

Neco.W

创业 合伙人 初创公司

回“疫”录(16):管控更加严格了

小天同学

疫情 回忆录 现实纪录 纪实

基于环信sdk在uni-app中快速开发多平台社交Demo

DT极客

Linux 容器化技术的前世今生(虚拟化、容器化、Docker)

Meandni

Docker 云计算 Linux 容器 虚拟机

ClickHouse为何如此之快?

nauu

数据库 大数据 OLAP Clickhouse

如何优雅的实现分布式锁

飘渺Jam

redis zookeeper 分布式锁

个人技术成长与发展

颇风

后端 技术人

看完这篇操作系统,和面试官扯皮就没问题了

苹果看辽宁体育

操作系统 计算机基础

Tomcat安全配置

wong

Tomccat security

程序员的晚餐 | 5 月 11 日 久违的大蒜的味道

清远

美食

记一次线上事故

编号94530

Java MySQL 故障分析 事故

Web3 极客日报#138

谢锐 | Frozen

区块链 独立开发者 技术社区 Rebase Web3 Daily

现在的我和未来的我之间的差距原来是态度,而它拉开我们彼此命运的距离。

叶小鍵

Java 中的 Mysql 时区问题

张晓辉

Java并发之AQS源码分析

指尖流逝

Java

练习英语口语的误区

董一凡

学习

程序员的晚餐 | 5 月 13 日 果木鸡丁的夏天

清远

美食

浪潮信息与智源研究院达成战略合作,共建大模型多元算力开源创新生态_芯片与网络_InfoQ_InfoQ精选文章