写点什么

浪潮信息与智源研究院达成战略合作,共建大模型多元算力开源创新生态

  • 2024-12-25
    北京
  • 本文字数:1364 字

    阅读完需:约 4 分钟

大小:721.77K时长:04:06
浪潮信息与智源研究院达成战略合作,共建大模型多元算力开源创新生态

12 月 25 日,浪潮信息与智源研究院达成战略合作协议,双方将紧密协作共建大模型多元算力开源创新生态,提升大模型创新研发的算力效率,降低大模型应用开发的算力门槛。目前,智源 Triton 算子库 FlagGems 已正式接入浪潮信息的元脑企智 EPAI 企业大模型开发平台,助力企业实现更快速、更广泛、更高效的多元算力适配与使用。


面向应用,携手共建多元算力系统生态


人工智能的持续进步推动了算力多元化与模型多样化,在为产业注入创新活力的同时,也带来了较高的大模型应用开发技术门槛。元脑企智 EPAI(Enterprise Platform of AI) 是浪潮信息为企业 AI 大模型落地应用打造的高效、易用、安全的端到端开发平台,支持主流开源与闭源大模型的应用快速开发,可实现大模型应用在跨算力平台上的无感迁移,降低多元、多模的适配与试错成本。


FlagGems 是由智源研究院于 2024 年 6 月推出的面向多元算力的开源大模型通用算子库,在 Triton 生态开源开放的基础上,面向多元算力,遵循统一的中间语言、统一的算子接口和统一的开源算子库实现路径,以大模型需求为导向,为多元算力提供开源、统一、高效的算子层生态接入方案。截止 12 月,FlagGems 已提供超过 130 个大模型算子,是目前提供算子数量最多、覆盖广度最大的开源算子库。


此次,智源研究院携手浪潮信息,将 FlagGems 算子库与元脑企智 EPAI 内置的核心计算框架进行深度融合,旨在确保大模型应用开发能够使用高性能、跨硬件、多框架兼容的算子集合,顺利跨越各类硬件架构,满足多种开发框架的需求。现在,基于元脑企智 EPAI 大模型开发平台,企业可以利用针对大模型应用开发场景优化的先进算子集合,在多种算力平台上高效构建、优化和执行复杂的行业应用算法。在复杂的训练任务及实时性要求严苛的推理场景中,均能实现稳定且高效的运算性能。此外,企业也无需关心多元异构加速卡之间的软硬件差异,真正实现大模型应用在跨算力平台上的无缝开发与迁移。

智源研究院 × 浪潮信息:开源开放,产业协作破解多元多模挑战


算力产业在大模型技术趋势的推动下飞速发展,但硬件架构、指令集的差异及算子库的独立实现却形成了生态藩篱,显著提高了企业应用大模型的算力门槛,构建一个开源、统一、高效的多元算力系统生态显得尤为迫切。

 

智源研究院副院长兼总工程师林咏华表示:“元脑企智 EPAI 为企业提供从底层算力到上层应用的一站式支撑,而智源 FlagGems 提供了高性能、跨硬件、多框架兼容的大模型算子,二者如同精密的‘齿轮组’,确保模型在各类硬件架构中顺滑运转,适配多种开发框架需求,让主流大模型跨越硬件藩篱,无论是复杂的训练任务,还是实时性要求严苛的推理场景,均能稳定、高效运行,性能表现媲美原生模型。”


浪潮信息高级副总裁刘军表示:“在多元多模的产业格局下,AI 的产业化落地本质上是推动人工智能与百行千业的深度融合,浪潮信息元脑企智 EPAI 企业大模型开发平台与智源通用算子库 FlagGems 的全面对接,是双方解决生态离散,化解大模型产业化落地的算力转化和开发复杂等高门槛难题的重要举措,将为 AI 应用创新注入更强大、多元的算力支持,助力构建协同共生、开放共赢的多元算力系统生态,充分释放智能生产力。”


未来,浪潮信息将与智源研究院携手并进,持续推进硬件开放与软件开源,以开源开放、多元多模激发创新活力,以多元算力系统生态加速创新落地,协力共建一个更加高效、灵活、开放的人工智能应用生态。

 

2024-12-25 18:063823

评论

发布
暂无评论

作为一名后台开发人员,你必须知道的两种过滤器

C++后台开发

后台开发 后端开发 Linux服务器开发 C/C++后台开发 C/C++开发

@Entity 里面的 JPA 注解

Damon

7月月更

springMvc参数获取

沃德

Java 7月月更

OSI模型第一层:物理层,基石般的存在!

wljslmz

物理层 网络技术 OSI模型 7月月更

OpenIM重大升级-群聊读扩散模型发布 群管理功能升级

Geek_1ef48b

阿里二面:什么是CAS?

Java永远的神

Java 程序员 面试 程序人生 CAS

大规模团队中的敏捷测试实践

刘冉

敏捷测试

Vue Router 守卫

程序员海军

Vue 7月月更

类的基础

GalaxyCreater

Docker安装Elasticsearch、ik分词器、可视化工具

宁在春

Docker Elastic Stack 7月月更

面试官:MySQL 数据库查询慢,除了索引问题还可能是什么原因?

Java全栈架构师

Java MySQL 数据库 面试 后端

李宏毅《机器学习》丨7. Conclusion(总结)

AXYZdong

7月月更

图的存储结构与方法(二)

乔乔

7月月更

深入浅出边缘云 | 1. 概述

俞凡

架构 边缘计算 网络 深入浅出边缘云

SpringBoot项目使用Tomcat为什么让大厂禁止?

Java程序员

Java 程序员 Sprint Boot

OpenIM重大优化-消息按需加载 一致性缓存 uniapp发布

Geek_1ef48b

Java开发环境配置 / Vscode搭建

攻城狮杰森

Java jdk 7月月更

【Go实现】实践GoF的23种设计模式:观察者模式

元闰子

Go 设计模式 观察者模式 Go 语言

7大专题详解SpringBoot,阿里这套SpringBoot全栈笔记真香

Java永远的神

Java 程序员 面试 程序人生 springboot

全新出品!Github总榜排行第七的SpringCloud生态全栈笔记我粉了

Java全栈架构师

Java 程序员 面试 微服务 SpringCloud

mysql进阶(十九)SQL语句如何精准查找某一时间段的数据

No Silver Bullet

MySQL 7月月更 精确查找

界面设计四大原则

空城机

设计模式 7月月更

基于 Web SDK 实现视频通话场景 | 声网 SDK 教程

RTE开发者社区

视频 SDK 教程

python小知识-代码规范最佳实践

AIWeker

7月月更 pyhon小知识

IntelliJ IDEA使用

GalaxyCreater

Java IDEA

一时跳槽一时爽,一直跳槽一直爽?

KEY.L

7月月更

参与开源社区还有证书拿?

玩转Devop和研发效能DevStream/DevLake

GitHub 开源 开发者 证书

多线程&高并发(全网最新:面试题+导图+笔记)面试手稳心不慌

冉然学Java

Java 编程 多线程并发 高并发系统 资料分享

做一个有职业操守的软件匠人

Bruce Talk

技术 敏捷 TDD Agile

12张图+6K字图解ZGC垃圾回收器及调优技巧

程序员小毕

程序员 面试 程序人生 ZGC JVM

自动驾驶产品化竞备开启:百度Apollo如何定义量产车?

脑极体

浪潮信息与智源研究院达成战略合作,共建大模型多元算力开源创新生态_芯片与网络_InfoQ_InfoQ精选文章