写点什么

浪潮信息与智源研究院达成战略合作,共建大模型多元算力开源创新生态

  • 2024-12-25
    北京
  • 本文字数:1364 字

    阅读完需:约 4 分钟

大小:721.77K时长:04:06
浪潮信息与智源研究院达成战略合作,共建大模型多元算力开源创新生态

12 月 25 日,浪潮信息与智源研究院达成战略合作协议,双方将紧密协作共建大模型多元算力开源创新生态,提升大模型创新研发的算力效率,降低大模型应用开发的算力门槛。目前,智源 Triton 算子库 FlagGems 已正式接入浪潮信息的元脑企智 EPAI 企业大模型开发平台,助力企业实现更快速、更广泛、更高效的多元算力适配与使用。


面向应用,携手共建多元算力系统生态


人工智能的持续进步推动了算力多元化与模型多样化,在为产业注入创新活力的同时,也带来了较高的大模型应用开发技术门槛。元脑企智 EPAI(Enterprise Platform of AI) 是浪潮信息为企业 AI 大模型落地应用打造的高效、易用、安全的端到端开发平台,支持主流开源与闭源大模型的应用快速开发,可实现大模型应用在跨算力平台上的无感迁移,降低多元、多模的适配与试错成本。


FlagGems 是由智源研究院于 2024 年 6 月推出的面向多元算力的开源大模型通用算子库,在 Triton 生态开源开放的基础上,面向多元算力,遵循统一的中间语言、统一的算子接口和统一的开源算子库实现路径,以大模型需求为导向,为多元算力提供开源、统一、高效的算子层生态接入方案。截止 12 月,FlagGems 已提供超过 130 个大模型算子,是目前提供算子数量最多、覆盖广度最大的开源算子库。


此次,智源研究院携手浪潮信息,将 FlagGems 算子库与元脑企智 EPAI 内置的核心计算框架进行深度融合,旨在确保大模型应用开发能够使用高性能、跨硬件、多框架兼容的算子集合,顺利跨越各类硬件架构,满足多种开发框架的需求。现在,基于元脑企智 EPAI 大模型开发平台,企业可以利用针对大模型应用开发场景优化的先进算子集合,在多种算力平台上高效构建、优化和执行复杂的行业应用算法。在复杂的训练任务及实时性要求严苛的推理场景中,均能实现稳定且高效的运算性能。此外,企业也无需关心多元异构加速卡之间的软硬件差异,真正实现大模型应用在跨算力平台上的无缝开发与迁移。

智源研究院 × 浪潮信息:开源开放,产业协作破解多元多模挑战


算力产业在大模型技术趋势的推动下飞速发展,但硬件架构、指令集的差异及算子库的独立实现却形成了生态藩篱,显著提高了企业应用大模型的算力门槛,构建一个开源、统一、高效的多元算力系统生态显得尤为迫切。

 

智源研究院副院长兼总工程师林咏华表示:“元脑企智 EPAI 为企业提供从底层算力到上层应用的一站式支撑,而智源 FlagGems 提供了高性能、跨硬件、多框架兼容的大模型算子,二者如同精密的‘齿轮组’,确保模型在各类硬件架构中顺滑运转,适配多种开发框架需求,让主流大模型跨越硬件藩篱,无论是复杂的训练任务,还是实时性要求严苛的推理场景,均能稳定、高效运行,性能表现媲美原生模型。”


浪潮信息高级副总裁刘军表示:“在多元多模的产业格局下,AI 的产业化落地本质上是推动人工智能与百行千业的深度融合,浪潮信息元脑企智 EPAI 企业大模型开发平台与智源通用算子库 FlagGems 的全面对接,是双方解决生态离散,化解大模型产业化落地的算力转化和开发复杂等高门槛难题的重要举措,将为 AI 应用创新注入更强大、多元的算力支持,助力构建协同共生、开放共赢的多元算力系统生态,充分释放智能生产力。”


未来,浪潮信息将与智源研究院携手并进,持续推进硬件开放与软件开源,以开源开放、多元多模激发创新活力,以多元算力系统生态加速创新落地,协力共建一个更加高效、灵活、开放的人工智能应用生态。

 

2024-12-25 18:063585

评论

发布
暂无评论

[ Kitex 源码解读 ] 服务注册

baiyutang

Go 微服务架构 kitex CloudWeGo

数字电路基础篇

贾献华

7月月更

参与开源社区还有证书拿?

胡说云原生

开源 证书

TiCDC 架构和数据同步链路解析

TiDB 社区干货传送门

数据库架构设计 6.x 实践

TiDB 在多点数字化零售场景下的应用

TiDB 社区干货传送门

实践案例 社区活动 TUG 话题探讨

TiDB之rawkv升级之路v5.0.4-->v6.1.0

TiDB 社区干货传送门

迁移 版本升级 集群管理

研发需求拆分的全流程详解 | 敏捷实践

LigaAI

开发者 研发管理 需求管理 需求分析 LigaAI

一文理解分布式开发中的服务治理

博文视点Broadview

App自动化测试是怎么实现H5测试的

和牛

测试

专注B2B跨境支付的背后,XTransfer的风控基础设施是如何炼成的?

XTransfer技术

资源池以及资源池化是什么意思?

行云管家

资源池 IT运维 资源池化

性能大规模专项评测双通过,数牍Tusita步入隐私大数据计算时代

Jessica@数牍

隐私计算性能 数牍科技 可信隐私计算评测

极狐(GitLab)与原森科技达成战略合作,共筑FinDevOps业财融合解决方案

科技热闻

涅槃重生!字节大牛力荐大型分布式手册,凤凰架构让你浴火成神

冉然学Java

Java 华为 开源 网络协议 #Github

腾讯5G创新中心成立,布局无人港口、智慧矿山、电竞赛事等重点方向

科技热闻

什么是真正的 HTAP ?(二)挑战篇

StoneDB

MySQL OLAP OLTP HTAP StoneDB

转转微服务框架的连接管理

转转技术团队

微服务 RPC 服务治理

MRS +Apache Zeppelin,让数据分析更便捷

华为云开发者联盟

大数据 开源 后端

Ticmp - 更快的让应用从 MySQL 迁移到 TiDB

TiDB 社区干货传送门

性能测评

万物根生,共创新时代:华为亮相第五届数字中国建设峰会

极客天地

APP常用跨端技术栈深入分析

京东科技开发者

flutter H5 Weex ReactNative

TiKV主要内存结构和OOM排查总结

TiDB 社区干货传送门

故障排查/诊断

TiDB 在长银五八消费金融核心系统适配经验分享

TiDB 社区干货传送门

安装 & 部署 OLAP 场景实践

如何用低成本方案解决室内超大场景下机器人定位与导航难题?

优必选科技

机器人 定位 导航

单点登录的三种方式

Authing

云原生 SaaS SSO 单点登录 Authing

国内首台商用人形双足机器人发展史

优必选科技

机器人

iOS中@class和#import

NewBoy

ios 前端 移动端 iOS 知识体系 7月月更

黄东旭:TiDB的优势是什么?

TiDB 社区干货传送门

人物访谈

深圳云堡垒机厂商哪家好?很贵吗?咨询电话多少?

行云管家

云计算 网络安全 堡垒机 云堡垒机

NFT是什么?如何开发NFT系统?

开源直播系统源码

数字藏品软件开发 数字藏品系统软件开发 数字藏品交易平台开发

2022可信云权威评估公布:天翼云获十项认证、五项最佳实践

极客天地

浪潮信息与智源研究院达成战略合作,共建大模型多元算力开源创新生态_芯片与网络_InfoQ_InfoQ精选文章