写点什么

PyTorch 基金会迎来 Ray 项目,并推出 Monarch 简化分布式 AI 开发

作者:Hien Luu

  • 2025-11-05
    北京
  • 本文字数:993 字

    阅读完需:约 3 分钟

大小:480.98K时长:02:44
PyTorch基金会迎来Ray项目,并推出Monarch简化分布式AI开发

2025年的PyTorch大会上,PyTorch 基金会宣布了几项举措,旨在推动开放、可扩展的 AI 基础设施建设。分布式计算框架 Ray 作为一个托管项目加入PyTorch 基金会。基金会还宣布了一个新框架PyTorch Monarch,旨在简化跨多台机器的分布式 AI 工作负载。该活动还重点介绍了全新的开放研究项目,包括斯坦福大学的MarinAI2的Olmo-Thinking,突显了基础模型开发对透明度和可复现性日益增长的推动力。

 

Ray 的加入反映了基金会更广泛的战略布局——旨在构建一个统一的开放式生态系统,涵盖模型开发、服务和分布式执行。Ray 最初是在加州大学伯克利分校的 RISELab 开发的,它提供了一套简洁的 Python 原语,使得分布式计算像编写本地代码一样直观,使开发者能够无缝地扩展到训练、调优和推理工作负载。

 

对于最近加入 PyTorch 基金会的其他项目,包括用于分布式训练的DeepSpeed和用于高吞吐量推理的vLLM,Ray 的加入是一个很好补充。PyTorch、DeepSpeed、vLLM 和 Ray 共同构成了一个连贯的开源技术栈,覆盖了从实验到生产规模部署的整个模型生命周期。



图片来源:PyTorch基金会博客

 

同时,Meta PyTorch 团队推出了 PyTorch Monarch。这是一个旨在将整个 GPU 集群抽象为单个逻辑设备的框架。Monarch 提供了类似数组的网格接口,允许开发者使用 Pythonic 结构表达并行性,而数据和计算分布由系统自动管理。Monarch 的后端基于 Rust 构建,旨在将性能与安全性结为一体,减少分布式编程的认知负担。

 

大会进一步强调了在基础模型开发和研究中的开放合作。在主题演讲中,斯坦福大学的 Percy Liang 介绍了Marin,这是一个设在基础模型研究中心下的开放实验室。该实验室致力于通过公开数据集、代码、超参数及训练日志,实现前沿人工智能研发的完全透明化,从而保障研究的可重复性并促进社区参与。

 

同样,Ai2 高级研究科学家 Nathan Lambert 介绍了Olmo-Thinking。这是一个开放式推理模型,其训练过程、模型架构决策、数据来源和训练代码设计的细节都已经公布,而在封闭模型发布中,这些信息通常都是不公开的。这些举措很好地契合了推动基础模型开放与可复现的广泛趋势。

 

通过将工作范围扩展至核心框架开发之外,PyTorch 基金会正致力于成为开放式人工智能基础设施的核心枢纽。即将于 2026 年在圣何塞举办的 PyTorch 大会,预计会继续聚焦生态系统协作与开发者赋能。

 

声明:本文为 InfoQ 翻译,未经许可禁止转载。

 

原文链接:https://www.infoq.com/news/2025/10/pytorch-conf-ray-monarch/

2025-11-05 15:001

评论

发布
暂无评论

不用Swagger,那我用啥?

江南一点雨

数字经济时代的开源数据库创新 | 2022 开放原子全球开源峰会数据库分论坛圆满召开

kk-OSC

开放原子全球开源峰会

产学研用 共建开源人才生态 | 2022 开放原子全球开源峰会教育分论坛圆满召开

kk-OSC

开放原子全球开源峰会

谈谈基于JS实现阻止别人调试通过控制台调试网站的问题

南极一块修炼千年的大冰块

7月月更

18张图,直观理解神经网络、流形和拓扑

OneFlow

神经网络 深度学习

备战金九银十,Java研发面试题整理PDF,走到哪刷

程序知音

Java 程序员 java面试 后端技术 八股文

要想组建敏捷团队,这些方法不可少

敏捷开发

团队管理 敏捷开发 敏捷团队

什么样的知识付费系统功能,更有利于平台与讲师发展?

CRMEB

什么是WordPress

hum建应用专家

Wordpress 博客部署 WordPress

JAVA编程规范之应用分层

源字节1号

软件开发 前端开发 后端开发 小程序开发

行业落地呈现新进展 | 2022 开放原子全球开源峰会 OpenAtom OpenHarmony 分论坛圆满召开

kk-OSC

开放原子全球开源峰会

开源社区三十年 | 2022 开放原子全球开源峰会开源社区三十年专题活动圆满召开

kk-OSC

开放原子全球开源峰会

API 网关 APISIX 在Google Cloud T2A 和 T2D 的性能测试

API7.ai 技术团队

网关 API Gateway 谷歌云 网关性能测试

苹果手机iCloud钥匙串的加密缺陷

神锁离线版

apple 密码管理 密码技术 icloud keychain

开源汇智创未来 | 2022 开放原子全球开源峰会 OpenAtom openEuler 分论坛圆满召开

kk-OSC

开放原子全球开源峰会

分布式定时器

腾讯企点技术团队

redis 分布式 定时器

华为发布HarmonyOS 3及全场景新品,智慧体验更进一步

极客天地

定了!就在7月30日!

腾源会

开源

精品方案|海泰方圆全栈式数据安全治理方案 为数据设一把“安全锁”

电子信息发烧客

论治理与创新 | 2022 开放原子全球开源峰会 OpenAnolis 分论坛圆满召开

kk-OSC

开放原子全球开源峰会

易观分析:以用户为中心提升手机银行用户体验,助力用户价值增长

易观分析

数据分析 用户体验 手机银行

新闻速递 | MobTech袤博科技参与中国信通院“绿色SDK产业生态共建行动”

MobTech袤博科技

数据安全 sdk

本地化、低时延、绿色低碳:阿里云正式启用福州数据中心

阿里云弹性计算

公有云 本地Region

聚变云原生,赋能新里程 | 2022 开放原子全球开源峰会云原生分论坛圆满召开

kk-OSC

完完整整地看完这个故事,你敢说还不懂Docker?

程序员啊叶

Java 编程 程序员 架构 java面试

疫情期间佩戴口罩检测之训练检测口罩模型算法实现口罩检测步骤以及报错解决

南蓬幽

Python AI OpenCV 7月月更

OpenAtom OpenHarmony分论坛圆满举办,生态与产业发展迈向新征程

OpenHarmony开发者

OpenHarmony

企业数字化本质

奔向架构师

数据治理 7月月更

巧用ngx_lua做流量分组

转转技术团队

nginx

AI落地难?灵雀云助力企业快速应用云原生机器学习MLOps

York

人工智能 机器学习 云原生 降本增效 MLOps

PyTorch基金会迎来Ray项目,并推出Monarch简化分布式AI开发_AI&大模型_InfoQ精选文章