写点什么

Pinterest 使用 Ray 实现机器学习基础设施现代化

作者:Matt Saunders

  • 2024-10-01
    北京
  • 本文字数:1943 字

    阅读完需:约 6 分钟

Pinterest 使用 Ray 实现机器学习基础设施现代化

视觉发现平台 Pinterest 披露了其使用开源分布式计算框架 Ray 实现机器学习基础设施现代化的详细过程。在最近的一篇博文中,该公司分享了将 Ray 集成到大规模生产环境中所面临的挑战和他们的实施方案。


这个项目的目的是为了增强 Pinterest 的机器学习能力,以解决基本的业务问题。


Pinterest 在构建 Ray 基础设施时面临着几个独特的挑战。他们决定在他们的通用联合 Kubernetes 集群 PinCompute 上运行 Ray,但该集群限制安装 KubeRay 及其自定义资源定义等必要的操作符。要有效地实施 Ray,就需要有一个创造性的解决方案来消除这个限制。


其他挑战包括需要持久化日志记录和指标、与 Pinterest 专有的时间序列数据库和可视化工具集成,以及遵守公司范围内的 AAA(身份验证、授权和计费)准则。


为了应对这些挑战,Pinterest 开发了一个自定义解决方案,包括 API 网关、Ray 集群控制器、Ray 作业控制器和用于外部状态管理的 MySQL 数据库。这种方法在用户和 Kubernetes 之间提供了一个抽象层,简化了 Ray 集群的配置和管理。



该公司还创建了一个专用的用户界面,用于持久化日志记录和指标。在该 UI 上,不需要一个活跃的 Ray 集群就可以进行日志分析,这有助于降低与 GPU 等空闲资源相关的成本。为了提高可观察性,Pinterest 将 Ray 的指标与其内部时间序列数据库 Goku 整合在了一起。该数据库拥有与 OpenTSDB 兼容的 API。他们还遵循 Ray 的建议,将日志持久化到了 AWS S3 上。


Pinterest 使用网络隔离与完整身份验证实现了适当的安全措施。他们在 Envoy 后面部署了 Ray Dashboard,在 Kubernetes 环境中部署了他们的服务网格,并在 gRPC 通信中使用了经过定制的 TLS。


这篇博文强调了渐进式改进、利用现有基础设施以及定期与内部客户会面以收集反馈的重要性。按照 Pinterest 的说法,采用 Ray 提高了将机器学习想法投入生产应用的速度,现在只需几天,而不是几周。



关于 Pinterest 等公司如何将 Ray 应用于大规模机器学习任务,在 2023 年 QCon Plus 的一次演讲中,来自 Anyscale 的 Zhe Zhang 提供了更多的背景信息。他强调,Ray 的灵活性和易用性使其对希望实现机器学习基础设施现代化的组织特别有吸引力。他描述了 Ray 如何在多于一个实例时实现无缝数据加载和预处理,这对于拥有大量数据集的公司来说至关重要。该功能解决了 ML 工作流中数据处理无法跟上 GPU 计算速度这个常见的瓶颈。


他还指出,Ray 能够有效地支持异构计算环境,将 CPU 和 GPU 资源相结合,对于像 Pinterest 这样需要优化硬件利用率的公司来说,这是一个很大的优点。他还讨论了 Ray 的生态系统,包括 Ray Serve 这样的库,以及如何快速实现原型和 ML 模型的部署,这与 Pinterest 报道的开发速度的提高是一致的。


DoorDash 是一家规模与 Pinterest 相似的科技公司。他们也经历了机器学习基础设施现代化的过程。虽然他们采用了类似的方法,但也有一些差异。在 2023 年 Ray 峰会的演讲中,来自 DoorDash 的 Siddarth Kodwani 和 Kornel Csernai 介绍了他们使用 Ray 的场景。


与 Pinterest 一样,DoorDash 现有的机器学习服务平台也面临着挑战。Sibyl 是一个部署在 Kubernetes 中的 Kotlin 微服务,针对高吞吐量、低延迟场景做过专门的优化,但对于比较新的 ML 范例和库,缺乏灵活性。DoorDash 的解决方案 Argil 与 Pinterest 的方法有一些相似之处。两家公司都构建了自定义控制器来管理 Ray 集群和作业,并将它们与现有的 Kubernetes 基础设施集成在一起。



然而,DoorDash 强烈地感受到,他们应该为他们的数据科学家和机器学习工程师创建一个自助服务平台。他们的服务主要是用 Kotlin 开发的。于是,他们用 Kotlin 开发了一个客户端库,以便简化其服务与 Ray 基础设施的交互。DoorDash 在 Kubernetes 环境中也面临着 GPU 可访问性的独特挑战,关于这一点,他们需要通过与 Nvidia 的密切合作来解决驱动程序兼容性问题。


Pinterest 和 DoorDash 的一个显著差异在于部署策略。Pinterest 致力于从头开始构建自定义解决方案,而 DoorDash 则利用 Ray 团队提供的 Helm charts 和 Argo CD 等现有工具进行部署管理。


DoorDash 报道的好处与 Pinterest 类似,比如提高了速度和灵活性。他们将机器学习想法投入生产应用的时间从几周缩短到几天。他们还看到了显著的性能提升,从以前的系统迁移到 Ray 之后,一些用例的性能提升了 10 到 20 倍。两家公司都强调了可观察性和监控的重要性。Pinterest 整合了他们自定义的 Goku 时间序列数据库,而 DoorDash 则提到,他们直接整合了 Prometheus 来收集指标。


总之,尽管 Pinterest 和 DoorDash 采用 Ray 的方式略有不同,但两家公司都表示,在机器学习基础设施的灵活性、开发速度和性能方面都获得了显著改善。


原文链接:

https://www.infoq.com/news/2024/08/pinterest-machine-learning-ray/

2024-10-01 08:0515375

评论

发布
暂无评论
发现更多内容

【Dubbo3终极特性】「流量治理体系」一文教你如何搭建Dubbo3的控制台服务Dubbo-Admin

码界西柚

dubbo RPC Dubbo3 Dubbo-Admin

业务-研发一体化管理平台,存在吗?

FinFish

小程序 小程序管理平台 小程序技术

ZBC即将登录Coinbase Institutional,生态开年迎新利好

股市老人

简述JavaScript键盘事件

devpoint

JavaScript 事件监听 事件冒泡 键盘事件

2022 年行摄回忆录

穿过生命散发芬芳

盘点2022 行摄回忆录

“会说话”的产品包装?“码”上查看!

旺链科技

区块链 区块链技术 区块链溯源

大型软件通过“云应用”即点即用,能解决元宇宙的开发之难吗?

B Impact

标准发布 |《企业数字化成熟度模型IOMM》(中小企业)发布

信通院IOMM数字化转型团队

数字化转型 IOMM ICT深度观察

高效节能 | 智慧灯杆综合管理解决方案

AIRIOT

物联网 智慧灯杆

推荐一款较好的小程序管理平台

FinFish

小程序 小程序管理平台 小程序管理

揭开华为云CodeArts TestPlan启发式测试设计神秘面纱!

科技怪授

华为云

华为云发布CodeArts Req需求管理工具,让需求管理化繁为简

科技怪授

华为云

TiCDC 源码阅读(三)TiCDC 集群工作过程解析

PingCAP

TiDB 源码解读

ZBC即将登录Coinbase Institutional,生态开年迎新利好

西柚子

Datawhale学习笔记【阿里云天池 金融风控-贷款违约预测】task1 赛题理解

一颗小树

机器学习 机器学习笔记

ZBC即将登录Coinbase Institutional,生态开年迎新利好

鳄鱼视界

软件测试/测试开发 | 接口自动化测试之JSON Schema模式该如何使用?

测试人

软件测试 接口测试 测试开发 JSON Schema 测试开发自动化测试

ZBC即将登录Coinbase Institutional,2023年以全新姿态出发

BlockChain先知

“零”代码改动,静态编译让太乙Stable Diffusion推理速度翻倍

OneFlow

人工智能 深度学习

华为云服务治理 — 隔离仓的作用

秃头也爱科技

代码影响范围工具探索

京东科技开发者

测试 源代码 企业号 1 月 PK 榜 代码影响范围

也谈证券行业数字化转型中的业务与IT融合(上)

王和全

敏捷 需求管理 需求 数字化转型 需求分析

2022年度 FinClip 扩展SDK推荐!

FinClip

数据中心的浪浪山

脑极体

Linux Radix Tree详解

Linux内核拾遗

数据结构 Linux内核 Radix Tree

DCS分布式缓存服务实例类型介绍

秃头也爱科技

「Go框架」剖析iris中错误码路由的运行机制

Go学堂

golang 开源 个人成长 签约计划第三季

2022年的魔力象限领导者,为什么是华为数通?

白洞计划

华为

一种面向业务配置基于JSF广播定时生效的工具

京东科技开发者

jdk 后段技术 企业号 1 月 PK 榜 ducc jsf

从做技术到做技术管理

石云升

极客时间 技术管理 1月月更 技术领导力实战笔记

Pinterest 使用 Ray 实现机器学习基础设施现代化_云计算_InfoQ精选文章