50万奖金+官方证书,深圳国际金融科技大赛正式启动,点击报名 了解详情
写点什么

Docker 扩展 Compose,新增 Cloud Offload 支持

  • 2025-07-16
    北京
  • 本文字数:1110 字

    阅读完需:约 4 分钟

大小:509.35K时长:02:53
Docker扩展Compose,新增Cloud Offload支持

Docker 推出了一个新特性,允许开发者使用Docker Compose定义、构建和运行代理,目的是简化代理开发流程并减少重复性任务。此外,Docker Offload 目前处于测试阶段,它提供了一种方法,可以无缝地将模型构建和运行卸载到远程 GPU 算力。

 

支持使用 Docker Compose 定义代理,是 Docker 将自己定位为代理开发关键工具提供商后又迈进了一步,就像它为基于容器的开发所做的那样。正如来自 Docker 的 Mark Cavage 和 Tushar Jain 所言,这意味着简化代理开发通常会涉及的繁琐的重复任务,例如遍历不同的模型、安全地连接 MCP 工具,以及将一切打包,使团队成员可以很轻松地运行相同的工作流。

 

新特性允许开发者在compose.yaml文件中声明开放模型、代理和 MCP 工具,然后使用docker compose up构建和运行它们。Docker Compose 可以与许多现有的代理框架集成,包括 LangGraph、Embabel、Vercel AI、Spring AI、CrewAI、Google ADK 和 Agno。

 

为了帮助开发者开始使用 Docker Compose 进行代理开发,Docker 创建了一个 GitHub 仓库,其中包含它所支持的所有框架的示例项目。例如,有一个例子展示了如何使用 Google ADK 构建一个协作式多代理事实检查器:

 

Critic 代理利用实时互联网搜索来收集证据,通过 Model Context Protocol(MCP)使用 DuckDuckGo,而 Reviser 代理仅使用内部推理分析和完善结论。该系统展示了具有不同角色和工具的代理如何通过编排实现协作。

 

相应的compose.yaml文件定义了两个服务:adkmcp-gateway,并包括一个models部分,列出了使用的模型及其参数。在Docker Desktop 4.40中,Docker 提供了使用 Model Runner 在本地打包和运行模型的可能性,但你也可以通过提供适当的凭据使用远程或基于云的模型。

 

Docker Compose 的模块化架构使得创建用于多代理配置的 compose override 文件变得很容易。例如,你可以定义一个变体,使用 OpenAI 而不是本地模型,或者使用Google Cloud Run。这使你能够组合多个 compose 文件,轻松切换代理设置:

 

docker compose -f compose.yaml -f compose.openai.yaml up --build
复制代码

 

Docker Desktop 最新版本支持的另一个代理开发新特性是 Docker Offload。当本地资源不足时,这项全托管服务可以用作 Docker Model Runner 的直接替代品,使开发者能够在云 GPU 上使用与本地部署相同的工作流透明地运行模型和容器。

 

Docker Offload 通过将计算密集型工作负载(如大型语言模型和多代理编排)卸载到高性能云环境,帮你摆脱基础设施限制。无需复杂的设置,不再有 GPU 短缺,不用为配置头疼。

 

该服务目前处于测试阶段,Docker 为开发者提供了 300 分钟的免费试用时间。

 

声明:本文为 InfoQ 翻译,未经许可禁止转载。

 

原文链接:

https://www.infoq.com/news/2025/07/docker-compose-agent-gpu-offload/

2025-07-16 10:0111194

评论

发布
暂无评论

Elasticsearch mapping 复杂数据类型

escray

elastic 七日更 死磕Elasticsearch 60天通过Elastic认证考试 2月春节不断更

13. 如果自己写的 Python 程序出错了,怎么办?

梦想橡皮擦

python 爬虫 2月春节不断更

【STM32】PWM 输出 (标准库)

AXYZdong

硬件 stm32 2月春节不断更

IDEA插件:快速删除Java代码中的注释

xiaoxi666

Java 代码注释 JavaParser

【LeetCode】重塑矩阵Java题解

Albert

算法 LeetCode 2月春节不断更

gradle中的增量构建

程序那些事

maven Gradle 程序那些事 构建工具

门诊数字化:患者信息识别方式

boshi

医疗 数字化基础 七日更

第 4 周作业

老元宵

揭秘登上2021春晚舞台的黑科技-XR技术

架构精进之路

黑科技 vr 春晚 XR MR

日记 2021年2月17日(周三)

Changing Lin

2月春节不断更

字幕组时代落幕,翻译的未来可能是?

字节跳动技术团队

用例文档

三生赤水

LeetCode题解:1091. 二进制矩阵中的最短路径,BFS,JavaScript,详细注释

Lee Chen

算法 大前端 LeetCode

写公号大半年,看看我都收获了些啥

架构精进之路

技术 总结 微信公众号 成长笔记

1.开篇(听说你还在艰难的啃react源码)

全栈潇晨

React React Hooks react源码

给hugo博客添加评论功能

远鹏

Hugo 静态博客 utterances

春节快过腻了?不妨关心下太空探索

脑极体

2.react心智模型(来来来,让大脑有react思维吧)

全栈潇晨

React React Hooks react源码

第四章作业-编写一个用例文档

秦挺

3.Fiber(我是在内存中的dom)

全栈潇晨

React React Hooks react源码

【函数计算实践】nodejs初探示例——本地mac环境

程序员架构进阶

架构 nodejs 函数计算 七日更 2月春节不断更

EternalWallet为您提供快速、便捷、低价的国际汇款服务

Geek_c610c0

端口隔离和VLAN的区别

算法从有序数组中移除重复的数据,AI学习资源2020 John 易筋 ARTS 打卡 Week 38

John(易筋)

ARTS 打卡计划 ai youbute学习资源

面试的季节到了,老哥确定不来复习下数据结构吗

Silently9527

面试 数据结构与算法

程序员成长第五篇:如何选择城市工作?

石云升

程序员 2月春节不断更 选择城市

话题讨论 | 如何使用“网站SEO”,让网站排在最前面?

我是哪吒

大前端 后端 话题讨论 SEO 2月春节不断更

C语言第三方库Melon开箱即用之词法分析器使用

码哥比特

c c++ Linux 后端 框架

翻译:《实用的Python编程》01_05_Lists

codists

人工智能 后端 python 爬虫 列表 数据结构与算法

微信红包封面,2021年为啥突然火了?

架构精进之路

春节 微信红包封面 商业洞察

一维数组的动态和

小马哥

算法

Docker扩展Compose,新增Cloud Offload支持_架构_Sergio De Simone_InfoQ精选文章