
Docker 推出了一个新特性,允许开发者使用Docker Compose定义、构建和运行代理,目的是简化代理开发流程并减少重复性任务。此外,Docker Offload 目前处于测试阶段,它提供了一种方法,可以无缝地将模型构建和运行卸载到远程 GPU 算力。
支持使用 Docker Compose 定义代理,是 Docker 将自己定位为代理开发关键工具提供商后又迈进了一步,就像它为基于容器的开发所做的那样。正如来自 Docker 的 Mark Cavage 和 Tushar Jain 所言,这意味着简化代理开发通常会涉及的繁琐的重复任务,例如遍历不同的模型、安全地连接 MCP 工具,以及将一切打包,使团队成员可以很轻松地运行相同的工作流。
新特性允许开发者在compose.yaml
文件中声明开放模型、代理和 MCP 工具,然后使用docker compose up
构建和运行它们。Docker Compose 可以与许多现有的代理框架集成,包括 LangGraph、Embabel、Vercel AI、Spring AI、CrewAI、Google ADK 和 Agno。
为了帮助开发者开始使用 Docker Compose 进行代理开发,Docker 创建了一个 GitHub 仓库,其中包含它所支持的所有框架的示例项目。例如,有一个例子展示了如何使用 Google ADK 构建一个协作式多代理事实检查器:
Critic 代理利用实时互联网搜索来收集证据,通过 Model Context Protocol(MCP)使用 DuckDuckGo,而 Reviser 代理仅使用内部推理分析和完善结论。该系统展示了具有不同角色和工具的代理如何通过编排实现协作。
相应的compose.yaml文件定义了两个服务:adk
和mcp-gateway,并包括一个models
部分,列出了使用的模型及其参数。在Docker Desktop 4.40中,Docker 提供了使用 Model Runner 在本地打包和运行模型的可能性,但你也可以通过提供适当的凭据使用远程或基于云的模型。
Docker Compose 的模块化架构使得创建用于多代理配置的 compose override 文件变得很容易。例如,你可以定义一个变体,使用 OpenAI 而不是本地模型,或者使用Google Cloud Run。这使你能够组合多个 compose 文件,轻松切换代理设置:
Docker Desktop 最新版本支持的另一个代理开发新特性是 Docker Offload。当本地资源不足时,这项全托管服务可以用作 Docker Model Runner 的直接替代品,使开发者能够在云 GPU 上使用与本地部署相同的工作流透明地运行模型和容器。
Docker Offload 通过将计算密集型工作负载(如大型语言模型和多代理编排)卸载到高性能云环境,帮你摆脱基础设施限制。无需复杂的设置,不再有 GPU 短缺,不用为配置头疼。
该服务目前处于测试阶段,Docker 为开发者提供了 300 分钟的免费试用时间。
声明:本文为 InfoQ 翻译,未经许可禁止转载。
原文链接:
https://www.infoq.com/news/2025/07/docker-compose-agent-gpu-offload/
评论