写点什么

Docker 扩展 Compose,新增 Cloud Offload 支持

  • 2025-07-16
    北京
  • 本文字数:1110 字

    阅读完需:约 4 分钟

大小:509.35K时长:02:53
Docker扩展Compose,新增Cloud Offload支持

Docker 推出了一个新特性,允许开发者使用Docker Compose定义、构建和运行代理,目的是简化代理开发流程并减少重复性任务。此外,Docker Offload 目前处于测试阶段,它提供了一种方法,可以无缝地将模型构建和运行卸载到远程 GPU 算力。

 

支持使用 Docker Compose 定义代理,是 Docker 将自己定位为代理开发关键工具提供商后又迈进了一步,就像它为基于容器的开发所做的那样。正如来自 Docker 的 Mark Cavage 和 Tushar Jain 所言,这意味着简化代理开发通常会涉及的繁琐的重复任务,例如遍历不同的模型、安全地连接 MCP 工具,以及将一切打包,使团队成员可以很轻松地运行相同的工作流。

 

新特性允许开发者在compose.yaml文件中声明开放模型、代理和 MCP 工具,然后使用docker compose up构建和运行它们。Docker Compose 可以与许多现有的代理框架集成,包括 LangGraph、Embabel、Vercel AI、Spring AI、CrewAI、Google ADK 和 Agno。

 

为了帮助开发者开始使用 Docker Compose 进行代理开发,Docker 创建了一个 GitHub 仓库,其中包含它所支持的所有框架的示例项目。例如,有一个例子展示了如何使用 Google ADK 构建一个协作式多代理事实检查器:

 

Critic 代理利用实时互联网搜索来收集证据,通过 Model Context Protocol(MCP)使用 DuckDuckGo,而 Reviser 代理仅使用内部推理分析和完善结论。该系统展示了具有不同角色和工具的代理如何通过编排实现协作。

 

相应的compose.yaml文件定义了两个服务:adkmcp-gateway,并包括一个models部分,列出了使用的模型及其参数。在Docker Desktop 4.40中,Docker 提供了使用 Model Runner 在本地打包和运行模型的可能性,但你也可以通过提供适当的凭据使用远程或基于云的模型。

 

Docker Compose 的模块化架构使得创建用于多代理配置的 compose override 文件变得很容易。例如,你可以定义一个变体,使用 OpenAI 而不是本地模型,或者使用Google Cloud Run。这使你能够组合多个 compose 文件,轻松切换代理设置:

 

docker compose -f compose.yaml -f compose.openai.yaml up --build
复制代码

 

Docker Desktop 最新版本支持的另一个代理开发新特性是 Docker Offload。当本地资源不足时,这项全托管服务可以用作 Docker Model Runner 的直接替代品,使开发者能够在云 GPU 上使用与本地部署相同的工作流透明地运行模型和容器。

 

Docker Offload 通过将计算密集型工作负载(如大型语言模型和多代理编排)卸载到高性能云环境,帮你摆脱基础设施限制。无需复杂的设置,不再有 GPU 短缺,不用为配置头疼。

 

该服务目前处于测试阶段,Docker 为开发者提供了 300 分钟的免费试用时间。

 

声明:本文为 InfoQ 翻译,未经许可禁止转载。

 

原文链接:

https://www.infoq.com/news/2025/07/docker-compose-agent-gpu-offload/

2025-07-16 10:0110008

评论

发布
暂无评论

新春发版,大展宏“兔”:StoneDB-5.7-V1.0.2 版本正式发布!两分钟快速部署安装您的分析加速器~

StoneDB

开源 数据库· StoneDB 企业号 2 月 PK 榜

恭喜! SelectDB 五位开发者成为 Apache Doris 新晋 PMC 成员和 Committer!

SelectDB

数据湖 Doris 程序猿 ;开源 企业号 2 月 PK 榜

JuiceFS 在火山引擎边缘计算的应用实践

火山引擎边缘云

边缘计算 存储 JuiceFS 火山引擎 渲染

API+DevOps:华为云API Arts一体化平台,端到端呵护您的API

API

Python读execl之xlrd库函数详解一:工作簿相关

Python Excel 数据读取

大数据开发培训中心有哪些

小谷哥

敏捷管理到底有没有捷径可走?

Onegun

开源 将本增效 敏捷迭代

业务“兔”飞猛进,只因他们做对了这件事

华为云开发者联盟

数据库 华为云 企业号 2 月 PK 榜 华为云开发者联盟

武汉前端开发培训哪家比较好

小谷哥

Web、移动端、桌面端自动化测试工具或框架推荐

软件测试 自动化测试 自动化框架

Python读写txt文本(示例说明)

Python 数据读取 txt

前端开发哪家培训机构教的好

小谷哥

StoneDB 源码解读系列|Tianmu 引擎工具类模块源码详解(一)

StoneDB

数据库 开源 HTAP StoneDB 企业号 2 月 PK 榜

大数据培训学习包含java技术吗

小谷哥

实践指南|如何在 Jina 中使用 OpenTelemetry 进行应用程序的监控和跟踪

Jina AI

Python 微服务 PyTorch 云技术 OpenTelemetry

保险行业需要一个安全的大数据传输

镭速

VOP消息仓库演进之路|如何设计一个亿级企业消息平台

京东科技开发者

软件架构 平台 VOP 客户调用 消息仓库

Linux中Sl命令的使用

Linux 操作系统 命令

产品价值“三省”

QualityFocus

通过案例理解MQTT主题与通配符

EMQ映云科技

物联网 IoT mqtt 企业号 2 月 PK 榜 通配符

重磅!GitLab 提出五大预测,洞见 2023 年 DevSecOps 发展趋势

极狐GitLab

DevOps 安全 DevSecOps 安全左移 供应链安全

F5 2022财年安全营收10亿美金 服务应用安全做了哪些事?

F5 Inc

移动应用 安全 应用安全

西安java培训班哪家好?

小谷哥

基于Web的6个完美3D图形WebGL库

2D3D前端可视化开发

前端开发 WebGL webgl库 3d图形库 webgl框架

「 Java基础-泛型 」一文说清Java泛型中的通配符T、E、K、V、N、?和Object的区别和含义

小刘学编程

Java 源码阅读 Java泛型 构架师

嵌入式ARM设计编程(三) 处理器工作模式

timerring

arm

MQTT发布/订阅模式介绍

EMQ映云科技

物联网 IoT mqtt 客户端 企业号 2 月 PK 榜

使用Python+Opencv从摄像头逐帧读取图片保存在本地

Python 数据读取 摄像头

HummerRisk V0.9.1:操作审计增加百度云、增加主机检测规则等

HummerCloud

云安全 云原生安全

小游戏也能脱离微信运行到自己的app中

Onegun

微信小程序 小游戏 小游戏开发 微信小程序-游戏

Docker扩展Compose,新增Cloud Offload支持_架构_Sergio De Simone_InfoQ精选文章