写点什么

Dev Proxy 发布 v1.0,具备 AI 故障模拟、Token 速率限制和集成增强功能

作者:Almir Vuk

  • 2025-08-16
    北京
  • 本文字数:1325 字

    阅读完需:约 4 分钟

大小:639.71K时长:03:38
Dev Proxy发布v1.0,具备AI故障模拟、Token速率限制和集成增强功能

随着 1.0 版本的发布,Dev Proxy达到了一个重要的里程碑,引入了一系列旨在帮助开发人员构建更可靠的 AI 应用程序的新功能。正如公告中所报道的那样,这次更新的重点是对语言模型行为的逼真模拟、高级资源跟踪和集成工具的改进。

 

这标志着这是 Dev Proxy 的第一个主要版本,该团队将其描述为:

 

我们很高兴地宣布 Dev Proxy 的第一个主要版本!在过去的几年里,我们发布了一些功能,我们相信这些功能可以帮助开发者构建更健壮的应用。在最近的重构之后,我们已经为我们未来的工作打下了坚实的基础。也就是说,我们一直在改进我们的代码库,并对任何更改持开放态度。接下来,我们将使用 SemVer 来传达每个版本中更改的范围。我们将继续定期发布版本,并且如果我们发布了一些突破性的更改,我们将清楚地传达更改的内容及其影响。

 

其中最值得注意的新增功能之一是LanguageModelFailurePlugin,它使开发人员能够测试他们的应用程序如何响应不可预测的 AI 输出。据其描述,该插件可以模拟 15 种常见的失败类型,包括幻觉、偏见、误解、矛盾的陈述和模棱两可的回应。需要注意的是,开发人员还可以定义自定义故障场景,确保他们的系统在处理不可靠的 AI 生成内容时具有鲁棒性。

 

另一个关键的增强是LanguageModelRateLimitingPlugin,它引入了基于 Token 的速率限制模拟。该特性反映了大语言模型提供者如何通过在可配置的时间范围内允许输入和输出 Token 的不同阈值来强制执行限制。根据开发团队的说法,该功能有助于模拟 AI 集成的实际性能边界和预算约束。

 


(模拟超过 LLM 请求的 Token 限制,来源:微软官方公告

 

OpenAITelemetryPlugin也得到了改进,现在支持从流式响应中跟踪 Token 使用情况。该插件可以以 Markdown、JSON 或纯文本格式生成详细的成本和使用摘要,使开发人员能够更好地监控测试活动并预测生产成本。

 

OpenAPI 规范生成已经通过更新OpenApiSpecGeneratorPlugin进行了改进。这些增强包括排除响应类型的能力——对于忽略此类元数据的 AI 智能体特别有用——以及捕获默认参数值的能力,从而提高了 AI 工具使用自动化 API 的准确性。

 


(从截获的请求和响应中生成 JSON 格式的 OpenAPI 规范,来源:微软文档

 

除了主应用程序之外,还更新了几个 Dev Proxy 工具。 Dev Proxy Toolkit是一个 Visual Studio Code 扩展,现在支持 v1.0.0 架构,包括语言模型插件的新配置片段,添加了对诊断的 JSONC 支持,并提供了设置基本配置标志的快速操作。

 

Visual Studio Code Tasks集成已经增强,可以在调试会话期间自动启动和停止 Dev Proxy。GitHub Actions集成已经被简化,以使 CI/CD 工作流程更容易,.NET Aspire扩展已经更新以支持.NET 8。

 

该版本还提供了一个改进的Dev Proxy MCP Server,它为编码智能体提供了直接访问更新的文档、模式和构建配置的最佳实践指南。根据该团队的说法,在使用 AI 辅助配置编辑时,这些添加的功能已经带来了更好的结果。

 

其他变更包括 Chrome DevTools 中增强的流式响应处理,通过自定义 OIDC 元数据 URL 扩展的身份验证兼容性,简化的 Linux 安装默认值,改进的配置验证以及更具弹性的错误处理。

 

对于感兴趣的读者,可以在官方公告中获得包含完整的功能列表、改进和缺陷修复列表的完整发布说明

 

原文链接:

https://www.infoq.com/news/2025/08/microsoft-dev-proxy-1-0/

2025-08-16 14:005813

评论

发布
暂无评论

第五周总结

Acker飏

极客大学架构师训练营

MQ 核心概念

陈皮

架构师训练营Week 05 学习总结

Frank Zeng

架构师训练营第五周总结

王铭铭

架构师训练营第五章总结

吴吴

陈芳,高考之后我要学计算机专业,将来干IT发财了,我就娶你!

张小方

程序员 面试 薪资 毕业

基于领域驱动设计的业务中台架构设计

冯文辉

中台 业务中台 领域驱动设计 DDD

分布式缓存 - 第五周总结

孙志平

计算机操作系统基础(十五)---使用fork系统调用创建进程

书旅

php laravel 操作系统 进程 线程’

架构感悟5-算法之美

旭东(Frank)

架构 算法 感悟 极客大学架构师训练营

架构师训练营第五章作业

吴吴

架构师训练营第5周总结

时来运转

第五周总结

秦宝齐

课程作业

互联网中的缓存

陈皮

【架构师训练营】第五周作业

Mr.hou

极客大学架构师训练营

【架构师训练营】第五周总结

Mr.hou

极客大学架构师训练营

「架构师训练营」第五周作业

旭东(Frank)

算法 极客大学架构师训练营 哈希 一致性哈希

架构师训练营第5周作业

时来运转

阿里巴巴、百度、美团都在用的 Spring Cloud 微服务架构

java通天架构哪吒

Spring Cloud SpringCloud

第5周总结

娄江国

极客大学架构师训练营

「架构师训练营」Week5作业

Frank Zeng

UC Token即将强势登陆

Geek_116789

负载均衡(Load Balance)

陈皮

架构师训练营第五周作业

王铭铭

架构师训练营第五周总结

sunnywhy

学习总结 -- Week 5

吴炳华

极客大学架构师训练营

原来 JavaScript 中的 WeakMap 是这样子的

Geek_z9ygea

Java 大前端 Web

Week 05 学习总结

卧石漾溪

极客大学架构师训练营

分布式技术总结

LEAF

Intellij IDEA必备插件,提高效率的“七种武器”

码农神说

面试 IDEA idea插件

架构师训练营 第五周 基于虚拟节点的一致性Hash算法作业

且听且吟

极客大学架构师训练营

Dev Proxy发布v1.0,具备AI故障模拟、Token速率限制和集成增强功能_DevOps & 平台工程_InfoQ精选文章