写点什么

Dev Proxy 发布 v1.0,具备 AI 故障模拟、Token 速率限制和集成增强功能

作者:Almir Vuk

  • 2025-08-16
    北京
  • 本文字数:1325 字

    阅读完需:约 4 分钟

大小:639.71K时长:03:38
Dev Proxy发布v1.0,具备AI故障模拟、Token速率限制和集成增强功能

随着 1.0 版本的发布,Dev Proxy达到了一个重要的里程碑,引入了一系列旨在帮助开发人员构建更可靠的 AI 应用程序的新功能。正如公告中所报道的那样,这次更新的重点是对语言模型行为的逼真模拟、高级资源跟踪和集成工具的改进。

 

这标志着这是 Dev Proxy 的第一个主要版本,该团队将其描述为:

 

我们很高兴地宣布 Dev Proxy 的第一个主要版本!在过去的几年里,我们发布了一些功能,我们相信这些功能可以帮助开发者构建更健壮的应用。在最近的重构之后,我们已经为我们未来的工作打下了坚实的基础。也就是说,我们一直在改进我们的代码库,并对任何更改持开放态度。接下来,我们将使用 SemVer 来传达每个版本中更改的范围。我们将继续定期发布版本,并且如果我们发布了一些突破性的更改,我们将清楚地传达更改的内容及其影响。

 

其中最值得注意的新增功能之一是LanguageModelFailurePlugin,它使开发人员能够测试他们的应用程序如何响应不可预测的 AI 输出。据其描述,该插件可以模拟 15 种常见的失败类型,包括幻觉、偏见、误解、矛盾的陈述和模棱两可的回应。需要注意的是,开发人员还可以定义自定义故障场景,确保他们的系统在处理不可靠的 AI 生成内容时具有鲁棒性。

 

另一个关键的增强是LanguageModelRateLimitingPlugin,它引入了基于 Token 的速率限制模拟。该特性反映了大语言模型提供者如何通过在可配置的时间范围内允许输入和输出 Token 的不同阈值来强制执行限制。根据开发团队的说法,该功能有助于模拟 AI 集成的实际性能边界和预算约束。

 


(模拟超过 LLM 请求的 Token 限制,来源:微软官方公告

 

OpenAITelemetryPlugin也得到了改进,现在支持从流式响应中跟踪 Token 使用情况。该插件可以以 Markdown、JSON 或纯文本格式生成详细的成本和使用摘要,使开发人员能够更好地监控测试活动并预测生产成本。

 

OpenAPI 规范生成已经通过更新OpenApiSpecGeneratorPlugin进行了改进。这些增强包括排除响应类型的能力——对于忽略此类元数据的 AI 智能体特别有用——以及捕获默认参数值的能力,从而提高了 AI 工具使用自动化 API 的准确性。

 


(从截获的请求和响应中生成 JSON 格式的 OpenAPI 规范,来源:微软文档

 

除了主应用程序之外,还更新了几个 Dev Proxy 工具。 Dev Proxy Toolkit是一个 Visual Studio Code 扩展,现在支持 v1.0.0 架构,包括语言模型插件的新配置片段,添加了对诊断的 JSONC 支持,并提供了设置基本配置标志的快速操作。

 

Visual Studio Code Tasks集成已经增强,可以在调试会话期间自动启动和停止 Dev Proxy。GitHub Actions集成已经被简化,以使 CI/CD 工作流程更容易,.NET Aspire扩展已经更新以支持.NET 8。

 

该版本还提供了一个改进的Dev Proxy MCP Server,它为编码智能体提供了直接访问更新的文档、模式和构建配置的最佳实践指南。根据该团队的说法,在使用 AI 辅助配置编辑时,这些添加的功能已经带来了更好的结果。

 

其他变更包括 Chrome DevTools 中增强的流式响应处理,通过自定义 OIDC 元数据 URL 扩展的身份验证兼容性,简化的 Linux 安装默认值,改进的配置验证以及更具弹性的错误处理。

 

对于感兴趣的读者,可以在官方公告中获得包含完整的功能列表、改进和缺陷修复列表的完整发布说明

 

原文链接:

https://www.infoq.com/news/2025/08/microsoft-dev-proxy-1-0/

2025-08-16 14:002

评论

发布
暂无评论

程序员成长第九篇:真实项目中的注意事项

石云升

程序员 项目实战 2月春节不断更

LeetCode题解:63. 不同路径 II,动态规划,JavaScript,详细注释

Lee Chen

算法 大前端 LeetCode

探究Python源码,终于弄懂了字符串驻留技术

华为云开发者联盟

Python 字符串 Python解释器 字符串驻留 字符

华为云FusionInsight MRS在金融行业存算分离的实践

华为云开发者联盟

大数据 金融 华为云 存算分离 FusionInsight MRS

【STM32】EXTI---外部中断/事件控制器

AXYZdong

硬件 stm32 2月春节不断更

技术实践 | 新思路!解决线上系统异常问题

百度开发者中心

OAuth:每次授权暗中保护你的那个“MAN”

华为云开发者联盟

大前端 协议 权限 Oauth web服务

我用 go-zero 一周实现了一个中台系统,已开源!

万俊峰Kevin

微服务 go-zero Go 语言

话题讨论 | 如何使用“网站SEO”,让网站排在最前面?

我是哪吒

大前端 后端 话题讨论 SEO 2月春节不断更

心理声学基础

行者AI

心理 音乐

阿里云大佬爆裂推荐“redis全新手册”,内容即精华

比伯

Java redis 程序员 架构 程序人生

厉害了!这群95后正在用三维成像技术让科幻变成现实

华为云开发者联盟

视频 华为云 三维 裸眼 光学

ElasticSearch.04 - 基础操作

insight

elasticsearch 2月春节不断更

日记 2021年2月18日(周四)

Changing Lin

2月春节不断更

什么是阻抗?

不脱发的程序猿

阻抗 电路设计 电子元器件

Java中多线程启动,为什么调用的是start方法,而不是run方法?

Java 编程 架构

2021新年最新分享:阿里Java岗5轮技术面经整理

比伯

Java 编程 架构 面试 程序人生

山东党建系统!组织部智慧管理平台搭建

源中瑞-龙先生

智慧党建 组织部 山东

话题讨论 | 今年,你回家过年了吗?

xcbeyond

话题讨论 春节 就地过年

Java架构大牛之路必备“微服务架构笔记”

Java架构之路

Java 程序员 架构 面试 编程语言

offer稳了!四面阿里面经分享,定级P6之路。

Java架构之路

Java 程序员 架构 面试 编程语言

哲少荐书:鞋狗

Jackey

书籍推荐

区块链挖矿系统APP开发|区块链挖矿软件开发(现成)

v16629866266

14. Python 与数据库那点事儿,滚雪球学 Python

梦想橡皮擦

python 爬虫 2月春节不断更

进程管理:kill命令之-9与-15

程序员架构进阶

Java Linux 进程 七日更 2月春节不断更

28天写作再次开启,你准备好来挑战了吗?

TGO鲲鹏会

28天写作 热门活动

如何 1 天快速集成自己的“Clubhouse”?

融云 RongCloud

音视频 clubhouse 语音社交 融云

4.从legacy或concurrent开始(从入口开始,然后让我们奔向未来)

全栈潇晨

React React Hooks react源码

大厂必问算法!查漏补缺LeetCode必考“1024道技术点面试题”

Java架构之路

Java 程序员 架构 面试 编程语言

阿里面试这样问:redis 为什么把简单的字符串设计成 SDS?

程序员小富

Java redis 面试

新闻|2021 FOSDEM为期两天的活动成功举办,一大波学习资源来袭!

PostgreSQLChina

数据库 postgresql 软件 开源社区

Dev Proxy发布v1.0,具备AI故障模拟、Token速率限制和集成增强功能_DevOps & 平台工程_InfoQ精选文章