OWASP 发布 AI 测试指南，以解决 AI 系统中的安全性、偏见和风险

OWASP 基金会正式推出AI测试指南（AI Testing Guide，AITG），这是一项新的开源倡议，旨在帮助组织系统性地测试和保障人工智能系统的安全性。这项由 Matteo Meucci 和 Marco Morana 领导的指南，为开发者、测试人员、风险官员和网络安全专业人员提供了一个基本资源，旨在推广 AI 系统安全的最佳实践。

随着 AI 技术在关键行业（从金融、医疗保健到国家安全）的嵌入，对结构化、特定于 AI 的测试需求显著增长。与传统软件不同，AI 系统引入了独特的挑战，包括非确定性行为、数据漂移、对抗性攻击和算法偏见。AITG 直接使用来自 OWASP 既定实践的方法论来解决这些问题，包括 Web 安全测试指南（Web Security Testing Guide，WSTG）和移动安全测试指南（Mobile Security Testing Guide，MSTG）。

AI 测试指南专注于以数据为中心的测试、公平性评估、对抗健壮性、隐私验证和持续模型监控等领域。它强调了可重复性、道德一致性和风险缓解的重要性，特别是在高风险应用中。

行业专业人士表达了他们的支持。企业安全策略专家 Michael Tyler评论说：

OWASP 的 AITG 是 AI 安全领域真正的游戏规则改变者。作为首席信息安全官，我们一直在与 AI 的非确定性特质和沉默的数据漂移作斗争。该指南提供了一条结构化的路径，以确保 AI 的安全、可审计，从提示词注入一直延续到持续监控。这是一个负责任部署的重要路线图！

专注于网络安全和 IT 审计的副总监 Teddy Ramanakasina补充说：

这是一项伟大的倡议！结构化的 AI 测试对于对齐安全、治理和保证至关重要。很高兴从风险和审计的角度做出贡献，期待与 OWASP 社区的互动。

同样，云和网络安全专家 Soulaiman Hajjaj强调了对这样一个框架的迫切需求：

优秀的倡议！这解决了一项关键的空白，因为大量组织缺乏全面的 AI 安全框架。结构化测试方法是进行风险缓解的不可谈判条件。

OWASP AI 测试指南旨在实现技术无关性和全球化，其路线图专注于持续更新，以跟上 AI 的进步。OWASP 邀请开发者、研究人员、红队成员和道德黑客通过其官方渠道和 Slack 社区做出贡献。

该项目目前处于第一阶段，公共草案和GitHub仓库现已上线。欢迎来自社区的输入，以帮助在 2025 年 9 月的首次官方发布之前完善该指南。

原文链接：

OWASP Launches AI Testing Guide to Address Security, Bias, and Risk in AI System