在哥本哈根 GOTO 大会上，Joanna Bryson 发表题为 "AI、企业责任与民主合法性" 的主题演讲，其中提到：AI 的偏见与人类的偏见如出一辙；两者都源于我们的语言和生活经历。伦理与 AI 密不可分，但 AI 改变了行为的可能性，使得实施有害行为变得更加容易。欧盟的法规适用于 AI ，因为数字产品也是产品。监管的最终目标是落实可问责性：企业必须确保透明度，而法律应当倾向于采用能够完成任务的最简单的 AI 。
正如 Bryson 在《科学》杂志上发表的文章（从语言语料库中自动推导出的语义包含类人偏见）中所阐述的那样，人类的隐性偏见与 AI 的偏见本质上是相同的。她指出，本质上，生成式 AI 的输出结果是对用于训练它的人类输出内容的转录，而隐性偏见则深深植根于我们的语言以及我们所说的一切之中。Bryson 及其合著者还发现，隐性偏见与人们的亲身经历密切相关。
Bryson 解释说，伦理可能受到技术（包括 AI 技术）的影响：
并不存在独立的 AI 伦理问题。如今，AI 已经成为我们日常生活中一切行为的组成部分。
Bryson 指出，当使用 AI 和数字工具时，可供性可能会发生变化。即使出于善意，可供性也可能使有害行为变得更快、更高效。
欧盟颁布了多项有关 AI 的现行法规。Bryson 指出，《通用数据保护条例》（GDPR）是所有其他欧盟数字法规的基础。它是界定哪些数据可以保留、哪些不能保留的基本依据。在欧盟，你有义务让人们了解关于算法决策是如何做出的。
《数字服务法案》涵盖了推荐系统、定向广告和用户画像等领域。Bryson 表示，该法案的关注点是功能强大的系统是否被应用于非法目的，例如对特定合作伙伴给予优待、收受金钱或操纵选举结果。
《数字市场法案》旨在监管仅生产部分 AI 产品的特定大型企业，而非针对 AI 本身。Bryson 认为，《人工智能法案》是这四部法案中最乏味的一部：
《人工智能法案》规定，如果你正在开发一个可能改变人们生活的系统，那么你最好做好 DevOps 工作。你最好能证明自己遵循了最佳实践等要求。
新颁布的欧盟《产品责任指令》明确指出，数字产品属于产品范畴。Bryson 解释道，这意味着欧盟的所有法规现在都适用于 AI 领域，就像适用于其他任何行业一样：
你有义务履行尽职调查。数字行业过去并不成熟，但如今已日趋成熟。
Bryson 认为，当你利用 AI 开发产品时，你必须对所开发的产品负责。如果你无法判断产出结果是否合格，那么最好不要推出该产品。
透明度在于向人们展示你已经尽到了应尽的责任。对于 AI 产品而言，透明度本身并非目标，而是一种手段。Bryson 强调，可问责性才是最终目标：
真正的目标是不断改善我们的社会。我们通过对彼此负责以及持续践行良好的做法来实现这一目标。透明度正是我们判断你是否践行了这些良好做法的依据。
Bryson 表示，《数字服务法案》和《人工智能法案》都包含审计条款，但没有人会去审计神经网络中每个神经元在做什么，因为这些属于流程审计。她举例说明了这些审计所检查的内容：
你真的按照最佳实践操作了吗？具体进行了哪些测试？你是如何判断某个功能已经可以发布了的？
Bryson 认为，了解系统是否运行正常至关重要。她总结道，法律应当倾向于采用能够完成任务的最简单的 AI 。
InfoQ 就 AI 伦理与设计师职责问题对 Joanna Bryson 进行了专访。
InfoQ：您能举一个关于 AI 系统伦理问题的例子吗？
Joanna Bryson：在《欧洲人工智能法案》中，其中一项是考虑应在欧洲禁止使用哪些技术。最初的草案中明确写道：“除涉及恐怖主义或绑架的情况外，禁止使用人脸识别技术”。但遗憾的是，绑架事件每天都在发生。绝大多数绑架案都是由对监护权裁决不满的父母所为。
我们的想法并不是要全天候监控所有人，而是在利用摄像头监控公共场所时，仅对自愿接受监控或经法官批准监控的人员进行监控，如恐怖分子和被绑架的儿童。但我们如何确保这些摄像头仅用于监控少数特定目标人群呢？而且，如果有人试图把该基础设施用于我们作为社会整体一致反对的事情，这会有多难？
InfoQ：您如何看待 AI 系统设计者的责任？
Bryson： 有些人试图将过多的责任强加给程序员。他们认为，软件工程师就像医生一样，是需要持证上岗的专业人士，并且在设计 AI 系统时，对用户负有某种一对一的个人责任。
我同意我们是专业人士。然而，并没有什么必然的关系表明某位程序员就应该报告某个具体的问题。如果你发现了问题，那么你或许有道义上的责任去报告。但最终的责任和义务在于开发该软件的整个公司。
你有责任确保客户获得其所期待的使用体验。如果你在产品中集成了他人的 AI 软件，则必须与开发该软件的公司签订合同，一旦出现问题，你就可以将赔偿责任转嫁给对方。
这与汽车行业的情况类似：如果汽车存在设计缺陷，客户可以起诉制造商。如果最终查明问题源于供应链中的某个环节，那么制造商也有责任进行调查。根据你与供应商的合同约定及其偿付能力，如果问题确实出在供应链环节，你或许能够将赔偿责任追溯至供应链上游，当然也可能无法做到。
原文链接：https://www.infoq.com/news/2026/05/accountability-AI-EU-regulations/
