微软 3 月底将实施防止人脸识别滥用准则

阅读数:4186 2019 年 1 月 23 日

话题:AI微软深度学习

据《彭博社》报道,微软公司计划在今年 3 月底之前正式实施其为防止面部识别技术滥用而制定的道德准则,同时敦促各国政府推进该领域的对应监管。

该公司于去年 12 月呼吁进行人脸识别 AI 软件管理立法,在一些重要案件中倡导人工审查和技术监督,以此作为减轻结果带有偏见、侵犯隐私和民主自由的一种方式。

“我们确实需要以身作则,我们正在努力做到这一点,”微软总裁兼首席法律官 Brad Smith 在接受采访时表示,并补充说其他一些公司也在制定类似的原则。

Smith 表示,该公司计划在 3 月底之前“实施”其原则,其中包括起草政策、建立管理系统和工程工具,并进行测试以确保符合其目标。另外,该计划还涉及为公司的全球销售和咨询团队设置管控措施,以防止出售的技术被用于有害的目的。

执法部门、边境安全部门、军方和其他政府机构使用人脸识别软件引发了大众对偏见和大规模监视风险的担忧。研究表明,一些广受欢迎的人脸识别产品在对肤色较深的人进行检测时可能出现错误,表现更差。微软、亚马逊公司和 Alphabet 公司的谷歌都因向政府出售人脸识别软件而面临着员工和民权团体的抗议。

“微软确定会限制人脸识别的某些应用场景或用途,”Smith 谈到这些原则说到,并补充说这不一定意味着微软拒绝向政府提供这项技术。他说,该公司只希望阻止执法部门在没有优先保障措施的情况下使用该技术对特定个人进行持续监控。

Smith 表示,微软因此拒绝了一些合同,其中包括在某国家首都进行公共监督,以及与美国某执法机构的合作项目,“我们认为会造成不应有的歧视风险。”

当被问到微软是否会排除与中国执法机构的合作,特别是考虑到中国判断公民社会行为的新规则出台时,Smith 表示“在中国一定会出现重大问题,”并说到中国更有兴趣从当地公司而不是美国公司采购人脸识别技术。

微软表示,虽然该公司在自我管理规则方面有所进步,但全行业监管仍然是必要的。

Smith 认为:“你永远不会想要打造一个迫使公司在成功和负责任之间必须做出选择的市场,除非有监管层存在,否则就有发生这种情况的危险。”

原文链接:
http://t.cn/E5QtvPq