AI实践哪家强?来 AICon, 解锁技术前沿,探寻产业新机! 了解详情
写点什么

AI Now 调查报告:AI 领域被白人和男性占领,多样性严重不足

  • 2019-04-17
  • 本文字数:1290 字

    阅读完需:约 4 分钟

AI Now调查报告:AI领域被白人和男性占领,多样性严重不足

4 月 17 日,AI Now 研究所在发布的一份报告中表示,人工智能行业面临着“多样化危机”,并指出了关于该领域方向的关键问题。


报告发现,女性和有色人种的比例严重不足,并指出人工智能领域的教授男性占比约 80%,而 Facebook 和谷歌的女性人工智能研究人员占比分别仅为 15%和 10%。有色人种占比也极小,在主要科技公司员工中他们属于少数群体。结果显示,AI 领域的劳动力主要由白人和男性的观点领导,创建的工具也经常影响其他人群使用。“这些系统影响了劳动力的多样性,”AI Now 研究所联合主任 Meredith Whittaker 说。


更糟糕的是,通过修复潜在求职者的“通道”来改善问题的计划在很大程度上失败了。研究人员写道:“尽管经过数十年的”通道研究“评估了从学校到工业的各种求职者的流动,但人工智能行业的多样性并未取得实质性进展。


“我们需要知道这些系统是否公平安全。”


研究人员提出了一些改善问题的建议。他们认为,公司可以发布更多关于按种族和性别划分的福利数据,以及公布骚扰和歧视透明度报告来提高透明度。


虽然多样性是科技行业普遍存在的问题,但在人工智能中会造成更大的潜在危险,比如人脸识别等可能具有偏见性的技术将不合理地影响历史上被边缘化的群体。研究人员写道,2017 年引入的人脸扫描确定性行为的程序等工具可以反映出过去的不公正现象。我们需要严格的测试。但更重要的是,AI 工具的制造商自身必须拒绝进行具有风险的项目。“我们需要知道这些系统既安全又公平,”AI Now 研究所联合主任 Kate Crawford 说。


技术行业人员已经在一些主要的 AI 问题上表明了自己的立场,迫使他们的公司放弃或审查可能伤害弱势群体的敏感工具。亚马逊的工人向高管质疑该公司的人脸识别产品。最近,谷歌工作人员推翻了包括传统基金会主席在内的人工智能审查委员会,并指出该集团游说反对 LGBTQ 权利问题的行径,董事会因此迅速被解散。


研究人员得出结论:“人工智能中的多样性危机已有详细记录并且影响广泛。” “在整个行业和学术界,到处都可以看到职场、招聘和晋升方面的差异和不公平,反映和加深固有偏见的人工智能技术,以及自动化系统中死灰复燃的生物决定论,都可以看出这一点。”


对于这一现状,该调查报告给出的具体建议如下:


  1. 按照种族和性别,公开不同工种、工作类别员工的薪酬水平,包括奖金和股票;

  2. 结束薪酬和机会不平等,并设定包括合同工、临时工和供应商在内的薪酬和福利公平目标;

  3. 公开骚扰和歧视透明度报告,包括索赔的数量、时间、提交的索赔类型以及采取的措施;

  4. 改变招聘实践以最大化多样性:包括精英大学之外的定向招聘,确保更公平地关注代表性不足的群体,并为承包商、临时工和供应商成为全职员工此创造更多途径;

  5. 在招聘实践方面保持透明度,特别是关于候选人评级、福利和升职;

  6. AI 公司所有部门增加有色人种、女性和其他代表性不足群体在高管层中的人数;

  7. 确保高管激励结构与代表性不足群体的雇用和留存率提高挂钩;

  8. 对于学术工作场所,确保在进行 AI 研究所有领域具有更大的多样性,包括人工智能相关部门和会议委员会。


参考链接:


https://www.theverge.com/2019/4/16/18410501/artificial-intelligence-ai-diversity-report-facial-recognition



2019-04-17 14:183532
用户头像

发布了 98 篇内容, 共 66.1 次阅读, 收获喜欢 285 次。

关注

评论

发布
暂无评论
发现更多内容

DDD领域驱动设计在团队中推广和实施

AiDaddy

Canvas制作转盘和钢琴

空城机

typescript 大前端 canvas 引航计划

智能世界的罗马是怎样建成的?

脑极体

谈谈几种数据库优化方法和依据的指标

Regan Yue

数据库优化 9月日更

前端性能优化实战(二)

Augus

JavaScript 9月日更

缓存的弊端,你了解吗

卢卡多多

缓存 9月日更

说要内推阿里的学长,替我整理好的Java面试题,分享给大家

Java spring 程序员 架构 编程语言

阿里第三版「SpringCloudAlibaba笔记」出世,全新技术限时开源

Java 编程 架构 面试 微服务

有人出15万要买下这份384页JDK源码笔记的版权,但被我果断拒绝,为了大家,我要开源

Java 程序员 架构 面试 计算机

报名领奖|云栖大会,10月19-22日杭州不见不散!

阿里巴巴云原生

阿里巴巴 阿里云 云原生 云栖大会

☕【Java技术指南】「JPA编程专题」让你不再对JPA技术中的“持久化型注解”感到陌生了!

码界西柚

Java 注解 jpa 使用技巧 9月日更

让项目顺利上线:做好转测试与上线准备

石云升

项目管理 管理 引航计划 内容合集 9月日更

模块8

Geek_35a345

一个Product Owner的假设引发的思考

Bruce Talk

敏捷 随笔 Agile Product Owner

程序员(媛)不懂汉服?岂能让别人小看,咱先靠肉眼大数据识别万张穿搭照

梦想橡皮擦

9月日更

我写了一个脚本,可在“任意”服务器上执行命令!

冰河

Java 后台开发 运维 研发效能 系统架构

在线Emoji符号大全

入门小站

工具

跪了!阿里官方出品Spring Security王者手册,Github获赞70k+

spring 程序员 编程语言

Dubbo3.0|阿里巴巴服务框架三位一体的选择与实践

阿里巴巴云原生

阿里云 云原生 Dubbo3

联机数据分析OLAP:Kylin入门

正向成长

kylin

25. 自动驾驶:AI最大的应用场景

Databri_AI

人工智能

Morphling:云原生部署 AI , 如何把降本做到极致?

阿里巴巴云原生

阿里云 AI 云原生 Morphling

Spark 系列教程(1)Word Count

Se7en

学生管理系统架构设计文档

Rabbit

架构实战营 - 模块四作业

Alex.Wu

ECS 选款利器!PTS助您快速上云!

阿里巴巴云原生

活动 ECS TPS

学习心得 - 架构训练营 - 第四课

Fm

基于OpenCV+QT开发超实用的视频编辑器

轻口味

OpenCV 音视频 引航计划 9月日更

linux之mktemp命令

入门小站

Linux

美团一面:为什么选用Hbase,Hbase和MySQL的区别是什么?

Java MySQL 架构 面试 后端

网络攻防学习笔记 Day147

穿过生命散发芬芳

风险评估

AI Now调查报告:AI领域被白人和男性占领,多样性严重不足_AI&大模型_Colin Lecher_InfoQ精选文章