深度学习时代,“计算鸿沟”正在集中权力,加剧不平等

2020 年 11 月 24 日

深度学习时代,“计算鸿沟”正在集中权力,加剧不平等

来自弗吉尼亚理工学院暨州立大学(Virginia Tech)和西方大学(Western University)的人工智能研究人员得出结论称,学术界算力的不平等分配正在加剧深度学习时代的不平等。他们还指出了那些离开名牌大学去从事高薪行业工作的人对学术界产生的影响。


通过分析来自近 60 个著名计算机科学会议的 171394 篇论文,得出结论认为算力集中在精英大学,挤掉了中低层研究机构。该团队审查了ACLICMLNeurIPS等大型人工智能会议上接受发表的论文,这些论文涉及计算机视觉、数据挖掘、机器学习和自然语言处理等类别。


他们在论文中写道:“深度学习自 2012 年以来由于 GPU 的意外使用而迅速崛起,我们发现人工智能正越来越多地被少数参与者所塑造,而这些参与者大多隶属于大型科技公司或精英大学。要想真正实现人工智能的‘民主化’,需要政策制定者、学术机构和企业层面的行动者共同努力,以解决计算鸿沟问题。”


Nur Ahmed 和 Muntasir Wahed 在一篇题为《人工智能的去民主化:深度学习与人工智能研究中的计算鸿沟》(The De-democratization of AI: Deep Learning and the Compute Divide in Artificial Intelligence Research)的论文中,对他们的发现和建议进行了总结。这篇论文最近在arXiv上发表,并于 10 月底在商业研究会议战略管理学会(Strategic Management Society)上发表。


事实上,更富有的大学和公司在深度学习方面占据优势,这一点也不足为奇。像AlphaGo ZeroGPT-3这样的大型现代网络可能需要花费数百万美元的计算机来进行训练。在一份2019 年 12 月的报告中, Google、斯坦福大学(Stanford University)、麻省理工学院(MIT)、卡内基梅隆大学(Carnegie Mellon University)、加州大学伯克利分校(UC Berkeley)以及 Microsoft 被列为领先人工智能研究会议的前六大贡献者。


与此同时,规模较小的学校往往缺乏财政资源来考虑深度学习应用问题。这种限制可能会界定学术界研究人员探索的人工智能种类,或者加速人才向大科技公司的流失,因为这些公司拥有足够的资金来争夺顶尖人工智能人才。


这份报告证实了这种机会差距,它发现,自深度学习兴起以来,《美国新闻与世界报道》(U.S. News and World Report )排名 301~500 的大学在人工智能研究会议上发表的论文平均减少了 6 篇,比反事实估计者少了 25%。而在财富 500 强企业,科技巨头和顶尖大学中,情况却大相径庭。


这份报告写道:“据我们所知,这是第一次发现有证据表明,不断增长的专业设备需求将导致科学领域的贫富分化,我们认为,深度学习的兴起将极大地提高计算机和数据的重要性,而这反过来又增加知识生产的成本,从而提高进入门槛。”


合著者称,他们的研究证明了他们所说的“计算鸿沟”,沿着一系列社会断层线。精英大学往往拥有更多富有的学生,而且通常不像其他学校那样多元化。尤其是工程师,产品设计人员和人工智能研究人员。由于人工智能已经成为一项影响商业、公共服务和私人生活各个方面的普遍技术,这种人口结构失衡也将产生广泛的影响。


在分析这一趋势时,Ahmed 和 Wahed 将人工智能的历史划分为两个阶段。他们将第一个阶段定义为从上世纪 60 年代到 2012 年左右,当时通用硬件被用来训练人工智能。在第二个阶段,深度学习和专用硬件(如 GPU)定义了该行业,因为在ImageNet图像分类竞赛中,发现这两者共同有效地推动了计算机视觉的发展。


这份报告断言,美国政府应该通过扩大共享的公共数据集和其他资源来帮助大学。一些组织,如美国国防创新委员会(Defense Innovation Board)和美国国家人工智能安全委员会(National Security Commission on AI,NSCAI),建议五角大楼和国会增加公私合作、政府资助,并通过与远程开发人员接触来吸引具有非传统背景的人才


在今后几个月中,我们可以看到这些方面的进展。当选总统乔·拜登的政纲承诺投资 3000 亿美元用于 5G 和人工智能等领域的研发。


Ahmed 和 Wahed 的发现得到了最近其他一些研究报告的支持,这些研究报告评估了人工智能生态系统,以及该技术在拉近学术界和工业界之间关系方面所起的作用。例如,一篇名为《人工智能、人力资本与创新》(Artificial Intelligence, Human Capital, and Innovation)的论文发现,2004 年至 2018 年期间,人工智能造成了学术界前所未有的人才流失,导致 200 多人离开学术界担任行业职务。


该论文发表于 2019 年秋季,并于上个月更新,发现顶级大学、博士生以及深度学习领域的初创公司是当前人工智能人才短缺的最大受益者。该研究还发现,卡内基梅隆大学,麻省理工学院和斯坦福大学在校友继续创办人工智能创业公司的院校中排名最高。


Ahmed 和 Wahed 的论文也涉及关于产业界对学术界的影响,他们调查了 200 多名计算机科学系主任。这项研究是受计算机研究协会(Computing Research Association,CRA)委托并于几个月前发布的,该研究报告指出了学术界与产业界紧密合作所产生的的积极和消极影响。这些变化包括计算机研究人员转向产业界工作岗位。


“这种转变有可能对所从事的研究种类、研究质量、计算机科学系的文化以及本科生和研究生的培养产生负面影响。需要特别关注与系级文化、潜在的利益冲突、知识产权相关的问题,并确保学生能够继续得到足够的教师指导和接触,为他们的职业生涯做好准备。”一份有关该调查的白皮书写道。


作者介绍:


Khari Johnson,Venture Beat 人工智能专栏资深撰稿人,居住美国旧金山东湾。


原文链接:


https://venturebeat.com/2020/11/11/ai-research-finds-a-compute-divide-concentrates-power-and-accelerates-inequality-in-the-era-of-deep-learning/

2020 年 11 月 24 日 14:411023
用户头像
刘燕 InfoQ记者

发布了 470 篇内容, 共 146.9 次阅读, 收获喜欢 829 次。

关注

评论

发布
暂无评论
发现更多内容

依赖倒置原则

落朽

架构师训练营week06

FG佳

架构师一期

Week2作业

幸福小子

【架构师训练营第 1 期 06 周】 学习总结

Bear在挨踢

极客大学架构师训练营

第二周作业

hunk

极客大学架构师训练营

架构师训练营第六周作业

CmHuang

架构师训练营 week2 课后练习

花果山

极客大学架构师训练营

极客时间 - 架构师一期 - 第六周作业

_

极客大学架构师训练营 第六周作业

架构师训练营第六周总结

xs-geek

极客大学架构师训练营

第二周总结

willson

架构师1期week05

FG佳

第 6 周 作业

Pyr0man1ac

链表实现插入排序、机器学习Top 10 算法、图数据库实战Neptune、John 易筋 ARTS 打卡 Week 24

John(易筋)

学习 ARTS 打卡计划 链表实现插入排序 图数据库实战 Neptune

架构师训练营第 2 期 第二周总结

月下独酌

【面经】面试官:如果让你设计一个高并发的消息中间件,你会怎么做?

冰河

面试 高并发 异步 限流 消息中间件

第二周总结

孤星

【架构师训练营第 1 期 06 周】 作业

Bear在挨踢

极客大学架构师训练营

第 5 周 作业

Pyr0man1ac

第六周 技术选型 学习总结

应鹏

学习 极客大学架构师训练营

week2学习总结

幸福小子

第二周-总结

jizhi7

第2周作业

Steven

极客大学架构师训练营

架构师训练营 第二周学习总结

阿光

架构师训练营 - 第六周 - 作业一

行者

第 2 周 - 命题作业

willson

架构第六周作业

Geek_Gu

极客大学架构师训练营

架构师训练营 第二周作业

阿光

架构师系列之3 接口分离原则

桃花原记

第二周作业总结

hunk

极客大学架构师训练营

第二周

宇文青

第六周作业 (作业二)

Geek_83908e

极客大学架构师训练营

深度学习时代,“计算鸿沟”正在集中权力,加剧不平等-InfoQ