【AICon】探索RAG 技术在实际应用中遇到的挑战及应对策略!AICon精华内容已上线73%>>> 了解详情
写点什么

谷歌和微软为何纷纷在财报披露投资 AI 有风险?

  • 2019-02-12
  • 本文字数:1883 字

    阅读完需:约 6 分钟

谷歌和微软为何纷纷在财报披露投资AI有风险?

上周,谷歌 CEO SUNDAR Pichai 在母公司 Alphabet 的财报电话会议上给投资者带来了好消息:Alphabet 上季度收入为 393 亿美元,比去年同期增长 22%。Pichai 对谷歌的机器学习技术大加赞誉,称其已找到了将广告与消费者的意愿更紧密匹配的方法。

Alphabet、微软年报披露 AI 投资风险

但 Pichai 却没有提这么一件事:Alphabet 告诫投资者,相同的 AI 技术可能会给公司的业务带来道德和法律上的麻烦。这一警告首次出现在 Alphabet 最新年度报告的“风险因素”部分,该报告于次日向美国证券交易委员会提交:


“新产品和服务,包括那些包含或利用人工智能和机器学习的产品和服务,可能会引发新的,或者加剧现有的道德、技术、法律和其他挑战的风险,这些挑战可能会对我们的品牌、产品和服务需求产生负面影响,并影响我们的收入和经营业绩。”


公司必须在其年报中的风险因素部分向投资者披露可预见的问题,这是自由市场运作的保障,并为公司提供了一种化解诉讼,以及管理层潜在问题的方法。


目前,我们尚不清楚为什么 Alphabet 的律师决定在此刻向投资者警告智能机器会带来风险。谷歌方面也拒绝详细说明其公开文件。该公司于 2009 年开始在公共道路上测试自动驾驶汽车,并且多年来一直公开人工智能引起的道德问题研究。


Alphabet 热衷于将自己定位为人工智能研究领域的领导者,但比起其竞争对手微软,Alphabet 对投资者发出关于 AI 道德风险警告晚了 6 个月。谷歌最新文件中关于人工智能的披露内容与微软在去年 8 月向美国证券交易委员会提交的最新年度报告如出一辙,只不过是浓缩版的:


“AI 算法并不完美。数据集可能不足或包含有偏见的信息。微软或其他人的不当或有争议的数据实践可能会影响人们对 AI 解决方案的接受程度。这些缺陷可能会破坏 AI 应用程序产生的决策、预测或分析,使我们面临相互竞争带来的伤害、法律责任以及品牌或声誉受损。”


微软多年来一直在人工智能方面进行深度投资,并在 2016 年引入了一个内部人工智能道德委员会,该委员会已经阻止了一些被视为不当使用 AI 技术的合同。


微软没有回应有关其披露 AI 带来风险可能性的时间。在最近大家开始关注并投入研究的 AI 道德风险挑战方面,微软和 Alphabet 都发挥了重要作用,并身陷此话题引发的麻烦之中。


去年,研究人员发现微软的云端服务在检测黑人女性的性别的能力远不如白人男性。该微软为此道歉并表示已经解决了这个问题。谷歌的员工抗议活动迫使该公司退出与五角大楼的 AI 无人机监控项目合同,另外,在黑人被误判为大猩猩的事件发生后,谷歌审查了自己从用户快照中搜索猿猴的照片服务。

AI 风险披露模糊不清

微软和谷歌的新披露的内容看起来模糊不清。它们向美国证券交易委员会(SEC)提交了冗长的文件,用一种特殊的,包含大量分句的律师语言写成。同样,斯坦福大学公司治理研究计划主任 David Larcker 表示,人们对人工智能引发的风险已有更好的认知。“人们真的注意到这些问题,”他说。


Larcker 表示,投资者和竞争分析风险因素是一种常用手段,但一些信息实际上或多或少是没有实际意义的,例如经济发展放缓。然而,人工智能引发的道德挑战,可以释放更多信息。


那些声称其未来在很大程度上依赖于人工智能和机器学习的公司,很多并未将这些技术带来的不可预期的影响列在 SEC 披露中列出来。在 IBM 最新的年度报告中,2017 年,该公司声称其“引领了人工智能注入软件解决方案的新兴市场”,同时也是“数据责任、道德和透明度”的先驱。但该文件对于 AI 或机器学习带来的风险并未多说。未来几周,该公司将完成接下来的年度报告。


亚马逊在其语音助手 Alexa 和仓库机器人等领域依赖 AI,也确实在本月早些时候提交的年度报告中的风险因素中提到人工智能。然而,与谷歌和微软不同,该公司并未请投资者详细了解其算法为何会产生偏见或道德问题。亚马逊担心,这样做或导致政府对此技术制定不友好的商业规则。


在《政府监管不断变化可能危害我们的业务》一文中亚马逊写道:“目前尚不清楚管理财产所有权、诽谤、数据保护和个人隐私等问题的现行法律如何适用于互联网、电商、数字内容、网络服务以及人工智能技术和服务。”


具有讽刺意味的是,周四,亚马逊申请政府制定关于面部识别的规则,指出了滥用该技术的危险。亚马逊未回应关于其认为投资者需要了解监管政策,而非 AI 道德不确定性的原因。这个评估可能会发生改变。


Larcker 表示,随着新的业务实践和技术变得越来越重要,越来越多的公司将披露新技术的风险。网络安全过去并不经常出现在美国证券交易委员会的文件中,但现在却是“常客”。AI 可能是下一个。


参考链接:


https://www.wired.com/story/google-microsoft-warn-ai-may-do-dumb-things/


公众号推荐:

2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。

AI 前线公众号
2019-02-12 12:084530
用户头像

发布了 98 篇内容, 共 62.4 次阅读, 收获喜欢 285 次。

关注

评论

发布
暂无评论
发现更多内容

作业-2020年10月25日

芝麻酱

week-5-part2 学习总结

陈龙

作业一:食堂就餐卡系统设计

伊灵

第5周作业

paul

【架构师训练营 1 期】第五周作业

诺乐

5. Bean Validation声明式验证四大级别:字段、属性、容器元素、类

YourBatman

Hibernate-Validator Bean Validation 数据校验

第五周作业(作业一)

Geek_83908e

极客大学架构师训练营

极客大学 - 架构师训练营第一期 - 第五周作业

Black Eyed Peter

极客大学架构师训练营

一致性hash

袭望

第五周作业

熊桂平

极客大学架构师训练营

第五周学习心得

熊桂平

极客大学架构师训练营

阿里云盘线下交流会

兔2🐰🍃

阿里云网盘 Teambition 线下体验

架构师训练营Week01总结

「架构师训练营」第 1 周作业 - 食堂就餐卡系统设计

xiaomao

架构师训练营第五周学习笔记

一马行千里

极客大学架构师训练营

5.1 分布式缓存架构:架构原理与注意事项

orchid9

5.2 分布式缓存架构:常见的缓存实现形式

orchid9

5.5 负载均衡架构

orchid9

第五周作业 (作业二)

Geek_83908e

极客大学架构师训练营

Week 5 作业02

Croesus

SpringBoot整合原生OpenFegin的坑(非SpringCloud)

冰河

微服务 高并发 远程调用 springboot OpenFegin

5.3 分布式缓存架构:一致性 hash 算法

orchid9

5.4 消息队列:如何避免系统故障传递?

orchid9

架构一期第五周作业

Airs

架构师训练营第 1 期第 5 周作业

owl

极客大学架构师训练营

Consistent Hashing算法实现 - JavaScript

2期架构师训练营 - 食堂就餐卡系统设计

云飞扬

极客大学架构师训练营

week-5-part1 java实现一致性 hash 算法

陈龙

间隔重排序链表Reorder List,iOS架构RxSwift, VIPER,MVVM,MVP, 机器学习,SageMaker,John 易筋 ARTS 打卡 Week 23

John(易筋)

学习 ARTS 打卡计划 重新排列链表算法 iOS 架构RxSwift SageMaker

【架构师训练营 1 期】第五周学习总结

诺乐

架构师训练营 - 第 5 周课后作业(1 期)

Pudding

谷歌和微软为何纷纷在财报披露投资AI有风险?_AI&大模型_TOM SIMONITE_InfoQ精选文章