上周，谷歌 CEO SUNDAR Pichai 在母公司 Alphabet 的财报电话会议上给投资者带来了好消息：Alphabet 上季度收入为 393 亿美元，比去年同期增长 22％。Pichai 对谷歌的机器学习技术大加赞誉，称其已找到了将广告与消费者的意愿更紧密匹配的方法。
Alphabet、微软年报披露 AI 投资风险
但 Pichai 却没有提这么一件事：Alphabet 告诫投资者，相同的 AI 技术可能会给公司的业务带来道德和法律上的麻烦。这一警告首次出现在 Alphabet 最新年度报告的“风险因素”部分，该报告于次日向美国证券交易委员会提交：
“新产品和服务，包括那些包含或利用人工智能和机器学习的产品和服务，可能会引发新的，或者加剧现有的道德、技术、法律和其他挑战的风险，这些挑战可能会对我们的品牌、产品和服务需求产生负面影响，并影响我们的收入和经营业绩。”
公司必须在其年报中的风险因素部分向投资者披露可预见的问题，这是自由市场运作的保障，并为公司提供了一种化解诉讼，以及管理层潜在问题的方法。
目前，我们尚不清楚为什么 Alphabet 的律师决定在此刻向投资者警告智能机器会带来风险。谷歌方面也拒绝详细说明其公开文件。该公司于 2009 年开始在公共道路上测试自动驾驶汽车，并且多年来一直公开人工智能引起的道德问题研究。
Alphabet 热衷于将自己定位为人工智能研究领域的领导者，但比起其竞争对手微软，Alphabet 对投资者发出关于 AI 道德风险警告晚了 6 个月。谷歌最新文件中关于人工智能的披露内容与微软在去年 8 月向美国证券交易委员会提交的最新年度报告如出一辙，只不过是浓缩版的：
“AI 算法并不完美。数据集可能不足或包含有偏见的信息。微软或其他人的不当或有争议的数据实践可能会影响人们对 AI 解决方案的接受程度。这些缺陷可能会破坏 AI 应用程序产生的决策、预测或分析，使我们面临相互竞争带来的伤害、法律责任以及品牌或声誉受损。”
微软多年来一直在人工智能方面进行深度投资，并在 2016 年引入了一个内部人工智能道德委员会，该委员会已经阻止了一些被视为不当使用 AI 技术的合同。
微软没有回应有关其披露 AI 带来风险可能性的时间。在最近大家开始关注并投入研究的 AI 道德风险挑战方面，微软和 Alphabet 都发挥了重要作用，并身陷此话题引发的麻烦之中。
去年，研究人员发现微软的云端服务在检测黑人女性的性别的能力远不如白人男性。该微软为此道歉并表示已经解决了这个问题。谷歌的员工抗议活动迫使该公司退出与五角大楼的 AI 无人机监控项目合同，另外，在黑人被误判为大猩猩的事件发生后，谷歌审查了自己从用户快照中搜索猿猴的照片服务。
AI 风险披露模糊不清
微软和谷歌的新披露的内容看起来模糊不清。它们向美国证券交易委员会（SEC）提交了冗长的文件，用一种特殊的，包含大量分句的律师语言写成。同样，斯坦福大学公司治理研究计划主任 David Larcker 表示，人们对人工智能引发的风险已有更好的认知。“人们真的注意到这些问题，”他说。
Larcker 表示，投资者和竞争分析风险因素是一种常用手段，但一些信息实际上或多或少是没有实际意义的，例如经济发展放缓。然而，人工智能引发的道德挑战，可以释放更多信息。
那些声称其未来在很大程度上依赖于人工智能和机器学习的公司，很多并未将这些技术带来的不可预期的影响列在 SEC 披露中列出来。在 IBM 最新的年度报告中，2017 年，该公司声称其“引领了人工智能注入软件解决方案的新兴市场”，同时也是“数据责任、道德和透明度”的先驱。但该文件对于 AI 或机器学习带来的风险并未多说。未来几周，该公司将完成接下来的年度报告。
亚马逊在其语音助手 Alexa 和仓库机器人等领域依赖 AI，也确实在本月早些时候提交的年度报告中的风险因素中提到人工智能。然而，与谷歌和微软不同，该公司并未请投资者详细了解其算法为何会产生偏见或道德问题。亚马逊担心，这样做或导致政府对此技术制定不友好的商业规则。
在《政府监管不断变化可能危害我们的业务》一文中亚马逊写道：“目前尚不清楚管理财产所有权、诽谤、数据保护和个人隐私等问题的现行法律如何适用于互联网、电商、数字内容、网络服务以及人工智能技术和服务。”
具有讽刺意味的是，周四，亚马逊申请政府制定关于面部识别的规则，指出了滥用该技术的危险。亚马逊未回应关于其认为投资者需要了解监管政策，而非 AI 道德不确定性的原因。这个评估可能会发生改变。
Larcker 表示，随着新的业务实践和技术变得越来越重要，越来越多的公司将披露新技术的风险。网络安全过去并不经常出现在美国证券交易委员会的文件中，但现在却是“常客”。AI 可能是下一个。
参考链接：
https://www.wired.com/story/google-microsoft-warn-ai-may-do-dumb-things/
注册/登录 InfoQ 发表评论