Facebook 首席 AI 科学家:机器学习的杀手级应用是什么?AR 眼镜!

阅读数:1 2019 年 12 月 27 日 11:05

Facebook首席AI科学家:机器学习的杀手级应用是什么?AR眼镜!

想要实现理想中的 AR 眼镜,还需要面临一系列的挑战,尤其是在能效比方面,越来越多的开发者开始去考虑低功耗的问题。近期,关于机器学习的应用场景,Facebook 首席 AI 科学家 Lann LeCun 就曾表示,AR 眼镜将是机器学习从业者的绝佳挑战领域,它将成为高效节能的机器学习杀手级应用。

Facebook首席AI科学家:机器学习的杀手级应用是什么?AR眼镜!

Facebook AI Research 首席 AI 科学家 Lann LeCun 相信增强现实眼镜是机器学习从业者的绝佳挑战领域,AR 眼镜将成为杀手级应用,因为这里面包含了一系列尚未解决的问题。

完美的 AR 眼镜需要对话式 AI、计算机视觉和其他复杂系统的结合,这些系统需要以一对镜片这么小尺寸的形态发挥作用。低功耗的 AI 是不可或缺的,这样才能确保合理的电池寿命,使用户能够长期佩戴这种眼镜。

今年秋天, Facebook 与苹果 Niantic 和高通这些公司一道,确认了在 2025 年前制造出增强现实眼镜的计划

“这是对硬件的一个巨大挑战,因为你的眼镜可能会配置相机,它会实时追踪你的视野,追踪的延时是不确定的,所以当你移动时……这需要非常大的计算量。你想通过语音与个人助手交互,你可以对个人助手说话,个人助手会随时倾听你说话,也会与你交谈。你需要手势【识别】,这样个人助手就可以进行实时手部追踪。”他说道。

“实时手部追踪技术已经可以投入使用了”,LeCun 说道,“但是我们不知道怎样在 AR 眼镜那么小的尺寸,和那么严格的功耗限制下做到这一点。”

“就功率、能耗、性能和尺寸这些指标来看,这真的已经超出了我们现在能做的范畴,所以你需要使用一些小技巧,虽然人们可能从来没有觉得这些小技巧适用于这样的场景。其中一个技巧就是神经网络。”他补充道。

变得更加高效

LeCun 在 12 月中旬的 NeurIPS(全球最大的机器学习研究会议)的 EMC 节能机器学习研讨会上发表了讲话。他谈到硬件性能是如何限制研究人员的想象力的,当硬件运行太慢,高性能软件还不可用,或者实验不那么容易复现时,一些好的想法就可能被废弃掉。

他还谈到了一些具体的机器学习方法,像微分联想存储和卷积神经网络,这些方法给硬件提出了挑战,可能需要新的硬件才行。微分联想存储,或者说 soft RAM 是目前在自然语言处理(NLP:Natural Language Processing)中广泛使用的一种计算方法,并且也开始越来越多地应用在计算机视觉领域中。

“深度学习和机器学习架构在未来几年将发生很大改变。你现在已经可以看到发生了很大的变化,目前在 NLP 这个领域中,唯一的玩法基本上就是变形网络。”他说道。

他补充说道,“自我监督学习中更有效的批处理技术能帮助 AI 更好地像人类和动物一样学习,这可能也可以帮助 AI 节省更多能源。“

在 LeCun 的演讲之后,是 Vivienne Sze 的演讲(MIT 电子工程和计算机科学副教授),他谈到了需要一种系统性的方式来评估深度神经网络。据 SlidesLive 网站报道,早些时候 Sze 关于高效深度神经网络的演讲,获得了所有 NeurIPS 在线分享视频的最高浏览量。

“更大的存储会消耗更多的能源,”Sze 说道,“神经网络中的权重并非同样重要。”Sze 还演示了 Accelergy ,这是 MIT 研发的一个用于评估硬件能耗的框架。

除了这些演讲之外,这场研讨会的展示环节展示了一些值得关注的低能耗 AI 解决方案,这包括 DistilBERT ,它是 Google BERT 的轻量级版本,是 Hugging Face 专为端上设备快速部署而研发的;还有 SRI International 和 Latent AI 提供的深度神经网络量化技术对比。

许多知名人士呼吁机器学习社区需要面对气候改变的问题,他们表示专注在这样的问题上能够驱动创新。上周在 NeurIPS 的一次小组讨论中,另一位深度学习先驱人物, Yoshua Bengio 呼吁机器学习研究人员把更多注意力放在影响气候改变的机器学习问题上,而不要总是太多关注发表论文的数量上。

接受 VentureBeat 的一次采访中,Google AI 首席科学家 Jeff Dean 表示他支持这样一种想法,就是创建每瓦计算量的一个标准,以此鼓励发明创造出能够更高效计算的硬件。

节约能源

NeurIPS 上除了解释深度学习算法的一些理论工作外,会议还介绍了大量的工作,这些工作说明了研究 AI 对气候变化带来的影响是非常重要的,其中包含了这样一篇论文:“ Energy Usage Reports: Environmental awareness as part of algorithmic accountability ”。

“我们必须要测算出算法的碳排放量,并能公开地报道出来,这样计算机科学家就能在环境可持续发展上展现出真诚和积极的一面。”这篇论文这样写道。

与这一主张不谋而合的是,大会组织者在早些时候建议,AI 研究人员在 2020 年向 NeurIPS 提交他们的研究工作时,可能需要分享与他们工作相对应的碳排放量数据。

最近发布的 2019 AI Now Institue report 包含了十多项建议,其中就有如何衡量一个算法执行所产生的碳排放量,该报告称这样的建议可以促进一个更加公正的社会。

在其他有关节能的 AI 新闻中,来自 Element AI 和 Mila Quebec AI Institute 的机器学习从业者上周介绍了一种新的工具,可以计算出使用 GPU 训练 AI 模型的碳排放量,进而可以基于使用时间和云区域等因素来预测能源使用情况。

对更高效机器学习方式的推动可以带来创新,这些创新将能够改变我们的星球。但是,宏伟的想法和挑战需要一个焦点——聚焦能够让理论性的东西变得更切合实际,能够让我们梳理出需要解决的实际的、具体的问题。根据 LeCun 所说,AR 眼镜可能就是机器学习从业者们的绝佳用例场景。

原文链接:

https://venturebeat.com/2019/12/17/yann-lecun-ar-glasses-will-be-the-killer-app-of-energy-efficient-machine-learning/

评论

发布