Movidius 访谈:Intel 刚刚推出神经计算棒的部门

  • Roland Meertens
  • 谢丽

2017 年 8 月 27 日

话题:语言 & 开发AI

近日,Movidius(Intel 新技术集团的一个部门)发布了神经计算棒:一个基于 USB、运行嵌入式神经网络的开发工具包。借助该计算棒,用户可以在计算能力较低的设备上运行神经网络和计算机视觉模型。InfoQ 联系了 Intel 新技术集团 Movidius 市场营销总监 Gary Brown,并向他提了几个问题。

InfoQ:您能介绍下 Movidius 神经计算棒是个什么东西并列举它的部分关键特性吗?

Gary Brown:我很兴奋我们上个月推出了新的Movidius™神经计算棒,这是首款基于 USB 的、超低功耗、嵌入式深度神经网络开发工具包。它本质上是一个自包含的深度学习加速器和开发工具包,让深度学习推理应用程序和人工智能应用程序可以边缘部署。它内置了Movidius Myriad™ 2 视觉处理单元(VPU),用于支持深度神经网络推理。该设备运行在标准 USB 3 接口上,不需要额外的电源或硬件,让用户可以将基于 PC 的原型部署到本地各种没有连接云的设备上。

InfoQ:哪些开发人员对 Movidius 神经计算棒感兴趣?

Brown:我们的新开发工具包主要有两类受众:有兴趣学习机器学习的嵌入式开发人员和有机器学习及 AI 知识、正在寻找一个嵌入式平台用于研究的开发人员。Movidius 神经计算棒可以用于各种研究和原型实例中——比如机器人视觉、自动驾驶或者智能安防摄像头开发——它们将深度神经网络(DNN)技术应用在场景分割、对象跟踪或对象分类和识别。由于内置了 Myriad 2 VPU,所以它虽然外形小巧,却能提供高能效的深度神经网络推理。

InfoQ:起始页显示,开发人员需要一台运行 Ubuntu 的笔记本电脑。OSX 或 Windows 用户可以使用计算棒吗?

Brown:Ubuntu Linux 上运行着 Neural Compute SDK,该工具用于编译、调优及验证开发人员希望在神经计算棒上运行的深度神经网络。我们还没有推出支持其他操作系统的扩展工具。神经计算棒的关键是 DNN 的实时运行,为了吸引更多受众,我们推出了支持 X86 平台及 Raspberry Pi 的开发工具包。

InfoQ:目前,Caffe 是神经计算棒唯一支持的神经网络框架。将来会支持其他框架吗,如 Tensorflow、 CNTK 或 Theano(它们全都支持 Keras)?

Brown:目前,我们的重点是为基于流行框架 Caffe 的神经网络提供丰富的支持,不过,我们正在制定支持其他框架的计划。

InfoQ:神经计算棒内置了视觉处理单元(VPU)。对于希望在文本或音频数据上运行神经网络的用户而言,这意味着什么?

Brown:在自然语言处理方面无疑还有一些挑战,基于 VPU 的神经计算棒主要是为访问从根本上支持可视化智能应用程序的开发平台提供便利。VPU 是专门针对加速机器视觉任务而设计的,这些任务包括图像处理、计算机视觉处理和深度学习。

InfoQ:我们想知道,神经计算棒是否支持容器化应用程序?它是如何做到的?它提供了 Docker 支持,还是有其他的方法可以将计算棒用于此类应用程序?

Brown:MvNC SDK 提供了一个 API 框架,支持在安装 Ubuntu 16.04 的 x86_64 平台和安装 Jessie 的 Raspberry PI 平台上进行原生应用程序开发。开发人员可以使用这个框架将经过 Movidius 神经计算棒加速的实时深度神经网络集成到应用程序中。我鼓励开发人员看一下我们的开发者页面,看看如何使用这些 API。不管总的应用程序是否是运行在容器平台上,只要平台支持 USB,并且插上了 Movidius 神经计算棒,开发人员就可以使用计算棒实时运行 DNN,为他们的应用程序提速。

InfoQ:目前支持哪些类型的网络?

Brown:目前,Movidius 神经计算棒支持若干示例神经网络,包括 GoogLeNet、AlexNet 等。开发人员可以运行他们自己定义的网络,只要这些网络是使用 Caffe 框架训练的。想要详细了解支持的 Caffe 层,请访问https://developer.movidius.com/

InfoQ:不久以前,Intel 发布了一些产品,如 RealSense(也添加到了 Intel Euclid 中)。有什么方法可以结合 NCS 和 RealSense 技术吗?

Brown:有,当然有。创建深度神经网络的开发人员需要深度信息,Intel RealSense 技术可以合并成在 Movdius 神经计算棒上运行的深度神经网络的一个输入。

InfoQ:虽然 NCS 最近已经发布,但是我们想知道,您是否见过有人以创新的方式使用它?

Brown:我很高兴你问这个问题,因为当我们在 CVPR 大会上发布神经计算棒时,我们高兴地看到,有许许多多的开发人员(既有企业开发人员,也有学术研究人员)有一些在视觉智能方面使用神经网络的独特方法。例如,我们发现了可以解决机器人真空吸尘器、自主飞行的无人机、无人驾驶汽车相关问题的有趣 DNN,甚至是可以在视频中颇有分寸地改变你头发颜色的应用程序,以及使用机器学习自动从视频源中生成 GIF 的公司。我们已经看到了许多新用户,也希望看到开发者社区出现更多创造性应用程序。

关于 Gary Brown

Gary Brown 是 Movidius 市场营销总监,这是 Intel 的一家公司,也是 Intel 新技术集团的一个部门,负责管理产品营销和战略合作伙伴。Brown 之前在 Dolby Laboratories、Tensilica 和 Cadence 担任过领导职位。他的嵌入式 DSP 背景和他对计算机视觉技术的热情帮助他带领 Intel 的计算机视觉技术进入了这个机器智能的新时代。

查看英文原文Q&A With Movidius, a Division of Intel Who Just Launched the Neural Compute Stick

语言 & 开发AI