MXNet API 入门 —第 5 篇

阅读数:1585 2017 年 7 月 19 日 17:03

第4 篇中,我们介绍了如何轻松地使用预训练版Inception v3 模型进行物体识别。本文将使用另外两个著名的卷积神经网络(CNN)模型(VGG19 和ResNet-152),并将其与Inception v3 的效果进行对比。

CNN 的架构(来源:Nvidia)

VGG16

诞生于 2014 年的 VGG16 是一种16 层模型(研究论文),该模型以低至 7.4%的物体识别错误率赢得了 2014 年度 ImageNet 挑战赛

ResNet-152

诞生于 2015 年的 ResNet-152 是一种152 层模型(研究论文),在物体识别方面,该模型以破纪录的 3.57%错误率赢得了 2015 年度 ImageNet 挑战赛。这一准确率甚至超过了普通的人工识别,人工识别的错误率通常为 5% 左右。

下载模型

首先再次访问 Model zoo 。与 Inception v3 类似,我们需要下载模型的定义和参数。这三个模型都针对相同的分类进行了训练,因此可以继续使用之前的 synset.txt 文件。

$ wget http://data.dmlc.ml/models/imagenet/vgg/vgg16-symbol.json
$ wget http://data.dmlc.ml/models/imagenet/vgg/vgg16-0000.params
$ wget http://data.dmlc.ml/models/imagenet/resnet/152-layers/resnet-152-symbol.json
$ wget http://data.dmlc.ml/models/imagenet/resnet/152-layers/resnet-152-0000.params

加载模型

这三个模型都使用 ImageNet 数据集进行过训练,该数据集中图片通常为 224x224 像素大小。由于数据形态和分类完全相同,因此也可以继续重用之前的代码

这次只需要更改模型的名称 :) 我们可以为 loadModel() 和 init() 函数添加一个参数。

def loadModel(modelname):
        sym, arg_params, aux_params = mx.model.load_checkpoint(modelname, 0)
        mod = mx.mod.Module(symbol=sym)
        mod.bind(for_training=False, data_shapes=[('data', (1,3,224,224))])
        mod.set_params(arg_params, aux_params)
        return mod
def init(modelname):
        model = loadModel(modelname)
        cats = loadCategories()
        return model, cats

预测结果对比

我们可以通过同一批图片对三个模型的结果进行对比。

*** VGG16
[(0.58786136, 'n03272010 electric guitar'), (0.29260877, 'n04296562 stage'), 
(0.013744719, 'n04487394 trombone'), (0.013494448, 'n04141076 sax, saxophone'),
 (0.00988709, 'n02231487 walking stick, walkingstick, stick insect')]

可能性最高的两个分类判断结果让人满意,但后续三个结果错得离谱。似乎竖立放置的麦克风支架干扰了模型的识别。

*** ResNet-152
[(0.91063803, 'n04296562 stage'), (0.039011702, 'n03272010 electric guitar'), 
(0.031426914, 'n03759954 microphone, mike'), (0.011822623, 
'n04286575 spotlight, spot'), (0.0020199812, 'n02676566 acoustic guitar')]

排名第一的预测非常准确,但接下来的四个预测风马牛不相及。

*** Inception v3
[(0.58039135, 'n03272010 electric guitar'), (0.27168664, 'n04296562 stage'),
 (0.090769522, 'n04456115 torch'), (0.023762707, 'n04286575 spotlight, spot'), 
(0.0081428187, 'n03250847 drumstick')]

前两个分类的结果与 VGG16 极为类似,另外三个结果良莠不齐。

再换张图片试试看。

*** VGG16
[(0.96909302, 'n04536866 violin, fiddle'), (0.026661994, 'n02992211 cello, violoncello'),
 (0.0017284016, 'n02879718 bow'), (0.00056815811, 'n04517823 vacuum, vacuum cleaner'), 
(0.00024804732, 'n04090263 rifle')]

*** ResNet-152
[(0.96826887, 'n04536866 violin, fiddle'), (0.028052919, 'n02992211 cello, violoncello'), 
(0.0008367821, 'n02676566 acoustic guitar'), (0.00070532493, 'n02787622 banjo'),
 (0.00039021231, 'n02879718 bow')]

*** Inception v3
[(0.82023674, 'n04536866 violin, fiddle'), (0.15483995, 'n02992211 cello, violoncello'), 
(0.0044540241, 'n02676566 acoustic guitar'), (0.0020963412, 'n02879718 bow'), 
(0.0015099624, 'n03447721 gong, tam-tam')]

三个模型排名第一的预测分数都很高。不过也可以理解,毕竟小提琴的外形在神经网络看来还是很有特点的。

很明显,单凭少数例子还不能得出准确的结论。如果要挑选预训练模型,那么绝对要先准备好训练数据集,使用自己的数据进行测试并酌情决定!

技术指标对比

不同模型的详细评测结果可参阅现有研究论文,例如这一篇。对开发者来说,也许更需要考虑另外两个重要因素:

  • 模型需要多少内存
  • 模型的预测能有多快

为了回答第一个问题,可以通过参数文件的大小进行一个粗略的猜测:

  • VGG16:528MB(约 1.4 亿个参数)
  • ResNet-152:230MB(约 6000 万个参数)
  • Inception v3:43MB(约 2500 万个参数)

可见,目前的趋势是使用参数较少的更深度的网络。这样做有两方面收益:训练速度更快(因为网络需要学习的参数更少),并且可以降低内存使用 *。

第二个问题更复杂一些,并且取决于很多因素,例如批大小。所以我们对预测调用进行计时然后再次运行看看。

t1 = time.time()
model.forward(Batch([array]))
t2 = time.time()
t = 1000*(t2-t1)
print("Predicted in %2.2f microseconds" % t)

结果就是这样(结果对多次调用取平均值获得)。

*** VGG16
0.30 微秒完成预测 
*** ResNet-152
0.90 微秒完成预测 
*** Inception v3
0.40 微秒完成预测

总结来说(请自行套用标准免责声明):

  • 所有三个网络中(目前)ResNet-152 准确率最高,但速度也慢了 2–3 倍。
  • VGG16 速度最快(莫非因为层数少?)但内存用量最高并且准确率最差。
  • Inception v3 几乎最快,同时在准确率和内存使用方面较为平均。这也使得该模型成为某些条件受限的环境中最佳的选择。最后一篇文章中,还将进一步讨论这个问题 :)。

代码已发布至 GitHub: mxnet_example3.py , 请自行尝试。

后续内容:

  • 第 6 篇:通过树莓派进行实时物体检测(并让它讲话!)

作者 Julien Simon 阅读英文原文 An introduction to the MXNet API?—?part 5


感谢杜小芳对本文的审校。

给 InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ @丁晓昀),微信(微信号: InfoQChina )关注我们。

评论

发布