AI 安全之对抗样本入门 (11):深度学习基础知识 1.3.5&1.3.6

阅读数:8 2019 年 11 月 30 日 15:00

AI安全之对抗样本入门(11):深度学习基础知识 1.3.5&1.3.6

(AlexNet 的结构)

内容简介
第 1 章介绍了深度学习的基础知识,重点介绍了与对抗样本相关的梯度、优化器、反向传递等知识点。
第 2 章介绍了如何搭建学习对抗样本的软硬件环境,虽然 GPU 不是必需的,但是使用 GPU 可以更加快速地验证你的想法。
第 3 章概括介绍了常见的深度学习框架,从 TensorFlow、Keras、PyTorch 到 MXNet。
第 4 章介绍了图像处理领域的基础知识,这部分知识对于理解对抗样本领域的一些常见图像处理技巧非常有帮助。
第 5 章介绍了常见的白盒攻击算法,从基础的 FGSM、DeepFool 到经典的 JSMA 和 CW。
第 6 章介绍了常见的黑盒攻击算法。
第 7 章介绍了对抗样本在目标识别领域的应用。
第 8 章介绍了对抗样本的常见抵御算法,与对抗样本一样,抵御对抗样本的技术也非常有趣。
第 9 章介绍了常见的对抗样本工具以及如何搭建 NIPS 2017 对抗防御环境和轻量级攻防对抗环境 robust-ml,通过这章读者可以了解如何站在巨人的肩膀上,快速生成自己的对抗样本,进行攻防对抗。

AlexNet 是 2012 年发表的经典之作,并在当年取得了 ImageNet 最好成绩,其官方提供的数据模型,准确率达到 57.1%,top 1-5 达到 80.2%。这对于传统的机器学习分类算法而言,已经相当出色了。

AlexNet 一共由 8 层组成,其中包括 3 个卷积层和 5 个全连接层,其结构如图 1-20 所示。

AI安全之对抗样本入门(11):深度学习基础知识 1.3.5&1.3.6

图 1-20 AlexNet 结构图

(VGG 的结构)

牛津大学 VGG(Visual Geometry Group)组在 2014 年 ILSVRC 提出了 VGG 模型。该模型相比以往模型进一步加宽和加深了网络结构,它的核心是五组卷积操作,每两组之间做 Max-Pooling 空间降维。同一组内采用多次连续的 3×3 卷积,卷积核的数目由较浅组的 64 增加至最深组的 512,同一组内的卷积核数目是一样的。卷积之后接两层全连接层,之后是分类层。由于每组内卷积层的不同,有 11、13、16、19 层这几种模型,图 1-21 展示了一个 16 层的网络结构。VGG 模型结构相对简洁,提出之后也有很多文章基于此模型进行研究,如在 ImageNet 上首次公开的超过人眼识别的模型正是借鉴了 VGG 模型的结构。

AI安全之对抗样本入门(11):深度学习基础知识 1.3.5&1.3.6

图 1-21 VGG 结构图

AI安全之对抗样本入门(11):深度学习基础知识 1.3.5&1.3.6

购书地址 https://item.jd.com/12532163.html?dist=jd

评论

发布