AI 安全之对抗样本入门 (12):深度学习基础知识 1.3.7&1.3.8

阅读数:12 2019 年 11 月 30 日 15:00

AI安全之对抗样本入门(12):深度学习基础知识 1.3.7&1.3.8

(ResNet50)

内容简介
第 1 章介绍了深度学习的基础知识,重点介绍了与对抗样本相关的梯度、优化器、反向传递等知识点。
第 2 章介绍了如何搭建学习对抗样本的软硬件环境,虽然 GPU 不是必需的,但是使用 GPU 可以更加快速地验证你的想法。
第 3 章概括介绍了常见的深度学习框架,从 TensorFlow、Keras、PyTorch 到 MXNet。
第 4 章介绍了图像处理领域的基础知识,这部分知识对于理解对抗样本领域的一些常见图像处理技巧非常有帮助。
第 5 章介绍了常见的白盒攻击算法,从基础的 FGSM、DeepFool 到经典的 JSMA 和 CW。
第 6 章介绍了常见的黑盒攻击算法。
第 7 章介绍了对抗样本在目标识别领域的应用。
第 8 章介绍了对抗样本的常见抵御算法,与对抗样本一样,抵御对抗样本的技术也非常有趣。
第 9 章介绍了常见的对抗样本工具以及如何搭建 NIPS 2017 对抗防御环境和轻量级攻防对抗环境 robust-ml,通过这章读者可以了解如何站在巨人的肩膀上,快速生成自己的对抗样本,进行攻防对抗。

深度学习网络的深度对最后的分类和识别的效果有着很大的影响,所以正常想法就是把网络设计得越深越好,但事实并非如此。网络的堆叠在网络很深时,效果却越来越差了。ResNet 引入了残差网络结构,通过残差网络,可以把网络层设计得很深,据说现在达到了 1000 多层,最终的网络分类的效果也非常好。ResNet 在 2015 年名声大噪,而且影响了 2016 年深度学习在学术界和工业界的发展方向,ResNet50 就是 ResNet 的一种,其结构如图 1-22 所示。

AI安全之对抗样本入门(12):深度学习基础知识 1.3.7&1.3.8

图 1-22 ResNet50 结构图**1**

1 图片源于 http://blog.csdn.net/mao_feng/article/details/52734438


(InceptionV3)

一般的卷积层只是一味增加卷积层的深度,但是在单层上卷积核却只有一种,这样特征提取的功能可能就比较弱。Google 增加单层卷积层的宽度,即在单层卷积层上使用不同尺度的卷积核,他们构建了 Inception 这个基本单元。基本的 Inception 中有 1×1 卷积核、3×3 卷积核、5×5 卷积核,还有一个 3×3 下采样,从而产生了 InceptionV1 模型,如图 1-23 所示。InceptionV3 的改进是使用了 2 层 3×3 的小卷积核替代了 5×5 卷积核。《Web 安全之深度学习实战》一书中在识别 Webshell 时,也用到了类似的思路,使用大小分别为 3、4 和 5 的一维卷积处理 PHP 的 opcode 序列,效果也非常不错。

AI安全之对抗样本入门(12):深度学习基础知识 1.3.7&1.3.8

图 1-23 Inception 单元结构**1**

1 https://github.com/fchollet/deep-learning-with-python-notebooks

AI安全之对抗样本入门(12):深度学习基础知识 1.3.7&1.3.8

购书地址 https://item.jd.com/12532163.html?dist=jd

评论

发布