AI 安全之对抗样本入门 (22):深度学习基础知识 1.6&2

阅读数:7 2019 年 11 月 30 日 15:08

AI安全之对抗样本入门(22):深度学习基础知识 1.6&2

(本章小结)

内容简介
第 1 章介绍了深度学习的基础知识,重点介绍了与对抗样本相关的梯度、优化器、反向传递等知识点。
第 2 章介绍了如何搭建学习对抗样本的软硬件环境,虽然 GPU 不是必需的,但是使用 GPU 可以更加快速地验证你的想法。
第 3 章概括介绍了常见的深度学习框架,从 TensorFlow、Keras、PyTorch 到 MXNet。
第 4 章介绍了图像处理领域的基础知识,这部分知识对于理解对抗样本领域的一些常见图像处理技巧非常有帮助。
第 5 章介绍了常见的白盒攻击算法,从基础的 FGSM、DeepFool 到经典的 JSMA 和 CW。
第 6 章介绍了常见的黑盒攻击算法。
第 7 章介绍了对抗样本在目标识别领域的应用。
第 8 章介绍了对抗样本的常见抵御算法,与对抗样本一样,抵御对抗样本的技术也非常有趣。
第 9 章介绍了常见的对抗样本工具以及如何搭建 NIPS 2017 对抗防御环境和轻量级攻防对抗环境 robust-ml,通过这章读者可以了解如何站在巨人的肩膀上,快速生成自己的对抗样本,进行攻防对抗。

本章介绍了深度学习的训练过程,并结合一个实际的例子介绍了数据预处理、定义网络结构、损失函数、反向传递与优化器的知识,重点介绍了链式法则与梯度的使用。本章最后还结合具体例子介绍了几个常见的衡量指标,包括混淆矩阵、准确率、召回率、准确度、F1-Score、ROC 和 AUC。另外本章还介绍了博采众家之长的集成学习,主要介绍了 Boosting 算法和 Bagging 算法。


(打造对抗样本工具箱)

对抗样本是深度学习领域一个新兴的热点内容,非常强调理论和工程相结合。在开启新的学习旅途之前,我们先介绍一下对抗样本环境的搭建过程,强烈建议读者在 Linux 或者 Mac 环境下进行搭建,因为深度学习的常用工具几乎都是基于 Python 开发的,但是 Python 相关的库都是在 Linux 或者 Mac 环境下经过多年验证的,Windows 下的功能和稳定性难以保证。为了避免不必要的麻烦,同时能与工业界的生产环境进行无缝迁移,默认情况下,本书都是基于 Mac+Python 2.7 环境进行介绍的,Linux 和 Python 3.* 环境几乎也可以直接使用。

2018 年 3 月,Keras 作者、谷歌研究科学家 François Chollet 使用 Google Search Index 展示了过去三个月 ArXiv1上提到的深度学习框架排行,如图 2-1 所示。

1 https://arxiv.org/

AI安全之对抗样本入门(22):深度学习基础知识 1.6&2

图 2-1 ArXiv 上提到的深度学习框架排行

TensorFlow 排名第一,Keras 排名第二,之后依次是 Caffe、PyTorch、Theano、MXNet、Chainer,以及 CNTK。Chollet 在推文中补充,Keras 的使用在产业界和整个数据科学圈中占据主流地位,产业既包括大公司也包括创业公司。不过,在研究社区,Keras 的份额要小很多。本章也将介绍主流的深度学习框架的安装方法,读者可以针对自己的情况,安装其中一到两种即可。

AI安全之对抗样本入门(22):深度学习基础知识 1.6&2

购书地址 https://item.jd.com/12532163.html?dist=jd

评论

发布