AI 安全之对抗样本入门 (5):深度学习基础知识 1.1.5

阅读数:9 2019 年 11 月 30 日 14:52

AI安全之对抗样本入门(5):深度学习基础知识 1.1.5

(范数)

内容简介
第 1 章介绍了深度学习的基础知识,重点介绍了与对抗样本相关的梯度、优化器、反向传递等知识点。
第 2 章介绍了如何搭建学习对抗样本的软硬件环境,虽然 GPU 不是必需的,但是使用 GPU 可以更加快速地验证你的想法。
第 3 章概括介绍了常见的深度学习框架,从 TensorFlow、Keras、PyTorch 到 MXNet。
第 4 章介绍了图像处理领域的基础知识,这部分知识对于理解对抗样本领域的一些常见图像处理技巧非常有帮助。
第 5 章介绍了常见的白盒攻击算法,从基础的 FGSM、DeepFool 到经典的 JSMA 和 CW。
第 6 章介绍了常见的黑盒攻击算法。
第 7 章介绍了对抗样本在目标识别领域的应用。
第 8 章介绍了对抗样本的常见抵御算法,与对抗样本一样,抵御对抗样本的技术也非常有趣。
第 9 章介绍了常见的对抗样本工具以及如何搭建 NIPS 2017 对抗防御环境和轻量级攻防对抗环境 robust-ml,通过这章读者可以了解如何站在巨人的肩膀上,快速生成自己的对抗样本,进行攻防对抗。

范数是一种强化了的距离概念,通常为了提高模型的抗过拟合能力被加入到损失函数中,下面介绍常见的几种范数的定义。

  1. L0 范数

L0 范数并不是一个真正的范数,它主要用于度量向量中非零元素的个数。在对抗样本中,L0 范数通常指的是对抗样本相对原始图片,所修改像素的个数。

  1. L1 范数

L1 范数有很多的名字,例如曼哈顿距离、最小绝对误差等。使用 L1 范数可以度量两个向量间的差异,表示向量中非零元素的绝对值之和。

  1. L2 范数

L2 范数是我们最常用的范数,欧氏距离就是一种 L2 范数,表示向量元素的平方和再开方。在对抗样本中,L2 范数通常指的是对抗样本相对原始图片,所修改像素的变化量的平方和再开方。

  1. 无穷范数

无穷范数也被记作 Linf,主要用于度量向量元素的最大值。在对抗样本中,Linf 范数通常指的是对抗样本相对原始图片,所修改像素的变化量绝对值的最大值。

AI安全之对抗样本入门(5):深度学习基础知识 1.1.5

购书地址 https://item.jd.com/12532163.html?dist=jd

评论

发布