AI 安全之对抗样本入门 (15):深度学习基础知识 1.4.2

阅读数:7 2019 年 11 月 30 日 15:00

AI安全之对抗样本入门(15):深度学习基础知识 1.4.2

(混淆矩阵)

内容简介
第 1 章介绍了深度学习的基础知识,重点介绍了与对抗样本相关的梯度、优化器、反向传递等知识点。
第 2 章介绍了如何搭建学习对抗样本的软硬件环境,虽然 GPU 不是必需的,但是使用 GPU 可以更加快速地验证你的想法。
第 3 章概括介绍了常见的深度学习框架,从 TensorFlow、Keras、PyTorch 到 MXNet。
第 4 章介绍了图像处理领域的基础知识,这部分知识对于理解对抗样本领域的一些常见图像处理技巧非常有帮助。
第 5 章介绍了常见的白盒攻击算法,从基础的 FGSM、DeepFool 到经典的 JSMA 和 CW。
第 6 章介绍了常见的黑盒攻击算法。
第 7 章介绍了对抗样本在目标识别领域的应用。
第 8 章介绍了对抗样本的常见抵御算法,与对抗样本一样,抵御对抗样本的技术也非常有趣。
第 9 章介绍了常见的对抗样本工具以及如何搭建 NIPS 2017 对抗防御环境和轻量级攻防对抗环境 robust-ml,通过这章读者可以了解如何站在巨人的肩膀上,快速生成自己的对抗样本,进行攻防对抗。

混淆矩阵(Confusion Matrix)是一个将分类问题按照真实情况与判别情况两个维度进行归类的矩阵,在二分类问题中,可以用一个 2×2 的矩阵表示。如图 1-32 所示,TP 表示实际为真预测为真,TN 表示实际为假预测为假,FN 表示实际为真预测为假,通俗讲就是漏报了,FP 表示实际为假预测为真,通俗讲就是误报了1

1 https://en.wikipedia.org/wiki/Confusion_matrix

AI安全之对抗样本入门(15):深度学习基础知识 1.4.2

图 1-32 二分类问题的混淆矩阵

在 Scikit-Learn 中,使用 metrics.confusion_matrix 输出混淆矩阵。

复制代码
print "confusion_matrix:"
print metrics.confusion_matrix(test_Y, pred_Y)

输出结果如下,其中漏报 36 个,误报了 25 个。

复制代码
confusion_matrix:
[[70 25]
[36 69]]

AI安全之对抗样本入门(15):深度学习基础知识 1.4.2

购书地址 https://item.jd.com/12532163.html?dist=jd

评论

发布