报名「音视频前端技术创新实践专场」,听腾讯云技术专家揭秘音视频相关技术>> 了解详情
写点什么

AI 技术如何为网络安全筑起高墙?百度技术沙龙第 94 期给你答案!

  • 2021 年 9 月 27 日
  • 本文字数:2171 字

    阅读完需:约 7 分钟

AI技术如何为网络安全筑起高墙?百度技术沙龙第94期给你答案!

随着人脸识别、自动驾驶等基于 AI 技术的应用逐渐落地,我们的日常生活便与 AI 技术如影随形。在安全领域,一方面,AI 技术正被逐渐地应用在异常检测、身份管理、安全运维等领域中,助力于网络安全创新;另一方面,信息泄露、人脸识别系统被攻击等网络安全问题也接踵而至,AI 也让网络安全问题成为隐忧。


2021 年 9 月 25 日,百度技术沙龙第 94 期成功落地北京,7 位来自百度安全的资深技术专家与业内知名学者齐聚一堂,围绕 AI 系统的安全风险与防御、应用 AI 技术解决安全问题两方面与到场开发者进行了一场高能对谈。


人脸识别系统被攻击,安全风险如何应对?


在人脸识别技术兴起以后,不仅人脸信息被滥用的问题经常被社会诟病,人脸识别系统被攻击的事件也时有发生。在活动现场,百度安全部主任架构师包沉浮从公众最关心的问题引入,针对对抗样本、深度伪造、篡改底层设备等几种常见的攻击方式给出了应对方案。



他表示,对抗样本攻击可以通过对抗训练、噪声过滤以及攻击检测等防御方式进行应对。其中,对抗训练即是在每次训练时,针对当前模型生成一系列对抗样本,再把对抗样本加到输入中继续迭代,以此生成的模型会更有防御效果。此外,还可以从根本上对模型结构做优化,百度研发的 AI 模型安全工具 AdvBox,便能够测试模型攻击并对模型鲁棒性进行评估。


除此以外,深度学习伪造技术使得人脸识别 AI 模型难以分辨真伪,让电信诈骗、信息泄露等事件频发,为我们的日常生活带来了极大的安全隐患。回归到技术手段上,我们该如何识别深度伪造技术呢?可将检测技术大致分为两类:一类是基于单张图片,通过视频抽帧提取数据,进而训练图像做二分类,或者通过抽取图像特征做二分类;另一类是基于多张图片的检测技术,比如利用 3D_CNN、RNN 提取帧间特征,对人脸序列进行分类和回归。


包沉浮提到,近期还出现了一类新型的人脸攻击方法,它直接在手机底层做篡改,让设备读取指定文件进而绕过人脸识别。此类攻击方式的应对方案则需要从设备、行为、算法三个层面综合思考:在设备层面,需要从系统库、特殊文件、APP 完整性、运行环境、网络环境等维度识别设备是否具有风险;在行为层面,可以通过探测触摸面积、屏幕点击力度、滑动等方面进行判别;在算法层面,则可利用 AI 鲁棒性测试、人脸算法深伪在线识别服务进行识别。


高级威胁对网络安全的挑战及应对措施


2010 年,震网行动通过网络攻击摧毁了伊朗浓缩铀工厂五分之一的离心机;2021 年 5 月 7 日,全美最大的油气输送管道运营商遭定向攻击... 透过这些事件,我们感知到了高级威胁对网络安全造成的巨大挑战。

那么,该如何应用 AI 技术来解决安全问题?百度研究院 IDL 资深研究员朱欤与百度云安全技术总监杜悦艺为到场开发者提供了一些可行性的建议。



因高级威胁有着隐蔽性强、持续性强、攻击手段多样化的特点,要求网络安全需要具备全面感知、持续监控、发现未知威胁以及发现可疑行为的能力。但传统安全检测方式在应对高级威胁时往往会面临重重难点:对未知攻击及 0day 攻击难以有效应对,并且规则过于僵化,黑客对攻击语句做编码、拼接、混淆等处理后,很容易绕过防护;其次,太严格的规则容易误杀正常业务流量,造成误判,太松散的规则容易被绕过,造成漏判。


杜悦艺认为传统的安全防护比较“理性”,深度学习则比较“感性”,大家各有擅长的领域,而深度学习相比则更适合解决“看起来像”的问题。利用深度学习技术可以发现 “看起来像”未知威胁或潜在的攻击者,而这也要求处置方式上可以更灵活,能够精细到人的阻断、限频、降速、标记追踪、重定向、诱捕反制等。他表示:“我们希望建立更智能的一体化系统,必须打破传统的产品壁垒,能够有机的整合各个位置不同层面的能力,再通过 AI 赋能,从而建立包括感知、行动、记忆、思考和神经反射等整体结合的系统。以“AI+ 数据”为核心驱动,形成全感知、自适应、自进化的系统,从而可以智能的进行安全运营。”


在自动攻防领域,来自清华大学网络研究院的张超副教授也给出了解决方案,他强调“攻与防是密不可分的,做攻击是为了更好地防御。”现在恶意代码的生命周期越来越短,变化手段越来越多,以前的杀毒软件是基于指纹的方式来查恶意代码,在当前环境下很容易被绕过去,利用自动漏洞工具可以自动做监测系统,它可以模拟攻击者干坏事,收集到指纹后便可提前布局做入侵检测。



在后半段的分享中,朱欤还就“深度学习的应用”展开了详细介绍。提及为什么需要深度学习算法,他认为深度学习算法在表征学习、序列行为建模以及数据和模型融合等方面有非常突出的优势。除此以外,还介绍了几种主流的深度学习算法,如 MLP(多层感知机)、CNN(卷积神经网络)、RNN(递归神经网络)、Transformer 以及 Hybrid Networks 如何应用到 UEBA 问题中。朱博士认为 Transformer 是目前比较先进的技术,其用于 UEBA 的最大优势是可以更好的建模序列关系。


当活动步入尾声,开发者还聚集在深度学习算法对行业影响的话题,与讲师展开了热烈的探讨。这场技术思辨结束后,百度技术沙龙北京站也正式落下了帷幕。百度技术沙龙作为老牌技术沙龙活动,由百度技术管理部组织举办,每月一期,旨在为开发者提供一个技术交流的平台,在携手共进的这十余年间,百度与开发者守望成长。尽管技术在变、行业在变,开发者的那份极客精神却始终未变。相信在大家的支持与见证之下,百度技术沙龙将持续为开发者带来更多惊喜!

2021 年 9 月 27 日 15:291776

评论

发布
暂无评论
发现更多内容

CDN百科第八期 | 我的网站到底需不需要CDN加速?

阿里云Edge Plus

网站 CDN 云直播

计算机网络基础(十)---网络层-迪杰斯特拉算法

书旅

算法 计算机网络 网络 最短路径

将Arch Linux安装到U盘

Kurtis Moxley

Linux 安装操作系统

LeetCode题解:142. 环形链表 II,JavaScript,快慢指针,详细注释

Lee Chen

LeetCode 前端进阶训练营

顺势昌,逆势亡:人啊,得学会做信天翁,而不是鹧鸪鸟

非著名程序员

创业 程序员 管理 提升认知

蚂蚁上市:P7可获1200万元期权,酸酸酸酸酸...

程序员生活志

互联网热点 蚂蚁金服

Flink 1.11 SQL 使用攻略

Apache Flink

flink

BIGO技术 | Paxos的工程实践与极致优化

InfoQ_3597a20b53cc

技术

《深度工作》学习笔记(2)

石云升

学习 专注 深度工作

大厂经验(4):iOS端埋点自动采集技术原理剖析

DeeperMan

ios 前端 数据采集 埋点

到底一台服务器能够支持多少TCP并发连接?

南方有乔木兮

如何成为一个成功的首席数据官

尹千觞

企业为何需要建立统一的复用型软件平台?

力软.net/java开发平台

Java 企业信息化 开发工具 框架 平台应用服务

乘商用之风,破后疫情之浪:丁耘分享华为如何持续护航5G新价值

脑极体

4. JSON字符串是如何被解析的?JsonParser了解一下

YourBatman

Jackson JSON库

原创 | 使用JPA全面实现DDD持久化【关于本书】

编程道与术

Java hibernate DDD JDBC jpa

第八周作业

田振宇

秒杀全网!研发、运营必备实用工具网站

程序员生活志

工具类网站

央行数字货币或将成为经济“内循环”的未来加速器

Geek_987812

数字经济 全球经济下行 降息 惠普金融深化

硬核干货:葡萄城 SpreadJS 前端表格技术分享

Geek_Willie

Excel SpreadJS 表格控件 表格开发

What's New in Dubbo-go v1.5

apache/dubbo-go

Go dubbo

池化技术到达有多牛?看了线程和线程池的对比吓我一跳!

王磊

Java

真香!Linux 原来是这么管理内存的

cxuan

Linux 操作系统

week08 总结

Z冰红茶

当远程工作成为未来的工作方式......

Atlassian

Atlassian Jira

QQ音乐PB级ClickHouse实时数据平台架构演进之路

腾讯云大数据

大数据

如何设计一个亿级消息量的IM系统

Chank

Java Architecture Architect IM Instant Messaging

实战:docker搭建FastDFS文件系统并集成SpringBoot

生命在于折腾

springboot

国家版权局发布《关于规范摄影作品版权秩序的通知》

Geek_987812

电子存证 作品版权 侵权盗版 剑网2019

腾讯“神盾-联邦计算”平台带你翻越数据合作的重重大山

腾讯云大数据

大数据

一个小实验,来

池建强

算法 薪资

AI技术如何为网络安全筑起高墙?百度技术沙龙第94期给你答案!-InfoQ