写点什么

AI 技术如何为网络安全筑起高墙?百度技术沙龙第 94 期给你答案!

  • 2021-09-27
  • 本文字数:2171 字

    阅读完需:约 7 分钟

AI技术如何为网络安全筑起高墙?百度技术沙龙第94期给你答案!

随着人脸识别、自动驾驶等基于 AI 技术的应用逐渐落地,我们的日常生活便与 AI 技术如影随形。在安全领域,一方面,AI 技术正被逐渐地应用在异常检测、身份管理、安全运维等领域中,助力于网络安全创新;另一方面,信息泄露、人脸识别系统被攻击等网络安全问题也接踵而至,AI 也让网络安全问题成为隐忧。


2021 年 9 月 25 日,百度技术沙龙第 94 期成功落地北京,7 位来自百度安全的资深技术专家与业内知名学者齐聚一堂,围绕 AI 系统的安全风险与防御、应用 AI 技术解决安全问题两方面与到场开发者进行了一场高能对谈。


人脸识别系统被攻击,安全风险如何应对?


在人脸识别技术兴起以后,不仅人脸信息被滥用的问题经常被社会诟病,人脸识别系统被攻击的事件也时有发生。在活动现场,百度安全部主任架构师包沉浮从公众最关心的问题引入,针对对抗样本、深度伪造、篡改底层设备等几种常见的攻击方式给出了应对方案。



他表示,对抗样本攻击可以通过对抗训练、噪声过滤以及攻击检测等防御方式进行应对。其中,对抗训练即是在每次训练时,针对当前模型生成一系列对抗样本,再把对抗样本加到输入中继续迭代,以此生成的模型会更有防御效果。此外,还可以从根本上对模型结构做优化,百度研发的 AI 模型安全工具 AdvBox,便能够测试模型攻击并对模型鲁棒性进行评估。


除此以外,深度学习伪造技术使得人脸识别 AI 模型难以分辨真伪,让电信诈骗、信息泄露等事件频发,为我们的日常生活带来了极大的安全隐患。回归到技术手段上,我们该如何识别深度伪造技术呢?可将检测技术大致分为两类:一类是基于单张图片,通过视频抽帧提取数据,进而训练图像做二分类,或者通过抽取图像特征做二分类;另一类是基于多张图片的检测技术,比如利用 3D_CNN、RNN 提取帧间特征,对人脸序列进行分类和回归。


包沉浮提到,近期还出现了一类新型的人脸攻击方法,它直接在手机底层做篡改,让设备读取指定文件进而绕过人脸识别。此类攻击方式的应对方案则需要从设备、行为、算法三个层面综合思考:在设备层面,需要从系统库、特殊文件、APP 完整性、运行环境、网络环境等维度识别设备是否具有风险;在行为层面,可以通过探测触摸面积、屏幕点击力度、滑动等方面进行判别;在算法层面,则可利用 AI 鲁棒性测试、人脸算法深伪在线识别服务进行识别。


高级威胁对网络安全的挑战及应对措施


2010 年,震网行动通过网络攻击摧毁了伊朗浓缩铀工厂五分之一的离心机;2021 年 5 月 7 日,全美最大的油气输送管道运营商遭定向攻击... 透过这些事件,我们感知到了高级威胁对网络安全造成的巨大挑战。

那么,该如何应用 AI 技术来解决安全问题?百度研究院 IDL 资深研究员朱欤与百度云安全技术总监杜悦艺为到场开发者提供了一些可行性的建议。



因高级威胁有着隐蔽性强、持续性强、攻击手段多样化的特点,要求网络安全需要具备全面感知、持续监控、发现未知威胁以及发现可疑行为的能力。但传统安全检测方式在应对高级威胁时往往会面临重重难点:对未知攻击及 0day 攻击难以有效应对,并且规则过于僵化,黑客对攻击语句做编码、拼接、混淆等处理后,很容易绕过防护;其次,太严格的规则容易误杀正常业务流量,造成误判,太松散的规则容易被绕过,造成漏判。


杜悦艺认为传统的安全防护比较“理性”,深度学习则比较“感性”,大家各有擅长的领域,而深度学习相比则更适合解决“看起来像”的问题。利用深度学习技术可以发现 “看起来像”未知威胁或潜在的攻击者,而这也要求处置方式上可以更灵活,能够精细到人的阻断、限频、降速、标记追踪、重定向、诱捕反制等。他表示:“我们希望建立更智能的一体化系统,必须打破传统的产品壁垒,能够有机的整合各个位置不同层面的能力,再通过 AI 赋能,从而建立包括感知、行动、记忆、思考和神经反射等整体结合的系统。以“AI+ 数据”为核心驱动,形成全感知、自适应、自进化的系统,从而可以智能的进行安全运营。”


在自动攻防领域,来自清华大学网络研究院的张超副教授也给出了解决方案,他强调“攻与防是密不可分的,做攻击是为了更好地防御。”现在恶意代码的生命周期越来越短,变化手段越来越多,以前的杀毒软件是基于指纹的方式来查恶意代码,在当前环境下很容易被绕过去,利用自动漏洞工具可以自动做监测系统,它可以模拟攻击者干坏事,收集到指纹后便可提前布局做入侵检测。



在后半段的分享中,朱欤还就“深度学习的应用”展开了详细介绍。提及为什么需要深度学习算法,他认为深度学习算法在表征学习、序列行为建模以及数据和模型融合等方面有非常突出的优势。除此以外,还介绍了几种主流的深度学习算法,如 MLP(多层感知机)、CNN(卷积神经网络)、RNN(递归神经网络)、Transformer 以及 Hybrid Networks 如何应用到 UEBA 问题中。朱博士认为 Transformer 是目前比较先进的技术,其用于 UEBA 的最大优势是可以更好的建模序列关系。


当活动步入尾声,开发者还聚集在深度学习算法对行业影响的话题,与讲师展开了热烈的探讨。这场技术思辨结束后,百度技术沙龙北京站也正式落下了帷幕。百度技术沙龙作为老牌技术沙龙活动,由百度技术管理部组织举办,每月一期,旨在为开发者提供一个技术交流的平台,在携手共进的这十余年间,百度与开发者守望成长。尽管技术在变、行业在变,开发者的那份极客精神却始终未变。相信在大家的支持与见证之下,百度技术沙龙将持续为开发者带来更多惊喜!

2021-09-27 15:292540

评论

发布
暂无评论
发现更多内容

OpenHarmony亮相MTSC 2023 | 质量&效率共进,赋能应用生态发展

OpenHarmony开发者

OpenHarmony

PAM为用户带来哪些收益

尚思卓越

网络安全 特权账号

浪潮信息赵帅:实现算力全流程绿色化,推动数据中心可持续发展

财见

谷歌趋势官网是什么?谷歌趋势有哪些功能?

九凌网络

软件测试/人工智能|基于录制的接口测试用例自动生成技术探究

霍格沃兹测试开发学社

软件测试/人工智能|利用 EvoSuite 自动生成高质量的 Java 单元测试用例

霍格沃兹测试开发学社

软件测试/人工智能|使用 GraphWalker 实现自动化测试用例生成

霍格沃兹测试开发学社

解锁Jira本地部署的数据中心版高级功能,打造高效、智能、精细化的项目管理

龙智—DevSecOps解决方案

Jira

浪潮信息发布源2.0基础大模型,千亿参数全面开源

财见

FFA 2023|字节跳动 7 项议题入选

字节跳动云原生计算

flink FFA 2023

anyRTC 融合音视频能力底座:助力企业数字化转型

anyRTC开发者

音视频 视频会议 融合会议 视频监控 电话会议

谷歌要如何优化引流?谷歌引流有什么优势?

九凌网络

C#简化工作之实现网页爬虫获取数据

不在线第一只蜗牛

Java C# 开发 网络爬虫

解锁 ElasticJob 云原生实践的难题

不在线第一只蜗牛

分布式 云原生 Elastis

PAM助力企业加强信息安全建设

尚思卓越

运维 网络安全 信息安全 特权账号

inBuilder低代码平台新特性推荐-第十一期

inBuilder低代码平台

低代码 开发

在线教育如何基于小程序进行技术创新

Onegun

小程序 在线教育

融云 Global IM UIKit 正式上线,开发更自由,服务更稳定

融云 RongCloud

产品 开发 IM API Global IM UIkit

HarmonyOS传感器开发指南

HarmonyOS开发者

HarmonyOS

1天开发一个教育类App!我是怎么办到的

FN0

小程序 App

「我在淘天做技术」迈步从头越-阿里妈妈广告智能决策技术的演进之路

阿里技术

广告 淘天 阿里妈妈 广告智能决策技术 自动出价

Web 3.0最热门趋势:基于NFT的DAO-NFT和DAO如何彻底改变 Web3.0

区块链软件开发推广运营

dapp开发 区块链开发 链游开发 NFT开发 公链开发

鸿蒙开发已成新趋势

不在线第一只蜗牛

华为 鸿蒙 软件开发

AI技术如何为网络安全筑起高墙?百度技术沙龙第94期给你答案!_AI&大模型_郑思宇_InfoQ精选文章