10月21日,杭州云栖大会-技术&可持续发展论坛,注册有礼 了解详情
写点什么

AI 时代的安全攻防新战场与对抗新利器

2021 年 9 月 15 日

AI时代的安全攻防新战场与对抗新利器

AI 作为一种持续深入发展应用的颠覆性技术,正在推动着各行各业的发展。然而,AI 技术在引领产业智能化升级、行业创新发展,提升居民生活品质的同时,其广泛应用也带来了很多新的风险。一方面,AI 技术本身如果存在安全问题,在人脸识别、自动驾驶等场景下,会对隐私、财产、甚至生命造成威胁;另一方面,AI 技术本身也有可能遭到不法分子的恶意利用,成为新型网络黑灰产手段。值得庆幸的是,我们可以通过技术手段有效应对这些挑战。


与此同时,AI 技术本身也为网络安全带来了新的机会,它正在被越来越多地应用于漏洞挖掘和利用、网络威胁检测等领域中。那么,如何利用 AI 技术来提高漏洞挖掘和利用的效率?深度学习算法在网络威胁检测过程中又是如何应用的?


2021 年 9 月 25 日(星期六) 13:00-16:30,百度技术沙龙第 94 期迎来了《百度 AI 安全:AI 时代的攻防新战场与对抗新利器》的主题分享。本期沙龙邀请到了百度安全资深技术专家及业内知名学者,他们将就“人脸识别安全”“模型安全与隐私”“漏洞挖掘与利用”“威胁检测”等技术要点进行全方位解读。



详细介绍



嘉宾介绍:包沉浮

百度安全部主任架构师,主要负责百度公司安全攻防体系建设,以及 AI 安全方向的探索和应用落地。


演讲议题:《AI 安全对抗在人脸识别中的应用》

人脸识别技术是深度神经网络的一个主要应用,在身份认证、查找等领域得到广泛使用,但其模型及系统的安全性确不断受到挑战。本次分享将介绍人脸识别面临的安全风险,并探讨相关问题的解决办法。



嘉宾介绍:Hawkeye

百度安全部资深安全研究员,主要研究方向为自动驾驶安全、深度学习对抗攻击及防御、AI 模型鲁棒性的评测与验证、可解释性 AI 等。


演讲议题:《自动驾驶环境中的 AI 鲁棒性评测》

工业界在自动驾驶 safety 方面的工作 survey;自动驾驶 AI 模块抗干扰能力现状,以及对自动驾驶 safety 的影响;AI 鲁棒性检测 case study(目标识别,车道线,单个模型的检测);自动驾驶整车 safety 的 end2end 评估。


嘉宾介绍:洪爵

百度安全部资深研发工程师 南京大学计算机系软件与理论博士,从事数据安全、隐私保护前沿研究与应用工作。


演讲议题:《AI 模型的隐私泄露:风险、评估与防护》

在人工智能技术日益普及的今天,AI 算法模型面临的隐私泄露风险也逐渐突显,主要表现为模型训练所用的数据信息存在被推断甚至被还原的可能性,导致敏感信息泄露。同时,模型本身在使用过程中也存在被窃取的可能性,导致核心算法资产损失。本次分享将围绕百度开源产品 PaddleSleeve,介绍百度安全在 AI 模型隐私风险研究、评估与防护技术方面的工作。



嘉宾介绍:张超

清华大学网络研究院副教授(博导)、蓝莲花战队教练、获得清华大学学术新人奖、某海外人才计划、MIT TR35 China、求是杰出青年学者、中国科协青托等奖励和荣誉。主要研究软件和系统安全,在国际四大安全会议发表论文近 20 篇。


演讲议题:《自动漏洞利用技术研究进展》

自动漏洞利用技术(AEG)通过自动化手段评估漏洞可利用性甚至生成利用工具,尝试解决漏洞攻防实践中最硬核的任务,降低对安全分析人员的要求。该技术已成为近年来的智能攻防竞赛(例如 DARPA CGC)中最核心的挑战,是未来网络空间主动防御的重要支撑。本次报告将分享该领域的研究进展与面临的挑战和机遇。



嘉宾介绍:Alt

百度资深安全研究员,致力于隐私计算、系统安全、移动安全等多领域的攻防技术研究;主导设计并实现了多个数据安全、移动安全解决方案,应用到实际产品中。


演讲议题:《自动化挖掘 AI 框架安全风险》

出于数据规模、训练成本的考虑,越来越多的 AI 应用开发者选择使用第三方模型构建应用。因此,恶意模型作为攻击向量带来的安全问题不容忽视。此外,由于 AI 框架的复杂性,传统基于输入变异的 Fuzzing 手段无法有效对模型网络、算子进行有效的测试。分享使用模型变异的方法对主流 AI 框架进行模糊测试的经验以及相关成果。 



嘉宾介绍:朱欤

百度研究院 IDL 资深研究员,拥有美国硅谷一线经验资深人工智能专家,现在百度研究院负责深度学习算法研发和项目落地。



嘉宾介绍:杜悦艺

资深研发工程师、百度云安全技术总监。十余年安全从业经验,参与了多个国家标准评审,有多个安全相关专利,帮助百度云从零建设了云上安全体系。


演讲议题:《基于深度学习的高级威胁检测技术》

本次分享将介绍最新的深度学习技术在 UEBA 和 Insider Threat Detection 问题的研究现状和相关进展,主要从算法的角度讲解几类不同深度学习算法在安全检测问题中的原理和实际应用。



2021 年 9 月 15 日 14:34911

评论

发布
暂无评论
发现更多内容

当实证资产定价遇上机器学习

分析101

人工智能 学习 金融科技 金融 资产定价

求刚好大于当前数组组合,Code Review最佳实践,JVM框架原理,JVM垃圾回收原理 John 易筋 ARTS 打卡 Week 12

John(易筋)

Code Review ARTS 打卡计划 JVM虚拟机原理 JVM垃圾回收原理 Array算法

微服务、DDD

chenzt

关于 Bash 的 10 个常见误解

柴锋

bash Linux DevOps Shell

那些不可貌相的代码规范

废材姑娘

代码质量

图文讲解 AQS ,一起看看 AQS 的源码……(图文较长)

程序员小航

AQS jdk源码 源码阅读 java 并发

troubleshoot之:用control+break解决线程死锁问题

程序那些事

Java JVM 死锁

Requests模块基本操作

骆俊

热潮-区块链的价值能够体现在哪些方面?

CECBC区块链专委会

区块链技术 标准化 应用价值

如何设计实现一个证书加密签名工具包

三尾鱼

ARTS打卡 第11周

引花眠

ARTS 打卡计划

吃灰的旧显示器别扔!

小匚

学习 随笔杂谈

视读——沟通的艺术,看入人里,看出人外(第二章)

废材姑娘

读书笔记 视觉笔记

BGP、OSPF、MPLS路由协议RFC分享

Phantasm

ARTS 打卡(20.07.20-20.07.26)

小王同学

十年一梦,小米的原罪得到救赎了吗?

脑极体

LeetCode题解:21. 合并两个有序链表,迭代,JavaScript,详细注释

Lee Chen

LeetCode 前端进阶训练营

ARTS打卡Week 10

teoking

程序的机器级表示-控制

引花眠

计算机基础

应用开发基础之-并发编程

superman

第十章作业

武鹏

Suricata-流的处理

Phantasm

网络安全 suricata flow

ARTS-WEEK10

一周思进

ARTS 打卡计划

如何理解Java8 的函数式编程

Rayjun

Java 函数式编程

LeetCode题解:21. 合并两个有序链表,利用数组排序,JavaScript,详细注释

Lee Chen

LeetCode 前端进阶训练营

ARTS Week11

时之虫

ARTS 打卡计划

如何让区块链技术能够更好赋能数字社会建设

CECBC区块链专委会

区块链 数字经济

深化区块链技术的应用 体现其价值产业发展良机

CECBC区块链专委会

区块链技术 数字经济

设计模式之——JDK动态代理的源码分析

诸葛小猿

动态代理 cglib 代理模式 Proxy

Java 常见的几种 OOM

hepingfly

Java OOM

数据库的乐观锁和悲观锁并非真实的锁

架构师修行之路

数据库 架构 乐观锁 悲观锁 分布式锁

数据cool谈(第1期)数据库寻路,开源有态度

数据cool谈(第1期)数据库寻路,开源有态度

AI时代的安全攻防新战场与对抗新利器-InfoQ