写点什么

AI 时代的安全攻防新战场与对抗新利器

  • 2021 年 9 月 15 日
  • 本文字数:1815 字

    阅读完需:约 6 分钟

AI时代的安全攻防新战场与对抗新利器

AI 作为一种持续深入发展应用的颠覆性技术,正在推动着各行各业的发展。然而,AI 技术在引领产业智能化升级、行业创新发展,提升居民生活品质的同时,其广泛应用也带来了很多新的风险。一方面,AI 技术本身如果存在安全问题,在人脸识别、自动驾驶等场景下,会对隐私、财产、甚至生命造成威胁;另一方面,AI 技术本身也有可能遭到不法分子的恶意利用,成为新型网络黑灰产手段。值得庆幸的是,我们可以通过技术手段有效应对这些挑战。


与此同时,AI 技术本身也为网络安全带来了新的机会,它正在被越来越多地应用于漏洞挖掘和利用、网络威胁检测等领域中。那么,如何利用 AI 技术来提高漏洞挖掘和利用的效率?深度学习算法在网络威胁检测过程中又是如何应用的?


2021 年 9 月 25 日(星期六) 13:00-16:30,百度技术沙龙第 94 期迎来了《百度 AI 安全:AI 时代的攻防新战场与对抗新利器》的主题分享。本期沙龙邀请到了百度安全资深技术专家及业内知名学者,他们将就“人脸识别安全”“模型安全与隐私”“漏洞挖掘与利用”“威胁检测”等技术要点进行全方位解读。



详细介绍



嘉宾介绍:包沉浮

百度安全部主任架构师,主要负责百度公司安全攻防体系建设,以及 AI 安全方向的探索和应用落地。


演讲议题:《AI 安全对抗在人脸识别中的应用》

人脸识别技术是深度神经网络的一个主要应用,在身份认证、查找等领域得到广泛使用,但其模型及系统的安全性确不断受到挑战。本次分享将介绍人脸识别面临的安全风险,并探讨相关问题的解决办法。



嘉宾介绍:Hawkeye

百度安全部资深安全研究员,主要研究方向为自动驾驶安全、深度学习对抗攻击及防御、AI 模型鲁棒性的评测与验证、可解释性 AI 等。


演讲议题:《自动驾驶环境中的 AI 鲁棒性评测》

工业界在自动驾驶 safety 方面的工作 survey;自动驾驶 AI 模块抗干扰能力现状,以及对自动驾驶 safety 的影响;AI 鲁棒性检测 case study(目标识别,车道线,单个模型的检测);自动驾驶整车 safety 的 end2end 评估。


嘉宾介绍:洪爵

百度安全部资深研发工程师 南京大学计算机系软件与理论博士,从事数据安全、隐私保护前沿研究与应用工作。


演讲议题:《AI 模型的隐私泄露:风险、评估与防护》

在人工智能技术日益普及的今天,AI 算法模型面临的隐私泄露风险也逐渐突显,主要表现为模型训练所用的数据信息存在被推断甚至被还原的可能性,导致敏感信息泄露。同时,模型本身在使用过程中也存在被窃取的可能性,导致核心算法资产损失。本次分享将围绕百度开源产品 PaddleSleeve,介绍百度安全在 AI 模型隐私风险研究、评估与防护技术方面的工作。



嘉宾介绍:张超

清华大学网络研究院副教授(博导)、蓝莲花战队教练、获得清华大学学术新人奖、某海外人才计划、MIT TR35 China、求是杰出青年学者、中国科协青托等奖励和荣誉。主要研究软件和系统安全,在国际四大安全会议发表论文近 20 篇。


演讲议题:《自动漏洞利用技术研究进展》

自动漏洞利用技术(AEG)通过自动化手段评估漏洞可利用性甚至生成利用工具,尝试解决漏洞攻防实践中最硬核的任务,降低对安全分析人员的要求。该技术已成为近年来的智能攻防竞赛(例如 DARPA CGC)中最核心的挑战,是未来网络空间主动防御的重要支撑。本次报告将分享该领域的研究进展与面临的挑战和机遇。



嘉宾介绍:Alt

百度资深安全研究员,致力于隐私计算、系统安全、移动安全等多领域的攻防技术研究;主导设计并实现了多个数据安全、移动安全解决方案,应用到实际产品中。


演讲议题:《自动化挖掘 AI 框架安全风险》

出于数据规模、训练成本的考虑,越来越多的 AI 应用开发者选择使用第三方模型构建应用。因此,恶意模型作为攻击向量带来的安全问题不容忽视。此外,由于 AI 框架的复杂性,传统基于输入变异的 Fuzzing 手段无法有效对模型网络、算子进行有效的测试。分享使用模型变异的方法对主流 AI 框架进行模糊测试的经验以及相关成果。 



嘉宾介绍:朱欤

百度研究院 IDL 资深研究员,拥有美国硅谷一线经验资深人工智能专家,现在百度研究院负责深度学习算法研发和项目落地。



嘉宾介绍:杜悦艺

资深研发工程师、百度云安全技术总监。十余年安全从业经验,参与了多个国家标准评审,有多个安全相关专利,帮助百度云从零建设了云上安全体系。


演讲议题:《基于深度学习的高级威胁检测技术》

本次分享将介绍最新的深度学习技术在 UEBA 和 Insider Threat Detection 问题的研究现状和相关进展,主要从算法的角度讲解几类不同深度学习算法在安全检测问题中的原理和实际应用。



2021 年 9 月 15 日 14:341521

评论

发布
暂无评论
发现更多内容

架构训练营 模块四 作业

dog_brother

「架构实战营」

dart系列之:在dart中使用生成器

程序那些事

flutter dart 程序那些事 生成器模式 11月日更

vue3 学习笔记 (二)——axios 的使用有变化吗?

码仔

axios Vue 3

并发高?可能是编译优化引发有序性问题

华为云开发者社区

Java 编译 代码 并发 指令

金融级数据库新坐标:腾讯云TDSQL发布全自研新敏态引擎

腾讯云数据库

数据库 tdsql

Golang 设计模式:builder

baiyutang

11月日更

iOS开发:个人整理的关于UITableViewCell的常用属性的知识

三掌柜

11月日更

不止承上启下,带你了解工业物联网关

华为云开发者社区

物联网 边缘计算 网关 工业物联网 工业物联网关

嵌入式系统软件开发:你需要知道的一切

龙智—DevOps解决方案

嵌入式系统 嵌入式系统软件开发

架构训练营 - 模块四作业

VegetableBird

架构实战营 #架构实战营 架构师实战营 「架构实战营」

在120篇系列专栏中,才能学会 python beautifulsoup4 模块,7000字博客+爬第九工场网

梦想橡皮擦

11月日更

入驻快讯 | 欢迎TDengine正式入驻 InfoQ 写作平台!

InfoQ写作平台官方

入驻快讯

TDSQL | 云时代,我们到底需要怎样的数据库?

腾讯云数据库

数据库 tdsql

第四模块-考试试卷存储方案设计

🌾🌾🌾小麦🌾🌾🌾

架构实战营

云小课 | SA基线检查---给云服务的一次全面“体检”

华为云开发者社区

态势感知 华为云 基线检查 上云合规 全面体检

Hadoop 入门笔记—核心组件 YARN

恒生LIGHT云社区

大数据 hadoop YARN

架构师实战营 - 模块四 - 作业

lucian

架构师实战营

大厂算法面试之leetcode精讲3.动态规划

全栈潇晨

LeetCode 算法面经 算法面试

openLooKeng视图详解

openLooKeng

大数据 openLooKeng

最强最全面的数仓建设规范指南(二)

五分钟学大数据

11月日更

分析师机构发布中国低代码平台现状分析报告,华为云AppCube为数字化转型加码

华为云开发者社区

低代码 数字化 华为云 低代码平台 AppCube

大咖说·未来组织的底层逻辑

大咖说

云计算

千万级学生管理系统的考试试卷存储方案

奔奔

模块四作业提交

21°Char

vivo统一告警平台建设与实践

vivo互联网技术

软件架构设计 运维监控 告警系统

Android C++系列:Linux进程(二)

轻口味

c++ android jni 11月日更

Elasticsearch 倒排索引详细剖析

大数据技术指南

11月日更

TDSQL | 数据异常的本质和价值详解

腾讯云数据库

数据库 tdsql

中科柏诚本地生活,率先发力场景金融新营销模式

联营汇聚

恒源云_教你如何团队合作搞算力!

恒源云

人工智能 深度学习 云算力

TDSQL | HTAP系统的问题与主义之争

腾讯云数据库

数据库 tdsql

ShadowRealm 与微前端沙箱

ShadowRealm 与微前端沙箱

AI时代的安全攻防新战场与对抗新利器-InfoQ