AI实践哪家强?来 AICon, 解锁技术前沿,探寻产业新机! 了解详情
写点什么

复杂业务场景下 AIGC 赋能安全运营的实践|QCon 北京

  • 2025-03-24
    北京
  • 本文字数:1700 字

    阅读完需:约 6 分钟

复杂业务场景下 AIGC 赋能安全运营的实践|QCon北京

2025 年 4 月 10 - 12 日,QCon 全球软件开发大会将在北京召开,大会以 “智能融合,引领未来” 为主题,将汇聚各领域的技术先行者以及创新实践者,为行业发展拨云见日。


蚂蚁集团基础安全副总经理刘焱已确认出席,并发表题为《复杂业务场景下 AIGC 赋能安全运营的实践》的主题演讲。大模型在行业落地应用时遇到了推理残差能力不足、专业知识缺乏、反馈循环效率低和安全单点等问题。尤其在可靠性要求高的安全攸关领域,这些局限性严重影响了大模型的广泛应用。 本次演讲将重点介绍如何通过以原生安全范式构建原生安全底座,安全平行切面为数据采集和干预底座,DKCF(Data/Knowledge/Collaboration/Feedback,即数据/知识/协同/反馈) 可信推理范式构建智能化底座,落地安全运营与安全治理领域。该框架在实际落地中有效提升了整体 MTTD(Mean Time to Detect,即平均故障检测时间)、MTTC(Mean Time to contain,即平均遏制时间);并在安全治理领域,也有效提升安全评估与安全审批的工作效率。该体系的落地经验,对于其他专业领域可信落地大模型,同样存在较大的借鉴意义。



刘焱现任蚂蚁集团基础安全部副总经理,是资深安全专家,清华大学高等研究院-蚂蚁集团“隐私计算与区块链联合研究中心 ”副主任,研究方向集中在网络安全、AI 安全和隐私计算,在无人驾驶、人脸识别以及大模型领域具有多年工业级攻防经验,多项研究成果在国际顶级工业界会议 Defcon、Blackhat 以及 BIG4 等顶级学术会议发表,拥有五十余项安全领域专利,国内 AI 安全领域启蒙书籍《 Web 安全之机器学习入门》《AI 安全之对抗样本入门》作者。作为主要负责人,领导并推动了国内著名开源安全项目 AdvBox 和 OpenRASP 的研发与运营推广。本次会议中,他的详细演讲内容如下:


演讲提纲

1. 大模型在行业落地应用时的主要问题

  • 推理残差能力不足,难以发现推理过程中的知识不足或者能力不足

  • 专业知识缺乏,缺少具体领域以及具体企业的知识与信息

  • 反馈循环效率低,新知识新能力的反馈迭代速度慢、成本高

  • 安全单点 

2. 蚂蚁集团的“切面融合智能体系”建设

  • 安全平行切面为数据采集和干预底座

  • 基于 DKCF 范式的可信推理为智能化底座

  • 基于 NbSP & OVTP 原生安全范式为建设原则构建原生安全底座

3. NbSP & OVTP 原生安全范式

  • NbSP 范式解决智能体访问点安全检查问题,确保安全检查点不可被绕过

  • OVTP 范式解决智能体工作合法访问溯源

4. “切面融合智能体系”在反入侵威胁对抗领域的应用案例

  • 传统 SOC 的困境

  • AIGC 落地 SOC 的挑战

  • “切面融合智能体系” 在反入侵威胁对抗领域的核心能力:

  • 基于 DKCF 范式的推理可行度验证、幻觉检测、知识工程管理

  • 智能降噪/分诊

  • 基于 SOP 的研判智能体

  • 通用研判智能体,自动规划、编排、线索探索与归纳

  • 基于 SOP 的智能响应与止血

  • 交互式事件调查与溯源 

4. “切面融合智能体系”在安全治理领域的应用案例

  • 安全审批场景介绍

  • 基于提示语/SOP 编程的安全审批

  • 提示语/SOP 编程与自动化编排 SOAR 的区别


您认为,这样的技术在实践过程中有哪些痛点?


  • 大模型落地时,需要录入大量领域、企业特有的知识,这块需要大量的数据收集、知识提取的工作


  • 实际落地时会综合考虑性价比,综合使用大模型、小模型和专家策略,全盘使用大模型不一定会是最佳方案


  • 通过切面技术接入更多业务和应用数据会有利于大模型作出更加准确全面的判断,但是这样对于企业部署切面有了更高的要求




演讲亮点


  • 解决了大模型落地网络安全领域时的内视能力缺乏、幻想不可信等问题


  • 探索了安全治理方面使用大模型


  • 从实践中提炼了技术体系:“切面融合智能体系”



听众收益


  • 了解蚂蚁集团一些前沿的安全技术和成果


  • 开拓一些新思路,用新方法如何解决网络安全问题


  • 目前领域相关的挑战,以及大模型结合的情况下未来的展望


除此之外,本次大会还策划了多模态大模型及应用AI 驱动的工程生产力面向 AI 的研发基础设施不被 AI 取代的工程师大模型赋能 AIOps云成本优化Lakehouse 架构演进越挫越勇的大前端等专题,届时将有来自不同行业、不同领域、不同企业的 100+资深专家在 QCon 北京现场带来前沿技术洞察和一线实践经验。


现在报名即可以享受 9 折优惠,单张门票立省 680 元,详情可扫码或联系票务经理 18514549229 咨询。



2025-03-24 17:076422

评论

发布
暂无评论
发现更多内容

LLMs 记忆体全新升级:六大新功能全面出击,用户体验值拉满!

Zilliz

大模型时代 向量数据库 zillizcloud LLMs

Zebec生态发展进入加速期,拿好ZBC坐等价值兑现

西柚子

云原生典型应用架构

穿过生命散发芬芳

云原生架构 三周年连更

服务网格(Service Mesh)是什么?

乌龟哥哥

三周年连更

Java实现坦克大战1.0

timerring

Java

图像识别数据集的重要性及其分类

数据堂

这8种常见的防火墙,分别有哪些优缺点?

wljslmz

防火墙 三周年连更

Shell脚本的变量

芯动大师

Shell命令 三周年连更 shell变量

Zebec生态发展进入加速期,拿好ZBC坐等价值兑现

股市老人

ChatGPT背后的打工人:你不干,有的是AI干

引迈信息

人工智能 低代码 ChatGPT JNPF

2 行代码开启 SAST,将代码漏洞定位到具体行数

极狐GitLab

DevOps DevSecOps SAST 应用安全测试 安全扫描

C++多线程编程和同步机制:详解和实例演示

小万哥

c++ 程序员 后端 多线程 同步

11分钟解决“世界性”难题!百度生物计算研究成果登顶《Nature》正刊

飞桨PaddlePaddle

百度 飞桨 nature

2023-05-05:给定一个无向、连通的树 树中有 n 个标记为 0...n-1 的节点以及 n-1 条边 。 给定整数 n 和数组 edges , edges[i] = [ai, bi]表示树中的

福大大架构师每日一题

golang 算法 rust

木兰汇专访 | 网心科技联合创始人马婷:创业者的“长期主义”

网心科技

【分布式技术专题】「分布式技术架构」手把手教你如何开发一个属于自己的限流器RateLimiter功能服务

码界西柚

分布式 限流器 三周年连更 动手实现 RateLimter

下载LORA模型

IT蜗壳-Tango

三周年连更

全球首个开发者村“开村”!数字之光在何处点亮?

脑极体

开发者 开发者社区

羊毛党请远离消费卷

MobTech袤博科技

【崖山论“见”】YashanDB Meetup 第2期|数据库“大心脏”融合存储引擎揭秘

YashanDB

Kafka性能测试初探

FunTester

ChatGPT 何时替代码农?

酱紫的小白兔

码农 机器人 ChatGPT

Markdown基础语法教程

进基的小张

学习 markdown markdown语法 markdown编辑器 基础

海泰方圆《数字政府密码应用与数据安全合规性建设指南》顺利通过评审

电子信息发烧客

开源项目LuckyDraw分享&介绍

进基的小张

小程序 开源 开发 GitHub、 项目上线

焱融存储方案入选爱分析·智能制造最佳实践案例

焱融科技

高性能 #分布式文件存储 #全闪存储

PS 2020 photoshop绿色版

源字节1号

Flink应用开发

阿泽🧸

flink 三周年连更

《AGI时代的破局之道 | 社区征文》

后台技术汇

三周年征文

复杂业务场景下 AIGC 赋能安全运营的实践|QCon北京_AI&大模型_QCon全球软件开发大会_InfoQ精选文章