复杂业务场景下 AIGC 赋能安全运营的实践|QCon 北京

  • 2025-03-24
    北京
  • 本文字数:1700 字

    阅读完需:约 6 分钟

2025 年 4 月 10 - 12 日,QCon 全球软件开发大会将在北京召开,大会以 “智能融合,引领未来” 为主题,将汇聚各领域的技术先行者以及创新实践者,为行业发展拨云见日。

蚂蚁集团基础安全副总经理刘焱已确认出席,并发表题为《复杂业务场景下 AIGC 赋能安全运营的实践》的主题演讲。大模型在行业落地应用时遇到了推理残差能力不足、专业知识缺乏、反馈循环效率低和安全单点等问题。尤其在可靠性要求高的安全攸关领域,这些局限性严重影响了大模型的广泛应用。 本次演讲将重点介绍如何通过以原生安全范式构建原生安全底座,安全平行切面为数据采集和干预底座,DKCF(Data/Knowledge/Collaboration/Feedback,即数据/知识/协同/反馈) 可信推理范式构建智能化底座,落地安全运营与安全治理领域。该框架在实际落地中有效提升了整体 MTTD(Mean Time to Detect,即平均故障检测时间)、MTTC(Mean Time to contain,即平均遏制时间);并在安全治理领域,也有效提升安全评估与安全审批的工作效率。该体系的落地经验,对于其他专业领域可信落地大模型,同样存在较大的借鉴意义。

刘焱现任蚂蚁集团基础安全部副总经理,是资深安全专家,清华大学高等研究院-蚂蚁集团“隐私计算与区块链联合研究中心 ”副主任,研究方向集中在网络安全、AI 安全和隐私计算,在无人驾驶、人脸识别以及大模型领域具有多年工业级攻防经验,多项研究成果在国际顶级工业界会议 Defcon、Blackhat 以及 BIG4 等顶级学术会议发表,拥有五十余项安全领域专利,国内 AI 安全领域启蒙书籍《 Web 安全之机器学习入门》《AI 安全之对抗样本入门》作者。作为主要负责人,领导并推动了国内著名开源安全项目 AdvBox 和 OpenRASP 的研发与运营推广。本次会议中,他的详细演讲内容如下:

演讲提纲

1. 大模型在行业落地应用时的主要问题

  • 推理残差能力不足,难以发现推理过程中的知识不足或者能力不足

  • 专业知识缺乏,缺少具体领域以及具体企业的知识与信息

  • 反馈循环效率低,新知识新能力的反馈迭代速度慢、成本高

  • 安全单点 

2. 蚂蚁集团的“切面融合智能体系”建设

  • 安全平行切面为数据采集和干预底座

  • 基于 DKCF 范式的可信推理为智能化底座

  • 基于 NbSP & OVTP 原生安全范式为建设原则构建原生安全底座

3. NbSP & OVTP 原生安全范式

  • NbSP 范式解决智能体访问点安全检查问题,确保安全检查点不可被绕过

  • OVTP 范式解决智能体工作合法访问溯源

4. “切面融合智能体系”在反入侵威胁对抗领域的应用案例

  • 传统 SOC 的困境

  • AIGC 落地 SOC 的挑战

  • “切面融合智能体系” 在反入侵威胁对抗领域的核心能力:

  • 基于 DKCF 范式的推理可行度验证、幻觉检测、知识工程管理

  • 智能降噪/分诊

  • 基于 SOP 的研判智能体

  • 通用研判智能体,自动规划、编排、线索探索与归纳

  • 基于 SOP 的智能响应与止血

  • 交互式事件调查与溯源 

4. “切面融合智能体系”在安全治理领域的应用案例

  • 安全审批场景介绍

  • 基于提示语/SOP 编程的安全审批

  • 提示语/SOP 编程与自动化编排 SOAR 的区别

您认为,这样的技术在实践过程中有哪些痛点?


  • 大模型落地时,需要录入大量领域、企业特有的知识,这块需要大量的数据收集、知识提取的工作


  • 实际落地时会综合考虑性价比,综合使用大模型、小模型和专家策略,全盘使用大模型不一定会是最佳方案


  • 通过切面技术接入更多业务和应用数据会有利于大模型作出更加准确全面的判断,但是这样对于企业部署切面有了更高的要求



演讲亮点


  • 解决了大模型落地网络安全领域时的内视能力缺乏、幻想不可信等问题


  • 探索了安全治理方面使用大模型


  • 从实践中提炼了技术体系:“切面融合智能体系”


听众收益


  • 了解蚂蚁集团一些前沿的安全技术和成果


  • 开拓一些新思路,用新方法如何解决网络安全问题


  • 目前领域相关的挑战,以及大模型结合的情况下未来的展望

除此之外,本次大会还策划了多模态大模型及应用AI 驱动的工程生产力面向 AI 的研发基础设施不被 AI 取代的工程师大模型赋能 AIOps云成本优化Lakehouse 架构演进越挫越勇的大前端等专题,届时将有来自不同行业、不同领域、不同企业的 100+资深专家在 QCon 北京现场带来前沿技术洞察和一线实践经验。

现在报名即可以享受 9 折优惠,单张门票立省 680 元,详情可扫码或联系票务经理 18514549229 咨询。