写点什么

数据与大语言模型(LLM)安全融合的核心要素 | 技术实践

  • 2025-09-20
    北京
  • 本文字数:2307 字

    阅读完需:约 8 分钟

大小:1.15M时长:06:42
数据与大语言模型(LLM)安全融合的核心要素 | 技术实践

随着越来越多的企业倾向于将自有数据接入到大语言模型(LLM),保障数据安全至关重要。根据麻省理工学院(MIT)最新调研,绝大多数受访者(59%)将数据治理、数据安全与数据隐私列为关键问题,同时,有 48% 的受访者着重指出了数据集成方面的难题。从零开始搭建数据安全集成架构固然可行,但此过程需要扎实的专业知识,且需耗费大量的时间来设置和管理身份验证、加密以及合规性等诸多内容。试想,如果贵公司需要为所有拟采用的 LLM 实施独立的安全措施——运营复杂度将呈指数级增长。


本文将带您深入解读数据安全管理最核心的要素,以及 Snowflake Cortex AI 在设计时,是如何遵循这些原则的,以便开发人员专注于采用其所青睐的前沿模型(包括 Anthropic、OpenAI、Mistral、DeepSeek 以及 Meta 的模型)来构建应用程序。

数据与 AI 安全融合清单


在将数据与 LLM 融合时,必须对安全涉及的多个重点领域予以审慎考量,以保护敏感信息。实施强认证机制(包括采用多重要素验证 MFA)至关重要,它能为账户提供额外安全层,防止非法访问。部署健全的访问控制机制,方能确保只有授权用户和 AI 服务可访问数据。为保障数据流安全,必须强化网络安全实践措施(建议采用零信任架构),其根本目的在于确保只有授权的服务组能够访问数据。


另一项关键措施是使用加密技术保护存储与传输中的数据安全,对敏感信息进行全方位保护,严防非法访问。构建安全监控与异常检测能力,以便持续地对潜在威胁进行实时监测,并为深度调研提供完整的审计追踪。为满足特定行业的具体要求,规避法律风险,执行合规性检查与认证核查流程(如 SOC 2、ISO 42001 和 HIPAA 等)是必不可少的。定期更新安全补丁与修复漏洞同样很重要,它能通过保持系统最新状态来持续强化系统的防御能力。最后,构建数据安全事件的快速响应机制可有效遏制与化解安全风险,而通过持续渗透测试,能够主动发现系统中的潜在漏洞,确保系统能够抵御不断变化的威胁环境,保持韧性。

Snowflake Cortex AI 如何为您优化安全管理体系


Cortex AI 提供全套业界领先的 LLM,同步支持结构化和非结构化数据的检索与智能编排服务,助力快速构建 AI 数据代理。所有服务均原生集成于 Snowflake 安全体系内,可大幅降低安全配置与运维的时间成本。Cortex AI 具备完整管控特性,开发者可心无旁骛专注开发,平台团队能安全便捷地部署多样化用例。


图 1 通过 Cortex AI 在 Snowflake 中运行的模型系列:语言模型与嵌入模型


Snowflake Cortex AI 集成多项核心安全措施,在充分发挥 LLM 价值的同时,全面保障数据安全。针对 Cortex LLM REST API 的强认证需求,系统采用密钥对认证机制。此外,Snowflake 为授权用户提供多重要素验证(MFA)支持,显著增强登录安全性。上述认证方法还可与网络监管政策联动,实现对访问源头的精准管控。


访问控制通过 Snowflake 统一的数据导向型 RBAC(基于角色的访问控制)系统实现高效管理,可对海量数据与 AI 资源实施统一的访问管控。具体而言,snowflake.cortex_user 数据库角色支持对 LLM 功能用户进行精细化控制。如果需对特定模型实施精细化访问控制,可配置模型许可清单与 RBAC 策略。在网络安全方面,当 LLM 与您的 Snowflake 账户在同一区域使用时,可确保其始终处于 Snowflake 安全边界内。数据库与 AI 服务间的数据传输采用零信任模型进行认证和加密。在跨区域场景中(例如,您的 Snowflake 账户位于亚马逊 Web 服务(AWS)美国东部 1 区(弗吉尼亚北部),而 Cortex AI LLM 位于 Azure 美国东部 2 区(弗吉尼亚)时),传输数据会通过双向 TLS 1.2 及以上版本的协议进行保护,且采用符合 FIPS 标准的加密算法。


数据加密全面覆盖存储与传输过程:您的数据在存储时采用客户端加密(使用与您账户绑定的特殊密钥)并叠加云服务商的服务端加密。如前述,数据在不可靠的网络中传输时,还通过 TLS 1.2 及以上版本的协议实现加密与认证双重保障。在监控与日志记录方面,Snowflake 的威胁检测团队运用专有技术识别日志中的安全信号,并针对数据中发现的任何异常情况提供实时告警。此外,我们的技术支持与工程团队实行随时待命工作制,确保在出现性能降低或其他突发事件时,能够快速解决问题。


在合规性方面,Snowflake 既有的全部合规认证都将惠及用户。补丁管理及更新工作依托 Snowflake 成熟的漏洞管理系统实现,该系统会扫描第一方工作负载,并依据最严格的合规标准驱动补丁修复工作。关于事件报告机制,Snowflake 设有专职事件响应与威胁检测团队,配备完善的事件处理系统(含标准化预案库与常态化演练机制),全面保障安全事件处置效率。在持续渗透测试方面,Snowflake 通过 HackerOne 开放漏洞赏金计划,对其内部渗透测试项目形成补充,主动识别潜在漏洞,以维护系统韧性,应对不断演变的威胁。

总结


安全融合 LLM 与其他 AI 服务较为复杂,且配置要求极高。选择自建方案会陷入繁琐的工作流程,导致占用本应用于开发或扩展用例部署的时间,更会因配置管控标准不统一而埋下安全隐患,增大被恶意利用的风险。


通过 Snowflake Cortex AI,可安全使用多款前沿 LLM,这是目前的任何单一云服务商都无法实现的。您只需像配置其他 Snowflake 产品那样,为所述模型设置用户认证和访问控制即可。幕后工作中,网络安全、数据加密、监控日志、合规性和补丁管理等诸多环节均由 Snowflake Secure Platform 安全平台自动为您处理。这种“安全 LLM”模式使您能专注于创新,无需应对复杂而又至关重要的安全管理工作。

更多详情


  • AI 信任与安全常见问题:关于我司数据保护承诺的详细说明

  • AI 安全框架:保护 AI 系统的实用方案

  • Snowflake Cortex AI:文档页面


原文地址:

https://www.snowflake.com/en/blog/security-must-haves-data-integration-llms/

2025-09-20 12:006784

评论

发布
暂无评论

别急着给中国版ChatGPT唱赞歌:“追风者”无缘“星辰大海”

Alter

百度 大模型 ChatGPT 文心一言

【JVM盲点补漏系列】「并发编程的难题和挑战」深入理解JMM及JVM内存模型知识体系机制(1)

码界西柚

Java JVM 3月月更

Go 语言 new 和 make 关键字的区别

AlwaysBeta

面试 Go 语言

分享一个修改了xml文件再也不用重启的项目mybatis-xmlrealod

越长大越悲伤

Java 开源 Spring Boot mybatis 开源项目

三天吃透MySQL面试八股文

程序员大彬

MySQL java面试

隐式等待、显示等待和强制等待

测吧(北京)科技有限公司

测试

SaaS 软件搞定客户的关键环节分析

产品海豚湾

产品经理 SaaS 产品运营 B 端产品 互联网产品

电商秒杀系统

Geek_7d539e

设计模式之美––依赖反转

GalaxyCreater

设计模式

华为P系列,雪夜梅花开,似是故人来

脑极体

华为

狼来了

俞凡

人工智能

面试官:如何保证接口幂等性?一口气说了9种方法!

程序员大彬

Java 接口幂等

软件测试/测试开发丨app自动化之如何参数化用例

测试人

软件测试 自动化测试 测试开发

照片肖像美容软件:ON1 Portrait AI 2023.1 激活版

真大的脸盆

Mac Mac 软件 照片处理工具 肖像美容软件

Spring源码核心剖析

京东科技开发者

spring 前端 京东云 京东技术 企业号 3 月 PK 榜

Gestures(手势)

芯动大师

Activity 手势 gesturelistener

面试突击:MVCC 和间隙锁有什么区别?

王磊

java面试

湃方科技联合CnosDB助力旋转类机械预测性维护

CnosDB

数据库 开源 时序数据库 CnosDB

通过 Amazon Managed Microsoft Active Directory 运行混合 Active Directory 服务

亚马逊云科技 (Amazon Web Services)

Amazon

华为都入场做ERP了,国产ERP困局如何破解?

陈飞

分布式数据库 国产化 ERP SaaS 平台 PaaS平台

PyTorch 深度学习实战 | 知识图谱嵌入结合图路径的推荐 RippleNet

TiAmo

深度学习 Ripplenet

adb的常用命令

测吧(北京)科技有限公司

测试

机器学习算法(六)基于天气数据集的XGBoost分类预测

汀丶人工智能

数据挖掘 数据分析 XGBoost

复杂「场景」数据导入导出

Java 架构

如何编写测试用例?

测吧(北京)科技有限公司

测试

Spring中PropertyPlaceholderConfigurer替换占位符的问题

石臻臻的杂货铺

spring-boot

有一种焦虑叫ChatGPT(62/100)

hackstoic

AI AIGC ChatGPT

“找工难&金三银四”,关于面试,你需要知道的这些事

IT学习日记

面试 Java、 找工作 简历模板

对于Vue3和Ts的心得和思考

京东科技开发者

Vue ts 京东云 京东技术 企业号 3 月 PK 榜

软件测试/测试开发丨app自动化测试之Andriod WebView如何测试

测试人

软件测试 自动化测试 测试开发

初识 Flutter 的绘图组件 — CustomPaint

岛上码农

flutter ios 安卓 移动端开发 跨平台开发

数据与大语言模型(LLM)安全融合的核心要素 | 技术实践_AI&大模型_Julien Boeuf_InfoQ精选文章