写点什么

欺诈检测 -- 大数据的安全管理

  • 2016-01-13
  • 本文字数:1487 字

    阅读完需:约 5 分钟

现在越来越多的银行业务依赖大数据和物联网基础设施,比如,移动支付、网上银行和智能售货机。但在这些交易过程中存在大量的个人敏感的身份信息需要保护。大数据安全是一个极大挑战的问题,因为作弊者在不断的寻求新方法来获取到有价值的数据。为了防止这些坏家伙,人们需要不断的去设计和发布新的大规模预测模型来预测作弊者的行为。不光银行需要大数据安全保护,任何含有对个人用户信息 personally identifiable information (PII) 处理的商业交易都要做好保护,比如,医疗机构和保险业。

最近有好消息称,有越来越多的机器学习的专家、新的技术和工具来提供有效的分析模型,能够鉴别潜在的欺诈交易和钓鱼式攻击。但不是所有公司都拥有机器学习专家来做这方面的工作,因此这些公司就需要从外面请一些专家来建立有效的模型来抵制作弊者。与此同时,他们又不想自己用户的信息让其他公司知道。通过匿名用户个人信息 PII 还保证不了这一点。那有没有一种较好的方法能够既利用外部力量而又不暴露本公司的敏感的数据呢?

图一
在纽约最近的一次大数据会议上,大数据公司 MapR 的首席架构师 Ted Dunning 发表了一种新方法来解决上述问题。

找出被盗商家

现在一个新的趋势是:作弊者通过成千上万的用户盗取个人信息来进行许多小批量的欺诈交易。这样他们可以在很短的时间里盗取百万美元 / 英镑 / 欧元,通过被盗的商家或者网站来获取大量的顾客的金融信息。作弊者不是偷一张信用卡然后去购买大宗商品,因为这种行为容易被现在的安全软件探测到,而是通过欺骗交易来进行大批量的信用卡交易。这些小额购买常常被用户忽略,但是恰恰会被不良作弊者利用。
为了应对这种潜在的通过被盗商家来进行盗窃的行为,一家大型金融机构采用大数据公司 MapR 的技术来构建新的模型来检测这种分布式攻击。他们的目标是改善自己的欺诈检测的能力:a) 探测出更多的可疑事件,b) 更及时的检测,在出现严重的影响之前尽可能的快的去关闭受影响的账户。

银行有海量的个人交易行为数据,Ted 的方法是把银行的每个顾客的交易数据按时间序列转换,在商家出现被盗之前找出来。他采用的相似估计的方法把每个被盗商家的特征点提取出来,然后进行打分。但问题在于即使是出于打击盗取者,银行也不太愿意把敏感的数据分享出来。

为了克服这个问题,Ted 写了一个可根据个人需求定制的样本数据生成的代码 log-synth ,并开源在 Github 上。通过 log-synth 生成被盗过的用户历史数据模拟来找出被盗的特征。在模拟数据实验中,被盗商家有较高的打分。

构建好探测模型,并进行参数调优,然后将这个模型应用到真实的交易数据。真实的数据分析更令人振奋,一个商家打分超过 80 分的 (见图 2),经银行核实发现这个商家的确存在大量的数据泄露。

图 2 通过模拟数据构建的模型运用到真实数据中的情况

更好的数据模拟的方法

使用人为生成的数据来进行构建模型并不新鲜,但是这种方法却经常被人忽视。Ted 发现,想精确模拟真实世界的行为特征是非常难的一件事,而通过人为生成的数据就可以很好的构建好的模型,这样更快更容易。
这种方法不仅仅用于欺诈检测,也可以用于其它真实的情况。具体怎样使用开源 log-synth,在这里由于篇幅限制就不再细激昂,感兴趣的可以去看 Ted Dunning 和 Ellen Friedman 写的书《Sharing Big Data Safely: Managing Data Security》,可免费下载。


感谢杜小芳对本文的审校。

给InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ @丁晓昀),微信(微信号: InfoQChina )关注我们,并与我们的编辑和其他读者朋友交流(欢迎加入 InfoQ 读者交流群(已满),InfoQ 读者交流群(#2))。

2016-01-13 18:002980
用户头像

发布了 43 篇内容, 共 30.7 次阅读, 收获喜欢 7 次。

关注

评论

发布
暂无评论
发现更多内容

模块八作业

张贺

架构训练营

ListView Item多布局的实现

芯动大师

ListView item QQ界面

企业内部即时通讯软件,提供安全的组织管理和办公协作方式

BeeWorks

彻底搞懂贝叶斯的本质

侠之大者

机器学习 贝叶斯公式 概率论

OpenAI竞争对手Anthropic融资:1融资易估值难2背后谷歌云3侧重安全

B Impact

【附下载】艾瑞《全球互联网通信云研究报告》,融云 IM 连续 8 年展现统治力

融云 RongCloud

互联网 IM 社交 融云 元宇宙

一图读懂《2023 年全球互联网通信云行业研究报告》

融云 RongCloud

互联网 通讯 图片资源

从新手小白到运维大咖,SysOM 多场景宕机实例解析 | 龙蜥技术

OpenAnolis小助手

运维 操作系统 服务器 龙蜥技术 SysOM

适配PyTorch FX,OneFlow让量化感知训练更简单

OneFlow

人工智能 深度学习

全国首个算力互联互通验证平台发布,天翼云推动算力智能调度再提速

天翼云开发者社区

共铸国云智领未来| “码”上呼唤,马上办!

天翼云开发者社区

Swift 里 的 Struct 和 Class

刿刀

如何利用分布式算法理解分布式存储

Dinfan

数据库 分布式 分布式存储 分布式算法

一文搞懂面试官常问的:SpringBoot自动配置原理

Java Spring Boot 自动装配

虚拟主机和云服务器的区别

天翼云开发者社区

电商平台的商品价格管理的产品设计

产品海豚湾

产品设计 SaaS 商品管理 电商 产品分析

3 问 6 步,极狐GitLab 帮助企业构建高效、安全、合规的 DevSecOps 文化

极狐GitLab

DevOps DevSecOps 安全测试 极狐GitLab 安全左移

GitLab 解析:为什么市场正在转向一体化 DevSecOps 平台?(附Forrester完整报告下载)

极狐GitLab

DevOps DevSecOps 安全测试 极狐GitLab 安全合规

云计算之-弹性伸缩

天翼云开发者社区

「中华田园敏捷开发」,是老板无能还是程序员无力?

引迈信息

前端 敏捷开发 后端 低代码

电商 SaaS 全渠道实时数据中台最佳实践

Apache Flink

大数据 flink 实时计算

让AI上车,车企如何借势2023上海国际车展硬核出圈

极客天地

AI for Good | 从女性力量,到AI公平

澳鹏Appen

人工智能

分享一个 hive on spark 模式下使用 HikariCP 数据库连接池造成的资源泄露问题

明哥的IT随笔

大数据 hive

终于说有人清楚了BI仪表板和大屏的区别

搞大屏的小北

数据分析 数据可视化 数据大屏 仪表板 可视化展示

从5分钟到60秒,袋鼠云数栈在热重启技术上的提效探索之路

袋鼠云数栈

热重启

WorkPlus|可定制、可扩展的私有化即时通讯办公平台

BeeWorks

前端开发框架React技术如何与小程序结合,进行页面构建

兴科Sinco

小程序 taro 前端开发 前端框架 React Native

数据资产与勒索病毒之间,华为立起一张安全盾牌

脑极体

安全

欺诈检测--大数据的安全管理_InfoQ_侠天_InfoQ精选文章