QCon 全球软件开发大会倒计时2个月!讲师已确认60%+ >>> 了解详情
写点什么

中国银联大数据发展史

  • 2019-08-22
  • 本文字数:4488 字

    阅读完需:约 15 分钟

中国银联大数据发展史

随着互联网的逐渐深入,各家企业的业务线不断拓宽,用户体量也随之不断扩大,大数据逐渐进入到企业的视野。大数据时代对人类的数据驾驭能力提出了新的挑战,也为人们获得更为深刻、全面的洞察能力提供了前所未有的空间与潜力。


大数据虽然起源在美国,但是发展速度最迅猛的的确还是在中国。因为中国有着得天独厚的条件,就是广大的互联网用户群体,这些大量的用户资源给中国企业制造了天然的、独一无二大数据环境。


提起数据量,国内除了互联网那几家巨头,应该就属金融领域的数据量最大、数据价值最高。作为国内大数据范畴内最具代表性的行业之一,金融业无论是从用户体量还是日成交量上看,都位居国内前列。中国银联作为国内金融领域的代表性企业,其背后的大数据技术实力,在一定程度上也能反应当下国内各家金融企业的大数据技术水平。今天,我们就以银联为例,看一下银联这些年来大数据技术的变革以及优化。


那么关于大数据,究竟什么是大数据,这么些年喊了这么多的大数据转型的口号,究竟在大数据领域内做了什么?带着这些问题,InfoQ 记者采访到了在 Kylin Data Summit 上做技术分享的中国银联科技事业部高级主管王颖卓。

银联大数据的历程

2003-2007-2012,从报表到数仓,银联大数据的转型伊始

中国银联科技事业部高级主管王颖卓提到,金融界对于数据的认识和使用,一直都是非常重视的。在大数据时代,如何利用工具更好地处理数据,怎样把数据更好的应用在业务上,如何将数据变现等,是当下众多企业必须要思考的一个问题。


在 2003 年到 2007 年之间,银联的的数据一直是由需求驱动,业务部门有一个需求就做一张数据报表,特点是数据分散、按需定制、开发周期长。


2007 年左右,中国银联开始进入到数据仓库年代。相较于报表,数据仓库对于用户体验来说是一个巨大的革新,基本上体现在数据发展以业务为驱动,主要有结构化数据集中存储、勾兑整合、服务业务等特点。也就是说,数据仓库还原了数据的本质,以数据本身的特性来处理数据。在建立数据仓库的过程中,更重要的是将以 Cognos 为核心的多维数据分析理念引入进来,从而达到让用户能够自主进行数据分析的目的。



目前,银联的大数据架构主要分为三条技术线,分别为基础数据、数据应用以及数据模型。首先制作报表的工作需要基础数据和数据应用两者协同完成,数据的清洗、加工、预汇总等过程由基础数据完成,报表的定制、查看、下载等功能由数据应用完成。

2012 至今,向成熟的大数据体系进发,用数据驱动业务

2012 年,大数据技术逐渐进入到国内,并开始在技术圈内流行起来。同样的问题又被摆在了舞台之上,到底什么叫大数据?大数据跟报表的关系是什么?跟数据仓库的关系又是什么?是不是数据大了才叫大数据?Hadoop 与大数据之间的强关联,是否代表着 Hadoop 就等同于大数据?


王颖卓首先提到,在数仓向大数据平台转型时,没有考虑过 Hadoop 以外的框架。一方面银联从数仓向大数据转型是在 2012 年,业界已经进入大数据时代,几乎没有可以撼动 Hadoop 地位的大数据框架存在,同时代基于 MPP 架构的数据仓库框架,如 GreenPlum 等,难以支撑 PB 级以上的数据规模;另一方面,银联研究院已搭建 Hadoop 平台并开发了一些试验性的应用,取得了较好的效果。因此,我们选择 Hadoop 作为数仓的替代者。(关于 Hadoop 现状,可参考《Hadoop 不再权威,开源大数据的未来何去何从?》


同时王颖卓从银联的角度出发,解释了他对于大数据的理解。他认为在整个大数据年代,有两个理念非常重要:


数据存储层。应该怎样存放数据?银联做的首件事是在数据集中的基础上,做到了数据融合——把整个企业级的数据做了有机融合。现阶段,银联大数据平台里存在的最大体量的基础表已经有 1000 多个维度。基于这张基础表,再从业务视角对数据进行高度汇总,最终给业务人员提供数据服务。因此,从数据存储和加工方面,有别于过去的报表和数据仓库。


数据应用层。报表系统的目的是满足用户需求,只有当用户有需求时才会做报表。在数据仓库时代,更多的是帮用户设计 Cube 和提供多维分析的服务;而用户在这一阶段初步掌握了数据分析的能力。在大数据年代,伴随着平台化和开放化理念的影响,用户开始在银联的大数据平台上利用各种有效的工具、组织多元的数据来满足自己的业务场景,在这个阶段,用户开始熟悉并习惯使用工具来做数据分析。

银联在转型大数据的过程中,遇到了怎样的问题?

在不同的场景里,大数据所造成的问题也不一样。通常情况下,分为在线处理、离线处理以及数据服务系统这三大类问题。

在线处理所遇到的问题

中国银联这几年的交易量在逐年猛增,一年的交易记录数突破了千亿。问题就出在这千亿数据里面。现在的用户对于实时性的要求越来越高,要求能够实时查询订单信息、实时进行线上的交易和退单等操作,这对交易数据库来讲毫无疑问是一个灾难。HBase 支持高并发写入及查询的特性,在一定程度上缓解了这个问题。


但是在使用过程中,HBase 不可避免的也会出现很多问题。第一点是便利性较差,HBase 基于 KV 模型和 Java API 进行读写,用户往往需要自行设计二级索引表和读写接口。



第二点是性能上的抖动,HBase 性能确实很好,但是在实际生产过程中往往存在着在查询过程中出现性能抖动,如 73%的查询在 10ms 返回, 27%的查询在 10-100ms 内返回,这就给实时的场景带来风险;其次 HBase 集群的稳定性存在问题,其中一个 Server 服务宕了,往往导致整个集群的响应出现巨大波动。


这些在实时场景中,都是无法容忍的问题。

离线分析场景问题

说完了在线实时处理,再回到离线分析场景下。在金融领域,应用最广的还是 Cognos。中国银联也算是资历较深的 Cognos 用户。


但是在用户与数据体量飞涨的现在,Cognos 也存在着诸多问题。比如规模以及可扩展性的问题,Cognos 的单 Cube 文件,大小限制在 2GB 以内。随着现在业务飞速增长,数据量是 PB 级别的增长。Cube 的体积越来越大,Cube 的数量也越来越多,上千个 Cube 如何管理也是一个问题。


其次是 Cube 构建生成的时间越来越长,用户能看到最新数据的时间越来越晚。其实银联的 Cognos 已经做的很不错了,目前支撑着近 3000+ 人次使用,保持着日 Cube 1000+张报表以及月 Cube 5000+张报表的效率。


但是 Cognos 作为一个闭源产品,其自然也有闭源产品的弱点,出现了一些产品级的问题,自主排查问题的能力较弱;用户有一些个性化的需求,针对产品做二次的个性化定制开发的空间较小。

数据服务系统问题

随着银联业务体量的增大,业务线的拓宽,产品种类和服务类型也随之丰富起来。但是与此同时,每一条产品线、每一条业务线,其中的数据甚至服务孤岛现象越来越严重。由于各条产品线之间数据不通,形成了一个个“孤岛”和“烟囱”。此外,不同的服务采用的数据口径不同,数据质量没有形成统一标准;还有就是用户需要登录不同的网页使用不同的服务,用户体验较差。

银联大数据实时分析的探索与实践

数据安全是金融企业的命门,金融企业有必要也要有实力来构建这样属于自己的数据服务生态系统。


上文说到了问题,那就要解决问题。首先要解决的是,如何环节 HBase 在联机实时的业务场景下开发的便利性以及性能抖动问题。金融行业有钱是公认的,银联在整个系统稳定、安全方面等金融科技层面的投入相当大,就比如银联通过在大数据服务层次上,建立两地三中心的 HBase 集群,来缓解 HBase 集群不稳定的问题。



在服务层,通过联机双查方式,基本上有效解决和避免了因为某一个集群性能,从而带来整个查询效率的下降。其原理十分简单,即一个查询被客户端强行分为两个,分别访问后台两个不同的 HBase 集群,然后再经由 HBase 集群返回,谁速度快用谁的。


第二点,关于银联离线计算服务的整体架构,架构如下图所示。



为什么要做银联的数据平台分析架构?从金融行业的角度来看,"自主可控"是金融领域对于技术的一个硬性指标,毕竟数据安全是金融企业的命门。因此,金融企业有必要也要有实力来构建这样一个数据服务生态系统。


从整个外围来看,蓝色的这一圈是由银联自主开发的功能性产品,如控制服务、监控、接入层等。中间三个核心模块属于驱动层面。透过 Tornado 可以支持用户级别的数据加工服务,透过 Lightning 可以实现 HBase 的实时数据查询。中间最关键多维分析服务,则使用了Kylin的商用产品Kyligence。


在 Kylin Data Summit 上,Gartner 研究总监 Julian Sun 也提到了,未来的关键不是开源,而是商业化。这并非否定开源的重要性,开源对于技术的发展起到了至关重要的作用。前一段时间大家也看过,市面上有一些所谓的开源软件已经开始收费了。比如免费了 20 多年的 Java 开始收费了,Hadoop、MongoDB 等开源项目也有存在了很长时间的商用版本。商用版本相较于社区的开源版,更加符合企业的需求,降低了企业的使用门槛。


仍然以 Hadoop 为例,Hadoop 的技术偏底层,需要十分专业的技术基础,因此虽然是很好的技术,但使用门槛过高,前期使用成本过大,缺乏应用创新以及模式创新。并且在社区中,技术的发展方向往往是分散的,是根据社区内的每一名成员的思考在前进,不能聚焦于一个领域下、专攻某一方面。


再回到 Kyligence 与 Kylin 上来,Kyligence 相较于开源版 Kylin,商业版在查询系统设计、元数据设计、BI 兼容性、企业运维等方面都有明显的优势。 并且基于 Kyligence 构建 Cube,5 亿的数据在短短 2 个小时之内就能构建好,相较于过去银联旧版的以“数据仓库 ETL + Cognos“体系为核心的多维分析应用,可以说是一个巨大的飞跃。(关于 Kylin 的开源,可参考《见微知著,从 Apache Kylin 看项目开源的门道》

尾 声

最后,再回到最开始的问题,什么是大数据?经常有人问,很多公司喊大数据转型喊了好多年,究竟做了什么?王颖卓最后提到:大数据的目的无非是提升服务性能,因此即便将整个 BI 体系更换掉,将全部的 Cognos 拿掉,用户在使用体验上也会完全无感,能感受到的只是性能以及效率的提升。从银联的角度看,用户每天早上打开电脑就能看到最新的数据,这就是做大数据实时分析平台的目的。


随着数据规模的持续增大,传统的报表以及数据仓库技术已经很难满足业务的需求和查询需要。因此,银联也在大数据的架构和技术领域不断的探索和创新,包括引入 Kyligence,以及开发自己全新的 BI 服务体系。所做的一切,最终的目的都是为了能够让数据更好的服务业务、更好的驱动业务前进。通过技术上的创新,提升业务人员使用数据、通过数据来创造价值的能力。


数据是不断变化的,数据所产生的价值是不断变化的,技术也是不断变化的。Hadoop 自 2006 年发展至今,在大数据领域一路高歌猛进。但是到了今天,大数据分析技术不会因为 Hadoop 面临的挑战,而放缓前进的脚步。 我们在这次 Kylin Data Summit 上看到,以 Kyligence 为代表的大数据企业, 其产品架构在不断演进,迎合快速变化的大数据技术趋势,从原先的 Hadoop 依赖到全 Spark 技术栈,为的就是帮助企业快速应用,迎接未来挑战。


中国银联的大数据技术也是一样,也在不断通过自身技术上的创新,拥抱数据,让数据产生更多价值,让中国银联的大数据发展,依然走在正确的路上。


(本文参考自 Kylin Data Summit 银联科技事业部高级主管王颖卓的演讲)


2019-08-22 13:4610749
用户头像
佘磊 策划编辑

发布了 50 篇内容, 共 20.0 次阅读, 收获喜欢 75 次。

关注

评论

发布
暂无评论
发现更多内容

Apache APISIX 助力有赞云原生 PaaS 平台,实现全面微服务治理

API7.ai 技术团队

云原生 PaaS API网关 Apache APISIX

2021年Android高级面试题,成功入职字节跳动

android 程序员 移动开发

DeFi流动性挖矿系统开发资料(源码)

Zookeeper 客户端错误:Packet len8854970 is out of range!

看山

zookeeper 10月月更

2020-2021蚂蚁金服Android面试真题解析,使用指南

android 程序员 移动开发

2021年Android程序员职业规划,Android开发技巧

android 程序员 移动开发

2021年GitHub上那些优秀Android开源库总结,花2万块买的教程

android 程序员 移动开发

Defi挖矿系统开发简介(现成案例)

Go 中如何使用结构体标签

baiyutang

golang 10月月更

谈 C++17 里的 Chain of Responsibility 模式

hedzr

设计模式 Design Patterns 职责链模式 c++17 消息分发

Vue进阶(幺肆肆):(window,parent,opener,top).location.reload方法分析

No Silver Bullet

Vue 页面刷新 10月月更

在 pygame 中好好玩玩精灵,滚雪球学 Python 游戏番

梦想橡皮擦

10月月更

解密诡异并发问题的幕后黑手:可见性问题

华为云开发者联盟

并发编程 线程 并发 可见性 单核CPU

2021最值得加入的互联网公司有哪些,阿里三面

android 程序员 移动开发

揭开MySQL Volcano模型迭代器性能提升千倍的秘密

华为云开发者联盟

MySQL 数据库 华为云数据库 MySQL Volcano 模型迭代器

全球6G专利独占4成,中国能否借此“制霸”元宇宙?

海比研究院

Groovy动态添加方法和属性及Spock单测

FunTester

Java 动态 spock Groovy FunTester

2021年Android大厂面试分享,实战篇

android 程序员 移动开发

2021年Android春招面试经历,阿里秋招面试真题解析

android 程序员 移动开发

2021年大厂程序员进阶宝典,flutter面试题

android 程序员 移动开发

2021年大厂程序员进阶宝典,真是经典中的经典

android 程序员 移动开发

架构实战营-模块一

瓜子葫芦侠

「架构实战营」

2021年大厂程序员进阶宝典,Android开发基础面试题

android 程序员 移动开发

2021年字节跳动+京东+美团面试总结,查漏补缺

android 程序员 移动开发

DeFi智能合约DAPP系统开发公司(现成)

第 22 章 -《Linux 一学就会》- 跳出循环-shift参数左移-函数的使用

学神来啦

Linux linux运维 linux云计算 linux一学就会

Python代码阅读(第43篇):构造组合函数

Felix

Python 编程 Code Programing 阅读代码

2021最新Android常用开源库总结,retrofit源码

android 程序员 移动开发

Vue进阶(幺肆伍):Vue-elementUI实现操作栏位更多效果

No Silver Bullet

Vue 10月月更

阿里云边缘云ENS再升级 产业数字化落地向何方?

阿里云Edge Plus

2021年来看看Android的发展,程序员如何应对中年危机

android 程序员 移动开发

中国银联大数据发展史_架构_佘磊_InfoQ精选文章