用科技驱动未来 - 数据场景融合实验室

阅读数:1 2020 年 3 月 25 日 19:48

用科技驱动未来-数据场景融合实验室

从 WIFI 探针说起

2017 年 3 月 8 日,我们着手研发 WIFI 探针,这是一个我们从来没有接触过的课题。通过团队两周的的技术攻关,3 月 20 日我们推出了第一个自主研发的 WIFI 探针设备,在用户授权的前提下,可以探测周围的 WIFI 设备,并进行大数据匹配和分析,最终计算出场馆的人流量和人员分布,并可进一步获知新老访客占比等,与此同时,我们采用数据挖掘算法,可以对未来的人流客流进行预测,以帮助客户进行更好的决策。

用科技驱动未来-数据场景融合实验室

探针的背后

WIFI 探针技术已经在一些大的互联网公司有着广泛的应用,可在用户无感的情况下实现数据交换。例如 WIFI 探针打卡、流量统计、客群分析等。WIFI 探针是一套定制化的路由器系统,随着终端设备的增加,探针的数据量有着惊人的增长。每个 WIFI 设备会在每秒钟产生几 KB 到数百 M 不等的数据量,再考虑到数据安全策略等因素,数据网关接口的设计至关重要,需要有能力应对较大的流量冲击。探针系统架构设计如下:

用科技驱动未来-数据场景融合实验室

OpenResty 是一款高性能的基于 Nginx 的 HTTP 代理服务器,采用异步 IO 模型满足互联网的高并发场景。通过 OpenResty 的长连接代理,将数据转发到 Flume 集群中进行缓冲和可靠地将数据传输到我们的 Kafka 集群,同时也将不同的数据分发到不同的主题中,由不同的消费者消费处理。

在数据存储方面,我们采用了公司大数据平台,存储到 HDFS 中,以便进行离线数据查询分析。我们率先使用了 Presto 查询引擎对数据进行分析处理,在亿级的数据量的规模下可以在 5 秒内返回查询结果。在应对突发流量时期,集群可以很容易的横向扩展,按照流量增长的规模进行动态扩容。

AI 崛起

2017 年是 AI 技术飞速发展的一年,各种 AI 技术风起云涌,AI 也是一片蓝海,吸引了全球的科技企业的争相布局,我们也不例外。技术永远只是手段,我们的目标是要打造独一无二的产品,解决实际问题、满足市场需要、处理用户痛点的产品。在 AI 领域,我们先后突破了 1:1,1:N 的图像识别算法、微表情识别算法、物体识别、图像融合等。

用科技驱动未来-数据场景融合实验室

北极光(基于机器视觉的行人分析系统)

通过机器视觉和深度学习技术,实现用户进入即识别,结合多种模型算法分析顾客性别、年龄、心情、颜值、领导力类型等,千人千面智能推荐,并可进行重点用户路径跟踪,融合京东大数据进行匹配分析,做纵深的用户洞察分析。

用科技驱动未来-数据场景融合实验室

时光广告机

时光广告机是通过人脸识别、人脸融合技术,结合用户的面部特征进行模型的计算、相似度匹配和融合,通过测算用户九型人格并通过与明星脸的融合这种有趣的互动营销方式,帮助商家快速吸粉并进行精准的定向营销。

IoT 开启智能生活

场景智能化离不开 IoT 支撑。团队一直在努力实现线上线下的场景融合的产品,努力为商家提供线上线下的流量互通。因此,IoT 是实现智能场景不可或缺的技术手段。我们也专门成立了智能硬件开发团队,先后自主研发了运动传感器、红外传感器、超声波传感器以及低功耗蓝牙等传感硬件。并且在低功耗芯片、AI 芯片等领域做了深入研究,实现了自主研发的 NUC 产品,降低成本、节省空间,提高用户体验。

用科技驱动未来-数据场景融合实验室

iSee(采用运动传感器实现的拿起及播放产品)

用科技驱动未来-数据场景融合实验室

互动营销

通过全息投影、激光雷达等技术,商家可有效提升店铺玻璃橱窗的展示效率。通过趣味性的互动模式,有效形成线上线下转化,帮助线下商家提升获客能力。

用科技驱动未来-数据场景融合实验室

拟货架(虚拟交互技术)

通过 IoT 技术,结合动态可扩展的触摸屏幕,有效扩展店铺经营范围,帮助商家有效提升坪效,提升用户购物体验;并可通过智能分析商品曝光量、点击量和成交量等数据,帮助商家提高转化。

AR/VR

在部门成立早期,我们就看到了 AR/VR 技术的潜在价值,我们同样启动了 AR/VR 课题研究,深入虚拟现实技术,并结合了 IOT 技术,WIFI 探针等技术组合,实现鹰眼系统。鹰眼系统能够全方位的还原场景,同时依托京东大数据和金融云,对门店客流、驻留时长、用户消费偏好等做深度用户数据分析,实现运营效果的量化评估,为客户分析挖掘潜在商业价值。

用科技驱动未来-数据场景融合实验室

鹰眼 - 客流分析系统

用科技驱动未来-数据场景融合实验室

鹰眼 - 客群分析系统

用科技驱动未来-数据场景融合实验室

鹰眼 - 热力分布

区块链

2017 年初,我们就开始研究区块链技术,三月我们成立了区块链实验室,经过一个月的技术攻坚,功夫不负有心人,在 2017 年 4 月上线了京东金融第一个区块链平台: http://chain.jd.com ,实现了京东金融区块链基础技术平台从 0 到 1 的过程。5 月京东金融营销云系统正式接入区块链平台。也是在 5 月,京东金融与银联完成国内首个基于公网的跨地域跨运营商的联盟链搭建,标志着京东金融第一个联盟链搭建完成

用科技驱动未来-数据场景融合实验室

区块链平台架构

经过不断的技术升级与改造,2017 年 6 月,联合其他各方正式加入联盟链并且组网成功,为我们区块链投入商用迈出了坚实的一步。

混沌初开

在激烈的市场竞争下,为了快速实现产品迭代开发,早期的系统比较零散,没有系统的设计,是所谓的“权宜之计”。系统直接的耦合较为严重,基础服务附带了较多的业务逻辑,在 2017 年 12 月左右,整个系统已经变的较为庞大,渐渐的失去控制。此时迎来了我们的第一次技术重构。

用科技驱动未来-数据场景融合实验室

整合前的技术架构

经过对整个产品技术架构的梳理和产品抽象,我们对一些基础的服务进行了抽离,形成了基础能力库,从而具有 AI、AR/VR、语音、大数据等基础能力,使我们的基础技术能够满足产品搭积木的组合方式,以最灵活的方式,能够快速搭建一套新的产品。整合架构如下图所示:

用科技驱动未来-数据场景融合实验室

整合后的技术架构

通过技术整合,团队可以将主要精力集中在业务开发中,专业的算法人员也能够集中精力研究算法,各自在自己擅长的领域精细的打磨产品。

写在最后

技术、团队的发展是一个循序渐进的过程,在近一年的技术与产品的迭代中,在不断的试错中我们积累了丰富的经验,我们也在不断的优化和合理的设计我们的技术架构,避免过度设计,同时也避免系统能力不足,系统设计是一个掌握平衡的过程,只有在可维护性、复用性、性能等指标中掌握平衡之术,才能真正的设计出好的系统,从而更加快捷更加平稳的服务于我们的产品,我们的客户。

评论

发布