东亚银行、岚图汽车带你解锁 AIGC 时代的数字化人才培养各赛道新模式! 了解详情
写点什么

用科技驱动未来 - 数据场景融合实验室

  • 2020-03-25
  • 本文字数:2468 字

    阅读完需:约 8 分钟

用科技驱动未来-数据场景融合实验室

从 WIFI 探针说起

2017 年 3 月 8 日,我们着手研发 WIFI 探针,这是一个我们从来没有接触过的课题。通过团队两周的的技术攻关,3 月 20 日我们推出了第一个自主研发的 WIFI 探针设备,在用户授权的前提下,可以探测周围的 WIFI 设备,并进行大数据匹配和分析,最终计算出场馆的人流量和人员分布,并可进一步获知新老访客占比等,与此同时,我们采用数据挖掘算法,可以对未来的人流客流进行预测,以帮助客户进行更好的决策。


探针的背后

WIFI 探针技术已经在一些大的互联网公司有着广泛的应用,可在用户无感的情况下实现数据交换。例如 WIFI 探针打卡、流量统计、客群分析等。WIFI 探针是一套定制化的路由器系统,随着终端设备的增加,探针的数据量有着惊人的增长。每个 WIFI 设备会在每秒钟产生几 KB 到数百 M 不等的数据量,再考虑到数据安全策略等因素,数据网关接口的设计至关重要,需要有能力应对较大的流量冲击。探针系统架构设计如下:



OpenResty 是一款高性能的基于 Nginx 的 HTTP 代理服务器,采用异步 IO 模型满足互联网的高并发场景。通过 OpenResty 的长连接代理,将数据转发到 Flume 集群中进行缓冲和可靠地将数据传输到我们的 Kafka 集群,同时也将不同的数据分发到不同的主题中,由不同的消费者消费处理。


在数据存储方面,我们采用了公司大数据平台,存储到 HDFS 中,以便进行离线数据查询分析。我们率先使用了 Presto 查询引擎对数据进行分析处理,在亿级的数据量的规模下可以在 5 秒内返回查询结果。在应对突发流量时期,集群可以很容易的横向扩展,按照流量增长的规模进行动态扩容。

AI 崛起

2017 年是 AI 技术飞速发展的一年,各种 AI 技术风起云涌,AI 也是一片蓝海,吸引了全球的科技企业的争相布局,我们也不例外。技术永远只是手段,我们的目标是要打造独一无二的产品,解决实际问题、满足市场需要、处理用户痛点的产品。在 AI 领域,我们先后突破了 1:1,1:N 的图像识别算法、微表情识别算法、物体识别、图像融合等。



北极光(基于机器视觉的行人分析系统)


通过机器视觉和深度学习技术,实现用户进入即识别,结合多种模型算法分析顾客性别、年龄、心情、颜值、领导力类型等,千人千面智能推荐,并可进行重点用户路径跟踪,融合京东大数据进行匹配分析,做纵深的用户洞察分析。



时光广告机


时光广告机是通过人脸识别、人脸融合技术,结合用户的面部特征进行模型的计算、相似度匹配和融合,通过测算用户九型人格并通过与明星脸的融合这种有趣的互动营销方式,帮助商家快速吸粉并进行精准的定向营销。

IoT 开启智能生活

场景智能化离不开 IoT 支撑。团队一直在努力实现线上线下的场景融合的产品,努力为商家提供线上线下的流量互通。因此,IoT 是实现智能场景不可或缺的技术手段。我们也专门成立了智能硬件开发团队,先后自主研发了运动传感器、红外传感器、超声波传感器以及低功耗蓝牙等传感硬件。并且在低功耗芯片、AI 芯片等领域做了深入研究,实现了自主研发的 NUC 产品,降低成本、节省空间,提高用户体验。



iSee(采用运动传感器实现的拿起及播放产品)



互动营销


通过全息投影、激光雷达等技术,商家可有效提升店铺玻璃橱窗的展示效率。通过趣味性的互动模式,有效形成线上线下转化,帮助线下商家提升获客能力。



拟货架(虚拟交互技术)


通过 IoT 技术,结合动态可扩展的触摸屏幕,有效扩展店铺经营范围,帮助商家有效提升坪效,提升用户购物体验;并可通过智能分析商品曝光量、点击量和成交量等数据,帮助商家提高转化。

AR/VR

在部门成立早期,我们就看到了 AR/VR 技术的潜在价值,我们同样启动了 AR/VR 课题研究,深入虚拟现实技术,并结合了 IOT 技术,WIFI 探针等技术组合,实现鹰眼系统。鹰眼系统能够全方位的还原场景,同时依托京东大数据和金融云,对门店客流、驻留时长、用户消费偏好等做深度用户数据分析,实现运营效果的量化评估,为客户分析挖掘潜在商业价值。



鹰眼-客流分析系统



鹰眼-客群分析系统



鹰眼-热力分布


区块链


2017 年初,我们就开始研究区块链技术,三月我们成立了区块链实验室,经过一个月的技术攻坚,功夫不负有心人,在 2017 年 4 月上线了京东金融第一个区块链平台:http://chain.jd.com,实现了京东金融区块链基础技术平台从 0 到 1 的过程。5 月京东金融营销云系统正式接入区块链平台。也是在 5 月,京东金融与银联完成国内首个基于公网的跨地域跨运营商的联盟链搭建,标志着京东金融第一个联盟链搭建完成



区块链平台架构


经过不断的技术升级与改造,2017 年 6 月,联合其他各方正式加入联盟链并且组网成功,为我们区块链投入商用迈出了坚实的一步。

混沌初开

在激烈的市场竞争下,为了快速实现产品迭代开发,早期的系统比较零散,没有系统的设计,是所谓的“权宜之计”。系统直接的耦合较为严重,基础服务附带了较多的业务逻辑,在 2017 年 12 月左右,整个系统已经变的较为庞大,渐渐的失去控制。此时迎来了我们的第一次技术重构。



整合前的技术架构


经过对整个产品技术架构的梳理和产品抽象,我们对一些基础的服务进行了抽离,形成了基础能力库,从而具有 AI、AR/VR、语音、大数据等基础能力,使我们的基础技术能够满足产品搭积木的组合方式,以最灵活的方式,能够快速搭建一套新的产品。整合架构如下图所示:



整合后的技术架构


通过技术整合,团队可以将主要精力集中在业务开发中,专业的算法人员也能够集中精力研究算法,各自在自己擅长的领域精细的打磨产品。

写在最后

技术、团队的发展是一个循序渐进的过程,在近一年的技术与产品的迭代中,在不断的试错中我们积累了丰富的经验,我们也在不断的优化和合理的设计我们的技术架构,避免过度设计,同时也避免系统能力不足,系统设计是一个掌握平衡的过程,只有在可维护性、复用性、性能等指标中掌握平衡之术,才能真正的设计出好的系统,从而更加快捷更加平稳的服务于我们的产品,我们的客户。


公众号推荐:

2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。

AI 前线公众号
2020-03-25 19:48475

评论

发布
暂无评论
发现更多内容

惊!HUAWEI高工熬夜赶出这本20W字的图解计算机操作系统指南手册,竟被我偶然发现!

Java 架构 面试 程序人生 编程语言

青岛敏捷之旅,来了!

禅道项目管理

敏捷 敏捷教练 青岛

OceanBase 存储层代码解读(二)微块存储格式

OceanBase 数据库

从简历被拒到收割8个大厂offer,我用了3个月成功破茧成蝶

收到请回复

Java 程序员 面试

深入思考软件工程,开启 DevOps 之旅

BoCloud博云

DevOps cicd 云原生 CI/CD 敏捷交付

封神总结!蚂蚁金服+滴滴+美团+拼多多+腾讯15万字Java面试题

收到请回复

Java 程序员 面试 微服务 大厂Offer

喜大普奔!焱融科技正式推出 SaaS 数据服务平台

焱融科技

云计算 高性能 公有云 文件存储 分布式,

雾霾模糊?图像增强教你如何去雾

华为云开发者联盟

计算机视觉 图像处理 图像增强 预处理 图像去雾算法

为什么要进行代码评审?

爱数技术范儿

代码评审

第 16 章 -《Linux 一学就会》- Linux计划任务与日志的管理

学神来啦

Linux linux运维 linux学习 linux一学就会

Kubernetes 中的应用参数配置案例详析

Zilliz

数据库 Kuber k8s Helm

【Flutter 专题】30 图解自定义底部状态栏 ACEBottomNavigationBar (二)

阿策小和尚

Flutter 小菜 0 基础学习 Flutter Android 小菜鸟 10月月更

《沸腾新十年》背后的N重空间

博文视点Broadview

小知识系列:查询数据库数据的元信息

程序那些事

Java 数据库 元数据 程序那些事

技术分享| RTC通讯中常用的图像格式

anyRTC开发者

音视频 RTC 图像格式 rgb yuv

直播分发选低延迟 RTC 还是 CDN?

融云 RongCloud

CDN 直播 RTC

云栖大会|感受万物数字化,体验千行视频化

阿里云视频云

云计算 阿里云 AI 音视频 视频云

律所管理系统能解决律师事务所存在的这些问题

低代码小观

公司管理 企业 企业管理 管理工具 律所

【ShardingSphere技术专题】「ShardingJDBC」(1)带你一同认识一下ShardingJDBC是什么?(高手勿入)

洛神灬殇

ShardingJDBC ShardingSphere 算法学习笔记指南 10月月更

快速配置浏览器 https 访问 Kibana(qbit)

qbit

elasticsearch TLS Kibana ssl

Vue进阶(幺叁肆):npm查看包版本信息

No Silver Bullet

Vue 表单校验 10月月更

智能运维之日志语义异常检测

云智慧AIOps社区

日志 数据处理 异常检测 智能运维 算法实践

015云原生之大数据技术

穿过生命散发芬芳

云原生 10月月更

高性能、免运维,博云开源云原生本地存储方案:Carina

BoCloud博云

数据库 云原生 中间件 本地存储

教育机构这一大堆问题都是由教育管理系统解决的

低代码小观

公司管理 教育 企业管理 CRM 管理工具

和12岁小同志搞创客开发:如何驱动LED点阵模块?

不脱发的程序猿

少儿编程 创客开发 LED点阵模块

面试巨作!13万字!腾讯高工手写JDK源码笔记 带你飙向实战

收到请回复

Java jdk 面试 后端

python 数据库编程,这篇是针对 mysql 的,滚雪球学Python第4季第13篇

梦想橡皮擦

10月月更

keytool生成keystore、truststore、证书

黄敏

火山引擎MARS-APM Plus x 飞书 |降低线上OOM,提高App性能稳定性

字节跳动终端技术

ios android 大前端 MARS-APMPlus

汇纳科技数据科学团队研究商场活动效果并优化的论文被ISR期刊接收

用科技驱动未来-数据场景融合实验室_文化 & 方法_京东数字科技产业AI中心_InfoQ精选文章