Uber 工程的 deck.gl 框架下的 Web 数据可视化集

发布于:2016 年 11 月 20 日 18:00

现在,无论你在做什么,都是由数据来驱动。在 Uber,我们喜欢观察数据流动以便真正理解它。现在,任何拥有大数据集的人都可以在网络上做同样的事情。

今天,我们开源了 deck.gl ,这是一个 WebGL 驱动的框架,专门用于大规模探索和可视化数据集。deck.gl 让我们不经妥协就能可视化。

数据快速可视化

虽然 deck.gl 的架构适合抽象和科学的可视化需求,在 Uber,地图相关数据是最大的资产。在第一次发布之前,我们在许多不同的绘图环境中扩展和测试了 deck.gl。

在 Uber,我们要处理许多公司每天传来的服务请求的 GPS 点。如果平台有问题,我们就可以通过探索历史地理位置数据进行诊断。如果在路上有意外,我们可以根据给定行程的 GPS 轨迹来获知来龙去脉。如果在城市中点取的位置点周围有“疼痛点”,我们可以通过可视化的方式,将计划传达给市政当局。我们要将这些数据变为基于网络、实时和可共享,如此一来,Uber 的其他团队也可以使用。为满足这些需求,我们开发了 deck.gl

deck.gl 为用户专注于以下关键方面:

  • 性能:基于最新的 WebGL 技术,获得大数据集(数百万点或顶点)的高性能呈现,包括动态聚合和视觉探索等功能。
  • 精度:多亏我们定制的 fp64 数学库,在 GPU 上实现了高精度数值计算。据我们所知,当前基于 WebGL 的其他库并没有提供此功能,而该功能对地理数据集的完全交互至关重要。
  • 可扩展性:使用最新的编码标准,包括 ES2016 ,丰富的库生态系统,以及能够轻松地调试和分析 WebGL 应用程序的设置。

deck.gl 提供什么样的绘图用例

deck.gl 的特性集适用于广泛的用例,包括绘图。作为示例,deck.gl 可以与 MapboxGL 的相机系统结合使用,因此数据可以显示在 Mapbox 地图的顶部并且以透视模式可视化(这是可选的)。用户还可以使用 deck.gl 的一组核心图层启动任何数据可视化项目,包括散点图、线、弧、等值线图和网格图层。也可以选择连接到其他第三方库,如流行的开源框架 react-map-gl ,一种 MapboxGL JavaScript API 的弱反应包装器。

为便于演示,我们开发了一组绘图用例的简单示例。通过这个演示,窥探deck.gl 与大数据集的性能:200 万点和36000 出租车在纽约城的出行的实时GPU 插值。

Uber工程的deck.gl框架下的Web数据可视化集

我们还开发了可视化 3D 建筑结构、街道、点云数据等图层,将在未来版本中予以开源。让我们来深入了解 deck.gl 背后的一些设计和架构的决策。

实例存储分层

通过组合实例和图层,deck.gl 使复杂的可视化成为可能,而不会导致计算机崩溃。如果你过去曾经使用 D3 可视化,那么你已经熟悉了实例化的概念。实例化是渲染单个对象的多个副本时,在副本之间几乎没有调整。最终,你看起来是不同的对象,但由于 WebGL API 的工作原理,所有这些显示都不很耗费资源。例如,要创建散点图,需要有圆形元素,并根据数据中每行的值对这些圆的半径、位置和颜色修改并应用。

Uber工程的deck.gl框架下的Web数据可视化集

为利用这种实例化特征,deck.gl 具有覆盖不同数据集(使用混合模式、剪切等)的分层系统。用户可以在一张大型图片中推理出具备清晰语义分离的不同类型的数据,并根据需要添加和删除图层。例如,普通的Uber deck.gl 应用可以包括拾取、放弃、请求、高度、3D 建筑物和点云数据的层,因为几何图元都是副本,所以这些都以高性能来渲染。

分层还可以创建计算,如分组和聚合。这有助于创建人口密度、中值 ETA 等的即时热图。该示例显示了网格中的动态聚合。计算是实时执行的,因此,粒度随缩放级别而变化。

Uber工程的deck.gl框架下的Web数据可视化集

高精度 GPU 计算

deck.gl 有一个我们引以为傲的地方,就是它在 GPU 上处理高精度变换和其他数值计算的能力。WebGL 和许多其他图形库,如苹果的 Metal 只支持 32 位单精度浮点数。WebGL 对许多支持平台上的数值精度特别宽松。

由于 deck.gl 旨在提供高动态范围(HDR)、科学级数据的精度和性能,为了在所有支持 WebGL 1.0 的平台模拟 64 位的双精度浮点数,我们实现了强大的扩展。由于尾数中的有效数字(46 位)的两倍,使得仿真高精度数据类型能够呈现 GPU 永远不能处理的图元。这点极为有用:以厘米级别呈现指定的地理要素的经纬度,或者呈现从城市级到地图的交叉点级别的交互式数据密集可视化。

大多数其他处理高缩放级别的库使用不同的坐标系统(例如 UTM )动态范围的精度,或执行基于 CPU 的计算以与整体地图对准的性能精度。通过在这种高精度类型的浮点数中做所有的数学运算,我们能够将所有计算移到 GPU,同时获得准确性、性能和交互性。此示例展示高精度GPU 浮点运算。

Uber工程的deck.gl框架下的Web数据可视化集

使用最新编码标准

为了尽可能与我们相似的其他用户相关,我们构建了 deck.gl。因此,deck.gl 使用最新的 JavaScript 编码标准,通过 Babel 移植支持 ES6(ES2015)和 ES7(ES2016)的类和其他概念。它包装为一个 npm 模块,并与标准 JavaScript 一起打包,如如 Browserify 和 webpack 兼容。

为了使 deck.gl 易于使用,我们创建了一个名为 luma.gl 的配套实用程序库,它使用与 deck.gl 相同的编码和设计约定。luma.gl 包含以下内容:

  • 最新的 JavaScript 编码标准,包括 ES2016;
  • 来自 WebGL 2.0 标准的良好支持的功能,如 WebGL1 应用程序中的实例化数组;
  • 公开 WebGL 2.0 功能(如转换反馈)的类,使用户能够在支持的浏览器上进行实验;*
  • 高级调试、跟踪、错误检查和检查缓冲区和内存的工具,以简化 WebGL 应用程序的调试(这个调试过程原本非常困难);
  • 具有 GPU64 位浮点仿真封装包的着色器库,经过测试,它在大多数的 GPU 驱动程序上能够工作(fp64 库在 deck.gl 中用于创建高精度图层)。

* 它将很快允许使用 WebGL 来运行计算着色器进行通用计算。

与 React 和 Mapbox 的互操作性

我们使用由 React 推广的响应式编程模型原则构建了 deck.gl,并与 Mapbox 的摄像机系统进行了全面的互操作。因此,透视模式和对齐方式为地图应用程序提供了开箱即用的功能。此示例在Mapbox 中显示透视模式,并使用deck.gl 中的核心弧层。它显示了美国的县级人口流动。用 Shift+ 拖放可以改变地图的透视。

Uber工程的deck.gl框架下的Web数据可视化集

将来,我们计划与 Mapbox 的其他方面集成。但我们也将保持库的解耦状态,以便用户可以将它与所选其他包一起使用。

更多即将到来的

随着 deck.gl 第一份公告,我们制定了一份雄心勃勃的路线图,紧扣 Mapbox 的互操作性,但也朝着另一个方向推动:使 deck.gl 成为抽象数据可视化或者其他类型的科学可视化的构建快。如果您有任何意见,请随时与 data-viz@uber.com 联系。 期待看到你用这个建立的任何成果!

Nicolas Garcia Belmonte 领导 Uber Engineering 的数据可视化团队。


感谢陈兴璐对本文的审校。

给 InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家通过新浪微博( @InfoQ @丁晓昀),微信(微信号: InfoQChina )关注我们。

阅读数:3786 发布于:2016 年 11 月 20 日 18:00

评论

发布
暂无评论