7月QCon广州站2022,关注Web 3.0、数据架构选型、数字化转型等热门话题,点击了解 了解详情
写点什么

地图兴趣点聚合算法的探索与实践

  • 2020 年 12 月 06 日
  • 本文字数:7645 字

    阅读完需:约 25 分钟

地图兴趣点聚合算法的探索与实践

一、导读


在实现基于地图的业务时,当地图上需要展示的兴趣点(POI)过多时,一般会基于图面效果和渲染性能的考虑,在大比例尺展示完整的业务数据,而在小比例尺展示聚合态数据。在处理不同数量级、不同分布形态的 POI 时,如何通过算法取得更加合理的聚合效果,同时既能支持离线的预处理聚合,也能较好的满足实时聚合的性能要求是本文主要讨论的内容。


注:兴趣点(Point of Interest,通常缩写成 POI)是指电子地图上的某个地标、景点,用以标示出该地所代表的政府机关、商业机构(加油站、超市、餐厅、酒店等)、风景名胜、公共厕所、交通设施等处所。


本文通过对现有聚合算法进行预研,并结合实际业务对其进行改进,构建了一套能够满足多种业务需求的数据聚合方案。其中包含多种针对不同业务场景、不同数量级的 POI 聚合算法,并将聚合算法的配置进行了抽象,实现了聚合效果好,性能高且使用方便的聚合算法库,目前已应用到离线聚合和线上实时聚合的各个业务场景中。



二、点聚合算法比较


本节介绍目前使用较多的点聚合算法,并对不同点聚合算法的性能和聚合效果进行横向对比。针对不同的场景给出了参考使用的点聚合算法。在此基础上构建了一套相对通用的点聚合算法工具,使用者可以根据自身业务的特点,通过一定的配置来自定义具体使用的算法、策略和参数等等。


2.1 点聚合算法:


这里对使用较多的点聚合方案做简单介绍。


2.1.1 kmeans 算法


kmeans 算法主要通过初始指定 k 个聚类质心,而后按照“距离”来聚拢“相近”的数据点,而后重新计算新的质心,以此往复。不断迭代计算 k 个聚类点的质心,最终回归到 k 个聚类结果中,主要有以下两个缺点:


  • 性能, kmeans 是计算密集型算法,模型需要迭代很多次才能够完善,且大量的距离计算比较消耗 cpu。

  • 效果,kmeans 不能解决重叠覆盖问题(算法设计指标里边没有对覆盖问题的评估指标)。


2.1.2 直接网格算法(Grid-based Clustering)


将地图划分为若干个网格,将落在对应网格中的点聚合在小网格的中心点。每个小网格只显示一个中心点,值为网格内的点数量。具体计算公式如下:



  • 优点,运算速度快,不涉及两个点之间的距离计算,只有点是否处在网格内的一次性计算就能拿到结果。

  • 缺点,如下图示,明明相近的两个点,因为划分在了不同的网格,而被迫分开计算在不同的网格中心。同时网格的中心,不一定就是网格内点的聚类中心,不能真实地反映聚类的中心点。




2.1.3 网格质心合并算法


与 2.1.2 方法基本一致,不同点在于,算法在将点划分到不同的网格中以后,会对每个网格的质心重新计算,得到更精确的聚类中心点。此外,还对经过质心计算的网格聚类中心点,进行了合并。(如果不进行合并,可能导致不同网格质心相近,造成覆盖)。网格质心的合并算法以一个网格质心为中心,画一个圆圈(或方格),将在这个范围内的网格质心都进行合并。圆圈或者方格的覆盖范围,可以作为配置来调整。



  • 优点,运算速度较快(计算质心和合并质心不会带来特别大的计算量)

  • 缺点,增加了计算量,同时也存在一定的误差,网格的划分,依旧可能会将原本聚集的点,强制分离开。


2.1.4 网格距离算法(Grid-Distance-based Clustering)


初始时没有任何已知聚合点,然后对每个点进行迭代,计算一个点的外包正方形,若此点的外包正方形与现有的聚合点的外包正方形不相交,则新建聚合点(这里不是计算点与点间的距离,而是计算一个点的外包正方形,正方形的边长由用户指定或程序设置一个默认值),若相交,则把该点聚合到该聚合点中,若点与多个已知的聚合点的外包正方形相交,则计算该点到到聚合点的距离,聚合到距离最近的聚合点中,如此循环,直到所有点都遍历完毕。


  • 优点,运算速度相对较快,每个原始点只需计算一次,可能会有点与点距离计算,聚合点较精确的反映了所包含的原始点要素的位置信息。

  • 缺点,速度不如完全基于网格的速度快等,同时各个点迭代顺序不同导致最终结果不同。因此涉及到制定迭代顺序的问题。同时聚类的中心点,是第一个加入该类的点的位置,并不能够代表整个聚类的中心位置,存在一定的不准确性。




2.1.5 四叉树算法(提供快速查找 POI 点的能力)+网格聚合算法(提供聚合 POI 点的具体策略)


首先明确,四叉树算法本身不提供数据聚合的能力,它的存在是为了配合之前的网格点聚合算法,提供快速查找到某一个网格下的所有 POI 数据的能力。


对应于二叉树,二叉查找树适合用来存储和查找一维数据,可以达到 O(logn)的效率。在用二叉查找树进行插入数据时,查找一个数据只需要和树结点值的对比,选择二叉树的两个叉之一向下,直到叶子结点,查找时使用二分法也可以迅速找到需要的数据。对应于地图数据的二维坐标来说,四叉树可以很好地对二维数据进行存储和查找。它能够将数据分成四个象限,在查找数据时,通过对二维属性(一般是 x, y)进行判断,选择四个分叉(象限)之一向下查找,直至叶子节点。(同样的对于三维数据来说,使用八叉树来进行存储和查询)。


2.2.5.1 四叉树的操作


  1. 节点分裂

  2. 当满足特定条件时,为了获得更好的检索效率,四叉树的节点会发生分裂,分裂的做法是:以当前节点的矩形为中心,划分出四个等大的矩形,作为四个子节点,每个节点深度=当前节点深度+1,根节点深度为 0;并且将当前节点的元素重新插入到对应的子节点。

  3. 插入元素

  4. 从根节点开始,如果当前节点无子节点,将元素插入到当前节点。如果存在子节点(定义为 K),并且元素能够完全被子节 K 点所“包围”,就将元素插入到子节点 K,对于子节点 K 进行上述递归操作(即查看 K 节点是否有子节点,如没有子节点,则将数据存储在 K 节点上,如果有子节点,则下沉继续查找匹配);如果元素跨越了多个子节点,那就将元素存储在当前节点(即可以将跨越多个节点的数据存储在多个节点上)。

  5. 如果某一节点元素超过特定值,并且深度小于四叉树允许的最大深度,分裂当前节点。

  6. 查找元素

  7. 对于给定检索区域,从根节点起,如果检索区域与当前节点有交集,且当前节点没有子节点,则返回当前节点的所有元素。

  8. 如果当前节点还有子节点,递归检索与检索区域有交集的子节点。



2.1.5.2 基于四叉树的点聚合方案具体实现:


采用网格质心算法来进行点的聚合,四叉树提供数据查询的能力。简单来说就是把屏幕分割成若干个区域,每个区域最多显示一个标注,每个区域的数据内容由四叉树来进行查询和提供。然后根据地图缩放比例去设置每个网格区域的大小以达到较好的展示效果。


  1. 使用基于四叉树的点聚合的方案首先需要建立四叉树,具体实现原理如下:


a. 首先对 POI 数据建立四叉树索引,四叉树的结构可以用如下代码表示。( 创建四叉树的代价比较大


typedef struct TBQuadTreeNodeData { //四叉树中存储的数据点(即poi信息)(一个四叉树节点可能包含多个数据点)   double x; //经纬度坐标   double y;   void* data; //额外的补充信息} TBQuadTreeNodeData;TBQuadTreeNodeData TBQuadTreeNodeDataMake(double x, double y, void* data);
typedef struct TBBoundingBox { //每个四叉树节点所表示的区间范围 double x0; double y0; //横纵坐标的最小值 double xf; double yf; //横纵坐标的最大值} TBBoundingBox;TBBoundingBox TBBoundingBoxMake(double x0, double y0, double xf, double yf);
typedef struct quadTreeNode { //四叉树节点 struct quadTreeNode* northWest; //西北象限(子节点) struct quadTreeNode* northEast; //东北象限(子节点) struct quadTreeNode* southWest; // struct quadTreeNode* southEast; // TBBoundingBox boundingBox; //本节点所表示的数据范围 int bucketCapacity; //本节点的数据容纳量(上限) TBQuadTreeNodeData *points; //本节点存储的数据点信息(poi信息) int count; //目前已经存储的数据点(poi点)个数} TBQuadTreeNode;TBQuadTreeNode* TBQuadTreeNodeMake(TBBoundingBox boundary, int bucketCapacity);
复制代码


b. 建立四叉树的过程如下图所示,在到达节点的容量上限之后节点就会将其表达的数据范围从中心点开始划分为四个象限,构成它的四个子节点,子节点如果达到容量上限,同样重复这一过程。



c. 查找一定范围内的 POI 数据的过程如下图所示(如下图中查找红色边框圈出来的范围)。比较红色区域是否和四叉树元素的根节点有交集,无交集则舍弃,有交集继续向四叉树的分支中进行查找。



2.四叉树建好并且能够进行区域查询。接下来点聚合算法就可以开始执行了,点聚合算法首先会先将当前屏幕划分为若干个网格(grid),然后对每一个网格通过四叉树来查找该网格内的 POI,等找到同一个网格中的所有 POI 数据之后,计算其平均质心,并统计该网格中一共存在多少数据,即可完成聚合。



2.1.6 K-D 树算法(同四叉树算法,提供快速查找的能力)


K-D 树(k-dimensional 树的简称)是一种分割 k 维数据空间的数据结构,主要应用于多维空间数据的搜索(如:范围搜索和最近邻搜索)。了解 K-D 树可以从理解线段树开始。


2.1.6.1 线段树的实现


  1. 线段树的本质是一棵维护一段区间的平衡二叉树。线段树维护的是 一个区间内的最大值 。比如树根是 8,维护的是整个区间的最大值,每一个中间节点的值都是以它为树根的子树中所有元素的最大值。其构建过程可以使用如下伪代码表示:


class Node:   def __init__(self, value, lchild, rchild):      self.value = value              self.lchild = lchild              self.rchild = rchild     
def build(arr): n = len(arr): left, right = arr[: n//2], arr[n//2:] lchild, rchild = self.build(left), self.build(right) return Node(max(lchild.value, rchild.value), lchild, rchild)
复制代码


  1. 通过线段树,可以在 O(logN) 的时间内计算出某一个 连续区间的最大值 。如下图所示:

  2. 当需要查找树底层被方框圈起来的区间中的最大值时,我们只需要找到能够覆盖这个区间的中间节点就行。可以发现被红框框起来的两个节点的子树刚好覆盖这个区间,于是整个区间的最大值,就是这两个元素的最大值。这样,我们就把一个需要 O(N)查找的问题降低成了 O(logN),不但如此,也还可以做到 O(logN)时间复杂度内的更新,也就是说不仅可以快速查询,还可以快速更新线段当中的元素。




2.1.6.2 K-D 树的实现


线段树维护的是一个区间内的元素,是一个一维的序列。如果我们将数据的维度扩充一下,扩充到多维呢?KD-Tree 就可以理解成是线段树 拓展到多维空间 当中的情况。以二维空间数据来说明 K-D 树如何建立。


  1. K-D 树建立过程


a. 一个二维的平面中分布着若干个点坐标。



b. 选择一个维度(比如选择 X 轴),将数据一分为二。



c. 经过切分之后,左右两侧的点被分成了两棵子树,对于这两个部分的数据来说我们 更换一个维度在进行二分 ,(其实可以选择方差最大的维度进行划分,以此来保证更平均的分配,和更好的区分度)。此处我们选择 y 轴进行划分,就可以得到:



d. 重复上述过程,一直到点不能进行分割为止。即可得到一颗 KD 树。因为每次划分都是选择中位数来进行划分,所以可以保证根节点到叶子节点的深度不会超过 log(N)。



最终建立的 K-D 树存储上的形式如下图所示:



  1. K-D 树查询过程


K-D 树的一个最大的优点在于,能够快速的进行批量查询,如查询 K 个距离最近的数据有哪些、查询距离满足一定阈值的数据有哪些等。


a. 假设我们要查找距离给定目标点最近的 3 个点。首先会创建一个候选集来存储答案。当找到叶子节点(叶子节点代表一块儿小区域)之后,这个区域当中只有一个点,把它加入候选集。如下图所示,“绿色✔️ ”表示样本被放入了候选集当中,“黄色✔️ ”表示已经访问过。



b. 通过判断样本和当前分割轴的距离,来确定分割轴的另一侧有没有更临近的数据点。


  • 如果是叶子节点,没有轴的另一侧,则向上从父节点开始查找。

  • 如果是非叶子节点,且当前候选集中已经存在 K 个最小值,则计算候选集中与目标点距离最远的距离(d2),与目标点到分割轴的距离(d1)谁更大:

  • 如果目标点到分割轴的距离(d1)更大,即 d1 > d2,则另一侧没有比候选集中距离(目标点)更小的点。不需要遍历另一侧的数据点。(因为另一侧距离目标点最近的距离,至少是目标点到分界轴的距离 d1,还得加上另一侧到分界轴的距离 x,即 d1+x > d2)。

  • 如果目标点到分割周的距离(d1)更小,即 d1 < d2,则分割轴的另一侧可能存在距离目标点更小的点,需要进行遍历。


(a 步骤中的节点为叶子节点,本轮向上查找父节点,同时候选集中不满 3 个,父节点加入候选集)



c. 分析 b 步骤中的节点,虽然是父节点,但是另一侧没有数据,所以也向上查找他的父节点,同时目前候选集不满 3 个,也加入候选集。



d. 当前节点作为父节点,且右子节点不为空,所以需要判断目标点到分界线的距离,目标点到分界线的距离 d1 小于目标点到最远候选集中点的距离 d2,所以分界线另一侧有可能有更小的值,需要遍历。



e. 找到边界另一侧的叶子节点,发现他到目标点距离,大于候选集到目标点的距离,同时候选集已经有了 K 个值,所以不能构成新的答案。需要继续向上查找他的父节点。



f. 发现其父节点到目标点的距离,比已有的候选集中的点更小,更新候选集。



2.2 点聚合实现方案:


依托于之前进行的调研,开始对点聚合方案进行实现。本文尝试了多种算法的实现,并就其性能和效果进行了对比。其中包含:


  • 直接欧式距离算法 a. 计算每个点,与周围点的距离是否在指定阈值之内,如果满足则共同构建聚合点,聚合点的坐标取平均值。b. 将步骤 a 中的聚合点,从原有数据集中剔除。重新从原始 POI 点中选择一个点,再次进行步骤 a 构建新的聚合点。c. 重复 a,b 两个过程,直至所有 POI 点都完成了聚合。

  • 基于四叉树的直接欧式距离算法 d. 与直接欧式距离算法基本一致,不同点在于,计算与周围点的距离是否在指定阈值之内时,是通过四叉树的查询来完成的。

  • 网格质心算法 e. 与 3.1.2 中算法基本一致,不同点在于,本算法计算了每个网格中数据点的平均质心作为聚合点的位置坐标。

  • 网格质心合并聚合算法 f. 在网格质心算法的基础上,新增了聚合点的合并逻辑,通过指定阈值来完成聚合点的合并。

  • 基于四叉树的网格质心算法 g. 与网格质心算法基本一致,不同点在于,查询一个网格内对应的数据时,使用的是四叉树来进行查询。

  • 网格距离算法 h. 与 3.1.4 中算法一致。

  • 基于四叉树的网格距离算法 i. 与 3.1.4 中算法基本一致,只是使用了聚合点来构建了四叉树,来加快遍历查询的速度。

  • 基于 KD 树的网格距离算法 j. 与 3.1.4 中算法基本一致,只是使用了聚合点来构建了 KD 树,来加快遍历查询的速度。


2.3 聚合算法流程:


  1. 算法的输入:

  2. 请求参数中需要包含 data 和 config

  3. data 指的是需要聚合的 poi 数据,POI 数据需要包含位置信息。

  4. config 指的是聚合算法的配置,如包含多少层级,每个层级聚合算法的相关参数等等。

  5. 算法的输出:

  6. 点聚合的结果数据中,包含了不同层级的点聚合结果,以 Map < String, List < AggregationDTO > > 的形式下发,String 代表不同聚合层级的唯一标识,List < AggregationDTO > > 代表着该层多个聚合点的数据。

  7. 每一层的聚合结果由多个聚合点来组成,其中每一个聚合点(AggregationDTO)需要包含如下信息:

  8. 聚合点的位置(经纬度或坐标)

  9. 聚合点包含的原始 POI 个数

  10. 其他信息(目前填充的是该聚合点聚合了哪些原始的 poi 数据信息)

  11. 整个算法的流程如下:


三、结果 &效果


  1. 效果测试数据集


如下图所示,目前效果测试使用的数据集为 GPS 点坐标信息,下图中每个黑色的圆点代表一个坐标数据,共 175 个。



(GPS 点分布图)



(同上图,无地图信息)

  1. 评价指标


  • 对于聚类结果的评价指标,核心的思想分为两部分:

  • 一是紧凑度,即簇内样本距离尽量的近;

  • 二是分离度,即簇与簇之间的样本尽量的远。

  • 一篇谷歌学术引用量 600+的论文做了解析,Liu Y, Li Z, Xiong H, et al. Understanding of internal clustering validation measures[C]//2010 IEEE International Conference on Data Mining. IEEE, 2010: 911-916. 结论是:一种“S_Dbw”聚类评价指标对于各种噪声,不同密度的数据集等等干扰项的评价结果鲁棒性最强,对比其他评价指标有显著优势。

  • “S_Dbw”公式分为两部分,Dens_bw(c)用来衡量各个类的平均密度关系,该值较小表明,聚类簇集的类间区分度较好。Scat(c)用来计算类内距离 ,距离越小同一类中数据对象间的相似性越高。具体公式中每个部分的解释可参考论文,此处不再赘述。



  1. 算法效果(部分算法直观演示)


a. 网格质心算法(划分网格,然后计算每个网格的质心作为聚类中心)由于网格是固定的,出现了“聚集点被网格割裂”的情况。



b. 网格质心合并算法(在网格质心算法的基础上,对两个距离较近的聚合点,进行合并)


将点聚合的结果,再进行一次聚合,以期望被网格割裂开来的聚集点数据,能够重新聚合在一起。


c. 网格距离算法(即 2.2.4 中的算法)


以原始数据点自身为中心,按照一定的距离范围,去聚合周围距离最近的 聚合点 。与其他算法不同,网格距离算法的设计思想是 原始数据点和聚合点的合并,而不是原始数据点之间的相互合并 。如果没有在聚合范围内找到聚合点,就以自身位置新建一个聚合点。



(参数:0.04)



(参数:0.03)


d. 效果对比:


  • 在使用直接距离聚合算法和网格质心算法中,有些场景下会将距离较远的两个点聚合在一起,网格距离算法能够有效改善这种情况。原因有两个:


i. 因为网格距离算法是 将原始数据点聚合到“距离最近的”聚合点中 ,能够在一定程度上避免原始数据点聚合到“距离更远”的聚合点。


ii. 网格距离算法中,对于每一个原始数据点的遍历中,它能够影响的只有自己这一个原始数据点。而直接距离算法中每一个原始数据点的遍历,可能会影响到多个原始数据点。虽然两种算法都会受到原始数据点的遍历顺序影响,但影响的程度相差很大。总体来说,网格距离算法表现更好。


  • 网格距离算法能够在一定程度上避免“网格将原本聚集的数据点割裂”开的这种情况。


iii. 如网格距离算法中所展示的两张图,聚合点的分布并没有被网格所局限。而对比网格质心算法所展示的效果图,其每个网格只能出现了一个聚合点。


  1. 不同算法使用建议:



其中,原始 POI 数据量的大小分界线,以 10K 为分界线,超过 10K 可以认为数据量较大,算法之间的性能会有差别。聚合点数量的多少,以 1K 为边界,超过 1K 个聚合点可以认为聚合点数量较大。准确率和效率的要求,需要使用者根据业务的具体要求来做判断。


参考文献


[1]. 丁立国, 熊伟, 周斌. 专题图空间点聚合可视化算法研究[J]. 地理空间信息, 2017, 15(5): 6-9.


[2]. Theodore Calmes. How To Efficiently Display Large Amounts of Data on iOS Maps. https://thoughtbot.com/blog/how-to-handle-large-amounts-of-data-on-maps. 2015.


[3]. Liu Y, Li Z, Xiong H, et al. Understanding of internal clustering validation measures[C]//2010 IEEE International Conference on Data Mining. IEEE, 2010: 911-916.


[4]. 承志. 机器学习--详解 KD-Tree 原理. https://juejin.im/post/6844904117702246407, 2020.


[5]. Viky. 在线地图的点聚合算法及现状. http://www.doczj.com/doc/f5a88999284ac850ad0242a2.html, 2014.


本文转载自公众号高德技术(ID:amap_tech)。


原文链接


地图兴趣点聚合算法的探索与实践


2020 年 12 月 06 日 14:001978

评论

发布
暂无评论
发现更多内容

【高并发】导致并发编程频繁出问题的“幕后黑手”

冰河

并发编程 多线程 高并发 高性能 异步

甲方日常 41

句子

工作 随笔杂谈 日常

Mac/Windows 连接 Ubuntu 的 samba 服务器

jiangling500

ubuntu Mac windows Samba

GitHub上最励志的计算机自学教程(重制版),前端小白到亚马逊工程师

沉默王二

GitHub 学习 程序员 面试

TronChain波场链合约系统开发技术

薇電13242772558

区块链 智能合约

架构师第一期作业(第 6 周)

Cheer

工作5年的阿里Java程序员分享从业心得总结与面试笔记分享

Java架构师迁哥

Javassist实现JDK动态代理

AI乔治

Java 编程 架构 jdk

第二周作业

小兵

创新方案百花齐放,英特尔助力2020 EdgeX中国挑战赛推动智能边缘行业创新及人才发展

新闻科技资讯

本文将大数据学习门槛降到了地平线

MySQL从删库到跑路

大数据 hadoop hdfs mapreduce

架构师训练营 - 第 6 周课后作业(1 期)

阿甘

对抗验证概述

计算机与AI

学习 数据验证

【JSRC小课堂】Web安全专题(三)SRC漏洞挖掘技巧:三步走收集高质量信息

京东科技开发者

WEB安全

JavaScript 对象 — 重学 JavaScript

三钻

Java 大前端 对象

使用 Maven Archetype 基于 IDEA 快速创建项目

程序员小航

Java maven 开发 项目 Archetype

第二周总结

小兵

架构师训练营 - 第二周学习总结

joshuamai

手撕面试题:多个线程顺序执行问题

大头星

Java 面试 多线程

面试官问我:看过sharding-jdbc的源码吗?我吧啦吧啦说了一通!!

冰河

分布式事务 微服务 分布式数据库 系统架构 中间件

架构师训练营 - 第 6、7、8、9、10 、11、12、13周学习总结(1 期)

阿甘

JVM 源码解读之 CMS GC 触发条件

AI乔治

Java 架构 JVM GC

京东推荐系统中的兴趣拓展如何驱动业务持续增长?

京东科技开发者

算法 推荐系统 知识图谱

架构师训练营 -week06-作业

大刘

极客大学架构师训练营

会展云技术解读丨多重安全保障护航云上会展

京东科技开发者

云计算 云服务 云平台

Netty源码解析 -- 内存对齐类SizeClasses

binecy

Netty 内存管理

从实际案例聊聊Java应用的GC优化

AI乔治

Java 编程 架构 JVM GC

地图兴趣点聚合算法的探索与实践_测试_高德技术_InfoQ精选文章