Cassandra 数据模型设计最佳实践(上部)

阅读数:10807 2013 年 8 月 22 日

【编者注:InfoQ 中文站获得了 eBay 工程师 Jay Patel 的授权,将会为陆续为读者呈现 Cassandra 数据模型设计的系列内容。】

本文是 Cassandra 数据模型设计第一篇(全两篇),该系列文章包含了 eBay 使用 Cassandra 数据模型设计的一些实践。其中一些最佳实践我们是通过社区学到的,有些对我们来说也是新知识,还有一些仍然具有争议性,可能在要通过进一步的实践才能从中获益。

本文中,我将会讲解一些基本的实践以及一个详细的例子。即使你不了解 Cassandra,也应该能理解下面大多数内容。

说说Cassandraebay的使用情况

我们尝试使用 Cassandra 已经超过 1 年时间了。Cassandra 现在正在服务一些用例,涉及到的业务从大量写操作的日志记录和跟踪,到一些混合工作。其中一项服务是我们的“Social Signal”项目,支撑着 ebay 的 pruduct pages 里 like/own/want 特性。我们开发的一些用例已经上线运行,但更多的还是处于开发阶段。

我们的 Cassandra 集群规模并不庞大,但正在稳步的增长中。在过去几个月里,我们共部署了几十个节点,它们分布在几个跨机房的小型集群中。你可能会问,为什么要多个集群?我们通过的职能部门和业务来划分集群。相同职能部门的相同业务的用例共享一个集群,但它们存在于不同的 keyspaces 中。

RedLaser, Hunch 和其它 ebay 的合作伙伴也在尝试 cassandra 解决现实中各种问题。除了 Cassandra,我们也在使用 MongoDB 和 Hbase,本文中我不会讨论它们,但我相信它们都有各自的优点。

我相信此时你一定有很多问题,在这篇文章里暂时不会一一说明。在即将到来的 Cassandra Summit 大会,我将更详细的讲解我们每个用例场景,数据模型和多数据中心部署,以及经验教训和其它知识。

本文重点讲述我们在 ebay 应用的 Cassandra 数据模型设计最佳实践。下面让我们先看看这系列文章会用到的一些术语。

术语和约定

  • 术语“Column Name” 和 “Column Key”被认为是一样的。同样的,“Super Column Name” 和 “Super Column Key”也认为是相同的。
  • 下图表示一个 Column Family (简称 CF) 中的一个 row

  • 下图表示一个 Super Column Family (简称 SCF) 中的一个 row

  • 下图表示一个 Column Family 中一个 row,它包含 Composite Columns。Composite Columns 的属性通过分隔符’|’连接。请注意,这里看到的只是数据的表现形式,Cassandra 内置了 Composite Column,它是一个对象,并不是使用’|’作为属性分隔符的字符串。(顺便说下,本文不要求你掌握 Super Column 和 Composite Column 方面知识。)

基于上面的内容,让我们开始第一个实践吧!

不要把 Cassandra model想象成关系型数据库table

取而代之,应该把它想象成事一个有序的 map 结构。

对于一个新手来说,下面关系型数据库术语常常被对应到 Cassandra 模型

这种对比可以帮助我们从关系型数据库转换到非关系型数据库。但是当设计 Cassandra column famiy 的时候请不要这样去类比。取而代之,考虑它是一个 map 中嵌入另一个 map:外部 map 的 key 为 row key,内部 map 的 key 为 column key,两个 map 的 key 都是有序的。如下:

SortedMap<RowKey, SortedMap<ColumnKey, ColumnValue>>

why?

将 column family 想象成嵌套的并排序的 map 比关系型数据库 table 描述的更为准确,它将帮助你正确的进行 Cassandra 模型设计。

How?

  • Map 可以进行高效查询,同时排序的特性可以进行高效 column 扫描。在 Cassandra 中,我们可以使用 row key 和 column key 做高效查找和范围扫描
  • Column key 的数量是很庞大的(译者注:目前译者所使用的 Cassandra1.2.5 版本,每个 row 支持最多 20 亿个 columns)。换句话说你,你可以拥有一个 wide rows。
  • Column key 自身可以存储值,即你可以拥有一个没有值的 column。

如果集群使用Order Preserving Partitioner (OOP)策略进行数据存储, 就可以对 row key 进行范围查询。但是 OOP 大多数情况都不推荐使用(译者注:将 rowkey 按照顺序存储到节点上,如果分区不均匀,将导致数据读写不均衡),所以你可以认为外部的 map 是不排序的,如下:

Map<RowKey, SortedMap<ColumnKey, ColumnValue>>

上面提到的”Super Column”,认为它们是一组 column,这样的话,两级嵌套 map 就会像下面展示的一样变为三级嵌套 map:

Map<RowKey, SortedMap<SuperColumnKey,
           SortedMap<ColumnKey, ColumnValue>>>

注意:

  • 你需要传递 timestamp 给每个 column value,因为 Cassandra 使用它做内部的冲突处理机制。但在建模过程中你可以忽略它(译者注:在操作 column 的时候 timestamp 信息会自动添加到 column)。同时,不要考虑在你的程序中使用 column 的 timestamp,因为它不是为你设计的,与 Hbase 不同,它们不会生成新的 version 数据(译者注:在 Hbase 中相同 rowkey 和 column key 的数据会保存多个 version,而 Cassandra 会将相同数据覆盖,timestamp 只保存最后一次更新的时间)。
  • 因为 Super Column 的性能问题和缺乏二级索引支持问题,Cassandra 社区对它的使用曾有过强烈争议。所以,推荐使用 Composite Columns 代替 Super Column 实现功能。(译者注:使用 Super Column,如果你要获取其中一个 columnvalue,则要扫描整个 Super Column, 这会导致查询性能很糟糕)

围绕着查询模式进行Column Family建模

建模尽量从实体和它们的关系开始

  • 与关系型数据库不同,在 Cassandra 中通过创建二级索引或者编写复杂 SQL(使用 joins, order by, group by)来新建或修改查询不是件容易的事情。因为 Cassandra 具有很高的分布式特性,所以要先考虑查询模式,然后再设计 column family。
  • 牢记前面提到的嵌入排序 map 数据结构,在考虑如何组织你的数据到 map,以满足快速查询 / 排序 / 分组 / 过滤 / 聚合的要求。

在大部分情况下,实体和它们的关系是很重要的(特殊用例除外,如日志存储或者其它时间序列数据)。如果我给你一个查询模式,用于为一个电子商务网站创建 Cassandra 模型,但不告诉你任何实体和它们的关系。你会有意或者无意的从查询模式或者从你之前领域对象的理解找出实体和它们之间的关系(因为我们是通过实体和关系来描述真实世界)。在设计数据模型时最好从实体和关系开始,然后使用反范式化和冗余的方式继续围绕查询模式建模。如果这听起来有些让人困惑,通过后面的详细例子就可以理解。

注意:在建模的时候考虑以下几点会很有帮助。区分频次大的查询和频次小的查询,有些查询可能只被查询几千次,其它可能被查询数十亿次;还要考虑哪些查询对数据延迟是敏感的。确保你的模型优先满足查询频次大的查询和重要查询。

为提升读性能进行反范式化(De-normalize)和冗余

根据实际情况,如果不需要就不要反范式化。

在关系型数据库的世界里,范式化的优点是显而易见的:较少的数据冗余,较少的数据修改异常,概念更清晰,更容易维护等等;同样,它的缺点也十分明显:多表 join 查询会很慢等等。这两方面也会体现在 Cassandra 中,但是缺点会更明显,因为 Cassandra 数据是分布式存储,当然它也并不支持 join 操作。所以,对于一个完全范式化的 schema,Cassandra 读操作性能可能比 RDBMS 更糟糕,所以我们通常通过反范式化来提升查询性能。(译者注:Cassandra 一次查询可能会请求多个节点并将结果汇总到客户端,而 RDBMS 查询只需从本地查询即可)。

这个实践和上一个查询建模实践是非常重要的,我会在余下的文章中通过一个详细的例子做进一步说明。

注意:下面我们要讨论的例子只是个演示,它不代表 eBayCassandra 项目的数据模型。

实战:UserItem中间的’Like’关系

这个示例是关于电子商务系统的一个功能,一个 user 可以喜欢多个 item,同时一个 item 可以被多个 user 所喜爱,在关系型数据库中这个关系是通过 many-to-many 实现的,如下图所示:

通过上面的模型,我们可以进行如下查询:

  • 通过 user id 获取 user
  • 通过 item id 获取 item
  • 获取指定 user 喜欢的所有 item
  • 查看指定 item 被那些 user 所喜爱

下面将介绍几个通过 Cassandra 建模解决上面问题的现方案,反范式的顺序从低到高。你会发现最佳方案依赖于查询模式。

方案 1:完全按照关系数据库模型设计

这个模型支持通过 user id 查询 user 和通过 item id 查询 item。但无法简单查询某个 user 喜爱的所有 item 或者某个 item 被那些 user 所喜爱。

对于这个用例来说,这是最糟糕的设计,主要是因为 User_Item_Like 没有设计好。

注意:为了简单起见,关系型数据模型中的 timestamp 字段没有体现到 Cassandra 模型中(这个字段用于存储 user 何时喜爱某个 item),我会在后面介绍它。

方案 2:使用自定义索引范式化实体

这个模型中 User 和 Item 是范式化实体,user id 和 item id 被映射存储两次,第一次是通过 item id 存储 user id(User_By_Item),第二次通过 item id 存储 user id(Item_By_User)。

这样,我们很容易可以通过 Item_By_User 查询某个 user 喜欢的全部 item,还可以通过 User_By_Item 查询某个 item 被哪些 user 所喜爱。这里我们使用了,Item_By_User 和 User_By_Item 这两个 column family 作为自定义二级索引。(译者注:Cassandra column family 也有二级索引功能,它的作用是通过创建 column key 索引快速查询到 column value)。

有这样一个场景,我们总是希望通过指定 user 查询其喜爱的 item,同时要获取 item title 信息。在当前模型下,我们首先要通过 Item_By_User 获取指定 user 关联的 item id,然后根据这些 item id 依次查询 Item 模型获取 title 信息,反之亦然。一个 item 有可能被几百个 user 所喜爱,或者一个活跃 user 可能喜爱许多 item,基于当前的模型设计,将会导致很多额外的查询。所以,最好通过反范式‘Item_by_User’ 中的 itemtitle 和’ User_by_Item’中的 username 信息来优化查询,方案 3 将会向大家展示。

注意:即使你可以批量读取(译者注:在 Cassandra Java 客户端 hector 中可以 MultigetSliceQuery 类实现一次查询传入多个 rowkey),但它们将仍然很慢,因为 Cassandra 底层仍然会单独查询每个 rowkey,然后通过 Coordinator 节点(译者注:Coordinator 节点为 Cassandra 客户端直接请求的节点,可以理解为它是一个代理)汇总到客户端。批量读取可以避免请求的往返耗时,它是个不错的选择,你可以去尝试它。

方案三:范式化实体,并将它们反范式化到自定义索引

在这个模型中,title 和 username 被分别反范式到 User_By_Item 和 Item_By_User。这样将允许我们高效查询指定 user 喜爱的所有 item,以及喜爱指定 item 所有的 user。这样我们就为整个用例做了很大的反范式化工作。

问题又来了,如何获取指定 user 喜爱 item 的具体信息(title,desc,price 等等)?首先我们要问问自己我们是否真的需要这个查询。还是上面的例子,当用户希望获取 item 额外信息的时候,我们可以在页面上展示所有的 item title,当点击 item title 时,在打开的新页面显示这个 item 的具体信息。所以,在这个用例中我们最好不要极端反范式化。(item title 列表中通常还会显示 title 和 price 信息,这也很容易实现,这个就留给大家做练习)

让我们考虑下面两个查询:

  • 通过所给 item id,获取具体 item 信息(title, desc 等等),并一同查询喜欢这个 item 的 user name
  • 通过所给的 user id,获取具体 user 信息,并一同查询 user 喜欢的所有 item titile

上面两个查询出现在查询 item 和 user 的详情页面是很正常的,这些在当前模型中可以很好的实现。两者都需要两次查询,一次查询 item(或者 user)信息,另一次查询 user name(或者 item title)。User 变得更加活跃的(喜欢上千个 items)或者 item 变得很热门(被几百万 user 喜爱),查询的次数不会随之增加,仍然为两次。这很好,当我们从方案 2 到方案 3,反范式化并没有让我们变糟糕。让我们看看方案 4 如何做更进一步的优化。

方案 4:范式化部分实体

很明显,方案 4 看起来有些凌乱。在数据存储结构上,它与方案 3 也不同。

如果 User 和 Item 之间是高度关联的实体(类似 ebay),相比当前方案我将更倾向于方案 3。

因为我们不打算反范式化所有 item 属性到 User 实体或者反范式化所有 user 属性到 Item 实体,所以这里我们使用了部分范式化。我不会打算进行极限反范式化(让所有 time 属性到 User 实体和所有 user 属性到 Item 实体),因为在这个用例中那样做是没有意义的。

注意:这里我使用 Super Column 只是为了给展示。大多情况,应该倾向于使用 composite columns,而不是 Super Column。

最佳模型

在本文的用例中方案 3 是优胜者。上面的方案中我们忽略了 timestamp 信息,下面我们将把它以 timeuuid(type-1 uuid) 形式添加到最终模型上。注意,在 User_By_Item 实体中 timeuuid 和 userid 合并为一个 composite column key,在 Item_By_user 实体中 timeuuid 和 item id 合并为一个 composite column key。

回想一下,column key 是有序存储的。这里我们的 User_By_Item 和 Item_By_User 两个实体的 column keys 通过 timeuid 排序后被存储到磁盘,这使得基于时间的范围查询非常高效。在这个模型中,我们不需要读取一个 row 中所有 column,就可以高效的查询某个 item 最近被哪些 user 所喜爱,以及某个用户最近喜欢了哪些 item。

最终模型如下:

总结

我们通过一些基本的实践和详细例子帮你开启 Cassandra 数据建模之旅。下面是一些关键点:

  • 当设计 Cassandra 列族时,不要把它想成是关系表,要把它想成是嵌套的、排序的 map 数据结构。
  • 要围绕着查询来设计列族,从设计实体及其关系开始。
  • 在需要的时候,通过反范式化和冗余来提升读性能。
  • 记住有多种方式创建模型,最佳的方式依赖于你的用例和查询模式。

这里我没有提到其它常用的用例,如日志记录、监控、实时分析(rollups, counters),或者时间序列。但是,我们讨论的实践也适用于它们。此外,有些众所周知的技术和模式用于时间序列的模型设计。在 eBay,我们也使用这些技术,也乐于在后续的文章中分享这些。关于时间序列数据建模,我推荐你阅读 Advanced time series with CassandraMetric collection and storage,如果你是 Cassandra 新手,请先阅读DataStax documentation

原文链接:http://www.ebaytechblog.com/2012/07/16/cassandra-data-modeling-best-practices-part-1/

译者介绍:

张月

Java 程序员,7 年工作经验,目前就职于 ChinaCache 数据平台组,EasyHadoop 社区委员、讲师,博客:heipark.iteye.com

李娟

Java 程序员,2 年工作经验,目前就职于 ChinaCache 数据平台组,博客:essen.iteye.com

收藏

评论

微博

发表评论

注册/登录 InfoQ 发表评论