基于个性化查询场景的 Amazon Redshift 压力测试方案_大数据_亚马逊云科技 (Amazon Web Services）



 写点什么

一、前言

Amazon Redshift 是 AWS 提供的一种完全由云端托管的快速、简单、经济高效的数据仓库服务，您可以基于 Redshift ，结合使用标准的 SQL 和商业智能（BI），来实现大规模并行的 PB 级数据查询。您只需要根据业务需要在几分钟内建立几个到几十个节点的数据仓库集群，执行数据分析和查询任务，并根据需求变化调整集群规模。由于 Redshift 是完全托管的平台，您只需要关注业务需求和数据，其他底层集群管理、维护、监控、备份、升级、安全、备份等运维工作全部交由平台承担。

在将大规模数据迁移到 Redshift 之前，很多客户也想结合自身的数据特点和个性化的查询场景，尤其是基于数仓对外提供数据分析的业务，有验证数仓并发性能的需求，需要对 Redshift 进行针对性的压力测试。针对此类场景，本文重点介绍大规模测试数据（fake data）的生成方法和基于 sysbench 工具对 Redshift 进行压力测试等两个技术方案，希望对各位在数仓上云前的可行性和性能评估有所帮助。

二、环境准备

本文所介绍的方案涉及如下 3 个测试环境：

数据生成客户端：

机型	vCPU	内存(GiB)	磁盘	网络	数量
c5.18xlarge	72	144	通用 SSD 200G	25Gbps	3

压测客户端：

机型	vCPU	内存 (GiB)	磁盘	网络	数量
r5.24xlarge	96	768	通用 SSD 20G	高	1

Redshift 集群：

节点类型	vCPU /节点	内存 (GiB) /节点	存储/节点	节点数量	工作负载管理（WLM）	网络
dc2.8xlarge	32	244	2.56TB	4	自动	高

注：以上机型和节点类型为本次实验选取，客户需根据自身实际数据规模和压测并发场景选择合适类型。

三、数仓测试数据准备

在进行 Redshift 压力评估之前，我们需要针对实际生产环境中的表结构和数据规模准备测试数据，在本次测试环境中，我们使用 Python3 来生成与生产环境中相当的模拟数据，共计 2 亿行数据，数据字段类型如下表。

	primary_id	user_id	hour	domain_hash	platform	country	province	city	domain	uri_path	cloumn_1-10
范围	1-200000000	𝜆=5000的随机泊松分布数	2018-01-01 00:00:00至2019-01-01 00:00:00中随机整小时数	domain的md5哈希值	{“pc”, “mobile”, “sdk”, “weixin”, “weibo”, “toutiao”}中随机选取一个	中国	34个省份中随机选取一个	对应省份中的城市随机选取一个	一个user有20个domain，随机选取一个	随机生成	1-1000000中的随机整数

由于 2 亿行数据量较大，为了加快数据的生成，我们将 2 亿行数据拆分成 200 个文件，每个文件 100 万行数据，每个文件由一个进程去写入。因此我们启用 3 台 c5.18xlarge ，分别用 70、70、60 个进程去生成模拟数据文件。

1. 脚本介绍

本脚本使用 python3.7.3 ，完整脚本见https://github.com/lab798/fakedata-generator

genFakeData.py为核心代码脚本，用于生成模拟数据文件。

province_city.py保存了中国 34 个省份和对应城市的数据。

genFakeData.py 脚本中使用了以下 Python 包：

from faker import Fakerimport numpy as npfrom province_city import province_cityimport randomimport datetimeimport hashlibfrom multiprocessing import Process

复制代码

其中 faker 和 numpy 需要额外安装。

Faker 是一个可以让你生成模拟数据的 Python 包。使用方法可以参见 Faker 的文档，https://faker.readthedocs.io，我们使用 Faker 来生成随机时间和 uri_path。

f = Faker('zh_CN')uri_path = f.uri_path(deep=None)date = f.date_time_between(start_date=datetime.datetime(2018, 1, 1, 0, 0, 0),end_date=datetime.datetime(2019, 1, 1, 0, 0, 0), tzinfo=None)

复制代码

numpy 支持大量的维度数组与矩阵运算，此外也针对数组运算提供大量的数学函数库。我们使用 numpy 来生成柏松分布随机数。

user_id = str(np.random.poisson(lam=user_number // 2))

复制代码

另外我们使用 random 包来生成随机数和从列表中进行随机选择。

city = random.choice(city_list)cloumn_1 = random.randint(1, 1000)

复制代码

脚本核心函数 generate_fakedata_file ，生成一个 csv 文件，文件中的每一行是以 | 作为分隔符的数据，如下图中的两行数据。

1|5047|2018-10-11 10:00:00|831434149d5331728f375128f72037f3|mobile|中国|新疆维吾尔自治区|乌鲁木齐市|www.domain504710.com|blog|935|7978|2850|42|69006|379|78194|151075|93950|729|2018-02-10 14:55:32|2018-01-13 05:28:28
2|5022|2018-05-08 17:00:00|f139787cc74a93b6b415e7df4caabe93|sdk|中国|上海市|上海市|www.domain50224.com|list|437|7386|3512|24|48836|980|98419|933130|13144|237|2018-06-23 18:49:27|2018-11-28 06:16:49

复制代码

main 函数使用 multiprocessing，启动 N 个 Process 进程运行 generate_fakedata_file 函数，同时生成 N 个文件。

p = Process(target=generate_fakedata_file,args=(start_number_per_file, end_number_per_file,file_path, user_num))p.start()

复制代码

2.使用脚本快速生成 20 billion 条记录的数据

a. 准备工作:

启动 3 台 c5.18xlarge 的 ec2 实例，将脚本拷贝到目录～/

安装 python3，和两个包 Faker numpy ，并创建文件夹 fakeData

sudo yum install python3pip3 install numpy Fakermkdir fakeData

复制代码

b. 修改每台实例上脚本中的参数（可根据自身需求修改参数）

第一台实例：

生成的文件： fakedata1.csv – fakedata70.csv

数据行数：1 – 70000000

if __name__ == "__main__":
process_num = 70 # 进程数rows_per_file = 1000000 # 每个文件有多少行数据row_start_id = 1 # 这个实例上的数据的起始行数file_seq_start = 1 # 生成的文件名字的起始序列

复制代码

第二台实例：

生成的文件：fakedata71.csv – fakedata140.csv

数据行数： 70000000 – 140000000

if __name__ == "__main__":
process_num = 70rows_per_file = 1000000row_start_id =  70000000file_seq_start = 71

复制代码

第三台实例：

生成的文件：fakedata141.csv – fakedata200.csv

数据行数： 140000000 – 200000000

if __name__ == "__main__":
process_num = 60rows_per_file = 1000000row_start_id = 140000000file_seq_start = 141

复制代码

c. 运行脚本

nohup python3 genFakeData.py

复制代码

当 nohup.out 中出现 N(N=进程数)行 Generation finished ，说明数据生成完毕。

也可以用 tail -1 fakedataX.csv 命令查看进度。

本实验中，用 3 台 c5.18xlarge 生成 2 亿数据大概耗时 6/7 小时左右。

四、测试数据导入

在数据生成客户端上通过运行 python 脚本生成需求规模的测试数据后，便可将数据导入待测试 Redshift 集群中，分为两步：

1.将生成数据同步至 s3 存储桶中：

aws s3 sync localdir s3://mybucket/dir

复制代码

其中， localdir 为本地 python 脚本生成数据的存放路径， s3://mybucket/dir 为目标 s3 存储桶中数据存放路径。

2. 创建表结构：

选择常用的 JDBC 客户端，通过配置 JDBC URL、端口（默认 5439）、数据库名称、用户名、密码连接到待测 Redshift 数据仓库，连接成功后，创建测试数据对应的表结构，如：

CREATE TABLE test_data_table(    id                 BIGINT       NOT NULL,    user_id            BIGINT       NOT NULL,    hour               TIMESTAMP    NOT NULL,    domain_hash        VARCHAR(128) NOT NULL,    platform           varchar(32),    country            varchar(64),    province           varchar(64),    city               varchar(64),    domain             varchar(128),    uri_path           varchar(255),    cloumn_1           BIGINT,    cloumn_2           BIGINT,    cloumn_3           BIGINT,    cloumn_4           BIGINT,    cloumn_5           BIGINT,    cloumn_6           BIGINT,    cloumn_7           BIGINT,    cloumn_8           BIGINT,    cloumn_9           BIGINT,    cloumn_10          BIGINT,    created_at         TIMESTAMP,    updated_at         TIMESTAMP,    PRIMARY KEY (id))    DISTSTYLE KEY    DISTKEY (user_id)    COMPOUND SORTKEY (user_id, hour);

复制代码

关于数据的分配方式，需要依据客户常用查询语句来选定，本文选用的 KEY 分配方式，根据 user_id 、 hour 列中的值分配行，主节点会将与该两列匹配的值放置到同一个节点切片上。分配方式的选择具体请见官方文档：https://docs.aws.amazon.com/zh_cn/redshift/latest/dg/t_Distributing_data.html

表创建成功后，在客户端运行 copy 命令将 s3 数据导入至集群中（同时指定使用的 IAM 角色）：

copy test_data_tablefrom 's3://mybucket/dir'iam_role 'arn:aws:iam::907488872981:role/myRedShiftRole';

复制代码

至此，生成的测试数据已导入 Redshift 集群中，下面我们来进行压测客户端的环境配置。

五、压测客户端配置：

由于 Redshift 底层基于 PostgreSQL 实现， sysbench 连接 Redshift 基于 PostgreSQL driver，因此配置压测客户端环境，需在启动的 EC2 中分别安装 sysbench 和 PostgreSQL ：

1.以 root 身份安装依赖：

yum -y install bzryum -y install automakeyum -y install libtool

复制代码

2.安装 PostgreSQL：

sudo yum install postgresql postgresql-server postgresql-devel postgresql-contrib postgresql-docssudo service postgresql initdb

复制代码

3.下载解压 sysbench：

wget https://github.com/akopytov/sysbench/archive/1.0.zip -O "sysbench-1.0.zip"unzip sysbench-1.0.zipcd sysbench-1.0

复制代码

4.将 configure 指向安装的 pgSQL lib：

./configure --prefix=/usr/sysbench-1.0/sysbench --with-pgsql --without-mysql --with-pgsql-includes=/usr/include/pgsql92 --with-pgsql-libs=/usr/lib64/pgsql92

复制代码

5.make & make install

6.添加环境变量：

export PATH=$PATH:/home/ec2-user/sysbench-1.0/sysbench/bin

复制代码

六、Redshift 压力测试：

在个性化并发查询场景下，使用 sysbench 对 Redshift 压力测试，需根据测试数据及业务需要构建自定义查询请求，可通过编写自定义 lua 脚本来实现个性化并发查询：

编写 test.lua 文件，放入 …/sysbench-1.0/tests/include/oltp_legacy/ 路径下，本文使用 test.lua 示例如下：

--test.luapathtest = string.match(test, "(.*/)") or ""dofile(pathtest .. "common.lua")function thread_init(thread_id)   set_vars()   if (db_driver == "mysql" and mysql_table_engine == "myisam") then      begin_query = "LOCK TABLES sbtest WRITE"      commit_query = "UNLOCK TABLES"   else      begin_query = "BEGIN"      commit_query = "COMMIT"   endend--具体查询请求实现function event(thread_id)   local rs   user_id = math.random(1,200)   math.randomseed(tostring(os.time()):reverse():sub(1, 6) + thread_id)   limit = 100   month = math.random(1,9)   day = math.random(10,20)   day2 = day + 7   final_sql = "select hour，domain_hash, sum(cloumn_1) as cloumn_1, sum(cloumn_2) as cloumn_2, sum(cloumn_3) as cloumn_3, sum(cloumn_4) as cloumn_4, sum(cloumn_5) as cloumn_5, sum(cloumn_6) as cloumn_6, sum(cloumn_7) as cloumn_7, sum(cloumn_8) as cloumn_8, sum(cloumn_9) as cloumn_9, sum(cloumn_10) as cloumn_10"   table_name = " from test_data_table "   final_sql = final_sql .. table_name   final_sql = final_sql .. " where hour>=TO_TIMESTAMP('2018-0" .. month .. "-" .. day .. "','YYYY-MM-DD') and hour<=TO_TIMESTAMP('2018-0" .. month .. "-" .. day2 .. "', 'YYYY-MM-DD') and "--设置时间种子   math.randomseed(tostring(os.time()):reverse():sub(1, 7) + thread_id)    final_sql = final_sql .. "user_id = " .. user_id   final_sql = final_sql .. " group by hour, domain_hash"   final_sql = final_sql .. "offset "   final_sql = final_sql .. tostring(math.random(1,100))   final_sql = final_sql .. " limit "   final_sql = final_sql .. tostring(limit)   final_sql = final_sql .. ";"   if(thread_id == 1)then      print (final_sql)   end----   if not oltp_skip_trx then      db_query(begin_query)   end   rs = db_query(final_sql_before)   rs = db_query(final_sql)   rs = db_query(final_sql_after)   if not oltp_skip_trx then      db_query(commit_query)   endend

复制代码

如脚本所示，在每个请求中，自定义构造了某一 user_id 在随机时间区间内 7 天的聚合查询，您可以根据实际业务场景需要，构建定制化的压测查询请求。

执行压测命令及参数配置如下：

sysbench --test=/usr/sysbench-1.0/tests/include/oltp_legacy/test.lua--pgsql_variant="redshift" --pgsql-host=<your redshift cluster url>--pgsql-port=5439 --pgsql-user=<db user name> --pgsql-password=<user password>--pgsql-db=<db name> --db-driver=pgsql  --oltp-test-mode=complex--oltp-reconnect-mode=session --percentile=90 --oltp-table-size=1000000000--report-interval=10 --max-time=60 —num-threads=100 run

复制代码

参数解释如下：

• –test=/usr/sysbench-1.0/tests/include/oltp_legacy/test.lua

o 自定义 Lua 脚本，建议放在和 common 同目录

• –pgsql_variant=“redshift”

o 针对 Redshift 的测试配置

• –pgsql-host=o Redshift 集群 URL• –pgsql-port=5439o 端口• –pgsql-user=–pgsql-password=–pgsql-db=o 用户名密码数据库• –db-driver=pgsqlo pgsql driver• –oltp-test-mode=complexo 测试模式（simple：单个 select 模式；complex：事务模式;）• –oltp-reconnect-mode=sessiono 重新连接模式 session 表示不使用重新连接。每个线程断开只在测试结束• –percentile=90o 统计 90%的请求最大延迟• –oltp-table-size=1000000000o 测试表的大小• –report-interval=10o 每隔 10 秒输出一次压测结果• –max-time=60o 测试时长，1 分钟• –num-threads=100o 并发数量 100

七、测试结果示例：

SQL statistics:    queries performed:        read:                            4965       读请求数量        write:                           0        other:                           9930       其他操作（如 set query  和 reset 等）        total:                           14895    transactions:                        4965   (80.88 per sec.)     事务 qps    queries:                             14895  (242.63 per sec.)     请求 qps    ignored errors:                      0      (0.00 per sec.)    reconnects:                          0      (0.00 per sec.)
General statistics:    total time:                          61.3888s    total number of events:              4965
Latency (ms):         min:                                  208.23     单次操作最小延迟         avg:                                 1219.83    单次操作平均延迟         max:                                 7755.21   单次操作最大延迟         90th percentile:               1352.03   90%的操作最大延迟         sum:                              6056447.26

复制代码

八、测试结果分析

本文在针对 10 亿条测试数据规模的 Redshift 集群进行了压力测试，结果如下所示：

1.时延： 100 并发平均延迟 1.5 秒/查询事务，90%请求最高延迟 1.8 秒/查询事务；

2. TPS（transactions per second），在不同并发条件下：

	A	B	C	D	E	F	G	H	I	J
1	并发量	1	10	20	50	80	100	200	500	1000
2	TPS	3.58	30.19	45.25	46.29	49.82	50.9	50.65	50.39	50.03

由此可见，随着并发量增大，TPS 达到 Redshift 支持的最高并发数 50。

目前，AWS Redshift 已经在部分区域推出了并发扩展（Concurrency Scaling）功能，您可以通过设置工作负载管理（Workload Management）中的队列属性 “Concurrency Scaling” 为 Auto，来扩展队列将查询路由到并发扩展集群。详情请参见：https://docs.aws.amazon.com/zh_cn/redshift/latest/dg/concurrency-scaling.html

注：本文选取的是单一表查询的场景，目的是为读者提供数据构造及测试流程方法，如果客户实际场景中涉及多个表的并行查询，测试方法与之类似。

作者介绍

郭韧

AWS 解决方案架构师，负责基于 AWS 的云计算方案架构咨询和设计，致力于云计算中数据分析和人工智能等关键技术的实施和推广。在加入 AWS 之前，从事电信网络数据智能化及标准化推广，具有丰富的设计与实践经验。

许昌月

AWS 解决方案架构师，负责基于 AWS 的云计算方案架构咨询和设计，实施和推广，擅长软件开发，具有丰富的解决客户实际问题的经验。

本文转载自 AWS 技术博客。

原文链接：

https://amazonaws-china.com/cn/blogs/china/based-on-amazon-redshift-pressure-test-method/

发布

暂无评论

创作场景

基于个性化查询场景的 Amazon Redshift 压力测试方案

一、前言

二、环境准备

三、数仓测试数据准备

1. 脚本介绍

2.使用脚本快速生成 20 billion 条记录的数据

a. 准备工作:

b. 修改每台实例上脚本中的参数（可根据自身需求修改参数）

c. 运行脚本

四、测试数据导入

1.将生成数据同步至 s3 存储桶中：

2. 创建表结构：

五、压测客户端配置：

1.以 root 身份安装依赖：

2.安装 PostgreSQL：

3.下载解压 sysbench：

4.将 configure 指向安装的 pgSQL lib：

5.make & make install

6.添加环境变量：

六、Redshift 压力测试：

七、测试结果示例：

八、测试结果分析

1.时延： 100 并发平均延迟 1.5 秒/查询事务，90%请求最高延迟 1.8 秒/查询事务；

2. TPS（transactions per second），在不同并发条件下：

作者介绍

评论

更多内容推荐

推荐阅读

电子书

大厂实战PPT下载