快速部署 DBus 体验实时数据流计算

发布于:2020 年 2 月 9 日 15:10

快速部署DBus体验实时数据流计算

一、环境说明

说明 all in one 是一个单机版本 dbus 环境,是给用户快速体验 dbus 的功能,只是一个简单体验版,不能用于其它环境或者用途,具体包括如下:

1)基础组建:

  • zookeeper 3.4.6

  • kafka 0.10.0.0

  • storm 1.0.1

  • granfana 4.2.0

  • logstash 5.6.1

  • influxdb (需要单独安装, 参考如下步骤 3)

  • mysql (需要单独安装,参考如下步骤 2)

2)dbus 相关包:

  • dbus-keeper 0.5.0

  • dbus-stream-main 0.5.0

  • dbus-router 0.5.0

  • dbus-heartbeat 0.5.0

  • dbus-log-processor 0.5.0

3)mysql 数据源所需:

  • canal

1.1 环境依赖

安装 dbus-allinone 环境的建议配置如下

  • JDK 1.8.181 或 以上

  • CPU 2 核 或以上

  • 内存 16GB 或以上

  • 磁盘 20GB 或以上

注:一台 Linux centos 服务器, 该服务器最好是空机器,上面不要安装 dbus 所依赖的 zk,kafka,storm 等

1.2 修改域名

注:ip 是您的具体 ip,这里用 192.168.0.1 为例子

修改服务器 /etc/hosts 文件设置相应的域名信息如下:

192.168.0.1 dbus-n1  

修改服务器 hostname 命令如下:

hostname dbus-n1  

配置好后,服务器 IP 和域名信息如下:

1.png

1.3 创建 app 用户及配置 SSH 免密登录

由于 dbus 启动拓扑采用的 ssh 调用 storm 命令,all in one 包中默认的调用 ssh 使用 app 用户和 22 端口,因此要正常体验 all in one 需要创建 app 账户和配置 ssh 免密登录,免密登录配置的从 dbus-n1 到 dbus-n1 的免密登录

配置完成后执行如下命令看时候配置成功

[app@dbus-n1 ~]$ ssh -p 22 app@dbus-n1  
Last login: Fri Aug 10 15:54:45 2018 from 10.10.169.53  
[app@dbus-n1 ~]$  

二、前期准备

2.1 安装 Mysql

2.1.1 下载

推荐下载 Mysql 版本:5.7.19 地址: https://dev.mysql.com/downloads/mysql/

2.1.2 安装

解压 mysql-5.7.19-1.el6.x86_64.rpm-bundle.tar 包后,执行以下命令安装:

rpm -ivh mysql-community-server-5.7.19-1.el6.x86_64.rpm --nodeps  
rpm -ivh mysql-community-client-5.7.19-1.el6.x86_64.rpm --nodeps  
rpm -ivh mysql-community-libs-5.7.19-1.el6.x86_64.rpm --nodeps  
rpm -ivh mysql-community-common-5.7.19-1.el6.x86_64.rpm --nodeps  
rpm -ivh mysql-community-libs-compat-5.7.19-1.el6.x86_64.rpm --nodeps  

2.1.3 配置

在 /etc/my.cnf 配置文件中,只是增加 bin-log 相关配置,其他不用修改,关注以下汉字注释部分

[mysqld]  
\# dbus 相关配置开始  
log-bin=mysql-bin  
binlog-format=ROW  
server_id=1  
\# dbus 相关配置结束  

2.1.4 启动

执行以下命令启动 mysql:

service mysqld start  

2.2. 安装 InfluxDB

2.2.1 下载

推荐下载 InfluxDB 版本:influxdb-1.1.0.x86_64 地址: https://portal.influxdata.com/downloads

2.2.2 安装

在 dbus-n1 上切换到 root 用户,在 influxdb-1.1.0.x86_64.rpm 的存放目录下执行如下命令:

rpm -ivh influxdb-1.1.0.x86_64.rpm  

2.2.3 启动

在 dbus-n1 上执行如下命令:

service influxdb start  

2.2.4 初始化配置

在 dbus-n1 上执行如下命令:

\#登录 influx  
influx  

\#执行初始化脚本  
create database dbus_stat_db  
use dbus_stat_db  
CREATE USER "dbus" WITH PASSWORD 'dbus!@#123'  
ALTER RETENTION POLICY autogen ON dbus_stat_db DURATION 15d

本文转载自宜信技术学院网站。

原文链接: http://college.creditease.cn/detail/274

阅读数:97 发布于:2020 年 2 月 9 日 15:10

更多 数据库、新基建、数据处理 相关课程,可下载【 极客时间 】App 免费领取 >

评论

发布
暂无评论