Rocketmq集群搭建步骤

最近在学习RocketMq, 根据网上的搭建步骤, 成功搭建了RocketMq集群环境, 然后在这里做记录, 方便后面学习查看 .

---

了解几种集群方式:

• 单Master方式
  风险比较大, 一旦Broker重启或者宕机, 将导致整个环境不可用, 不建议线上使用.

• 多Master模式
  一个集群中没有slave, 全是master, 例如2个master或者3个master.
  优点:配置简单, 单个Master宕机或重启对应用无影响, 磁盘配置为RAID10时, 即使机器宕机不可恢复, 由于RAID10磁盘非常可靠, 消息也不会丢(异步刷盘丢失少量信息, 同步刷盘一条不丢)
  缺点 : 单台机器宕机期间, 这个机器上未被消费消息在机器恢复之前不可订阅, 消息实时性受到影响 .

• 多Master多Slave模式, 异步复制
  每个 Master 配置一个 Slave，有多对Master-Slave，采用异步复制方式，主备有短暂消息延迟，毫秒级。
  优点：即使磁盘损坏，消息丢失的非常少，且消息实时性不会受影响，因为Master 宕机后，消费者仍然可以从 Slave消费，此过程对应用透明。不需要人工干预。性能同Master 模式几乎一样。
  缺点：Master 宕机，磁盘损坏情况，会丢失少量消息。

• 多Master多Slave模式, 同步双写
  每个 Master 配置一个 Slave，有多对Master-Slave，采用同步双写方式，主备都写成功，向应用返回成功。
  优点：数据与服务都无单点，Master宕机情况下，消息无延迟，服务可用性与数据可用性都非常高
  缺点：性能比异步复制模式略低，大约低 10%左右，发送单个消息的 RT会略高。目前主宕机后，备机不能自动切换为主机，后续会支持自动切换功能。

---

开始搭建:

我们这里采用双Master方式 .
机器1 : 192.168.223.144
机器2 : 192.168.223.145

• 在两台机器的hosts文件中添加如下信息:
  vim /etc/hosts
  
• 上传并进行解压
  上传alibaba-rocketmq-3.2.6.tar.gz文件至/usr/local/application (本人将所有安装软件都放在application目录下)
  tar -zxvf alibaba-rocketmq-3.2.6.tar.gz -C /usr/local/application
  mv alibaba-rocketmq-3.2.6 alibaba-rocketmq
  ln -s alibaba-rocketmq rocketmq
  执行完上面命令之后, application目录如下 :
  
• 创建存储路径
  mkdir /usr/local/application/rocketmq/store
  mkdir /usr/local/application/rocketmq/store/commitlog
  mkdir /usr/local/application/rocketmq/store/consumequeue
  mkdir /usr/local/application/rocketmq/store/index
• 修改两台机器rocketmq配置文件
  vim /usr/local/application/rocketmq/conf/2m-noslave/broker-a.properties
  vim /usr/local/application/rocketmq/conf/2m-noslave/broker-b.properties
  注意 :
  下面的broker名字, 不同的配置文件填写的不一样.

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字，注意此处不同的配置文件填写的不一样
brokerName=broker-a|broker-b
#0 表示 Master，>0 表示 Slave
brokerId=0
#nameServer地址，分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/application/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/application/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/application/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/application/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/application/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/application/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=ASYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

• 修改日志配置文件
  mkdir -p /usr/local/application/rocketmq/logs
  cd /usr/local/application/rocketmq/conf && sed -i ‘s#${user.home}#/usr/local/application/rocketmq#g’ *.xml
• 修改两台机器启动脚本参数
  设置虚拟器启动大小为1G, 最大为1G, 新生代为512M
  vim /usr/local/application/rocketmq/bin/runbroker.sh
  
  vim /usr/local/application/rocketmq/bin/runserver.sh
  

• 先分别启动两台机器的NameServer
  cd /usr/local/application/rocketmq/bin
  nohup sh mqnamesrv &

• 然后分别启动两台机器的BrokerServer.

  • BrokerServer A(192.168.223.144)(指定配置文件为:broker-a.properties)
    cd /usr/local/application/rocketmq/bin
    nohup sh mqbroker -c /usr/local/application/rocketmq/conf/2m-noslave/broker-a.properties >/dev/null 2>&1 &
  • BrokerServer B(192.168.223.145)(指定配置文件:broker-b.properties)
    cd /usr/local/application/rocketmq/bin
    nohup sh mqbroker -c /usr/local/application/rocketmq/conf/2m-noslave/broker-b.properties >/dev/null 2>&1 &
• 查看各自启动日志是否正常
  tail -f -n 500 /usr/local/application/rocketmq/logs/rocketmqlogs/broker.log
  tail -f -n 500 /usr/local/application/rocketmq/logs/rocketmqlogs/namesrv.log
• jps查看进程是否存在
  

---

管控台搭建:

下载rocketmq-console.war, 并在tomcat中部署rocketmq-console.war

• 利用unzip命令进行解压.
  
• 修改配置文件
  修改这个目录下的config.properties文件
  /usr/local/application/tomcat/apache-tomcat-7.0.69/webapps/rocketmq-console/WEB-INF/classes
  
• 保存后, 启动tomcat
  

---

至此rocketmq集群搭建完毕!