CentOS6.5安装kafka2

1.安装JDK8

1.1 下载JDK

https://download.csdn.net/download/qq_35981283/10655412

jdk-8u131-linux-x64.rar解压后获得 jdk-8u131-linux-x64.rpm

[root@localhost local]# rpm -ivh --prefix=/local  jdk-8u131-linux-x64.rpm

1.2 配置环境变量编辑用户目录下的.bashrc或.profile文件。如果你想在所有用户的shell下都生效,就编辑/etc/profile文件。同样都是加入以下内容:

export JAVA_HOME=/local/jdk1.8.0_131
export JRE_HOME=/local/jdk1.8.0_131/jre
export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH

执行命令:

[root@bogon opt]# source /etc/profile

1.3 验证JDK是否成功安装

终端输入命令:java -version

[root@localhost jdk1.8.0_131]# java -version
java version "1.8.0_131"
Java(TM) SE Runtime Environment (build 1.8.0_131-b11)
Java HotSpot(TM) 64-Bit Server VM (build 25.131-b11, mixed mode)

说明JDK安装成功。
2.安装KAFKA

2.1 下载KAFKA

[root@localhost local]# wget http://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.3.0/kafka_2.12-2.3.0.tgz 

2.2 解压

[root@localhost local]# tar zxvf kafka_2.12-2.3.0.tgz 

2.3 启动Zookeeper

[root@localhost local]# cd kafka_2.12-2.3.0

[root@localhost kafka_2.12-2.3.0# bin/zookeeper-server-start.sh -daemon config/zookeeper.properties

2.4 启动Kafka 服务
使用kafka-server-start.sh 启动kafka 服务:

[root@localhost kafka_2.12-2.3.0]#bin/kafka-server-start.sh config/server.properties

要设置IP地址和端口号,否则外界无法使用IP来访问KAFKA

在kafka/config目录下的server.properties配置

listeners=PLAINTEXT://192.168.11.11:9092

2.5 创建topic
使用kafka-topics.sh 创建单分区单副本的topic test:

[root@localhost kafka_2.12-2.3.0]#bin/kafka-topics.sh --create --zookeeper 192.168.11.11:2181 --replication-factor 1 --partitions 1 --topic test

2.6 查看topic:

[root@localhost kafka_2.12-2.3.0]#bin/kafka-topics.sh --list --zookeeper 192.168.11.11:2181 test

2.7 产生消息
使用kafka-console-producer.sh 发送消息:

[root@localhost kafka_2.12-2.3.0]bin/kafka-console-producer.sh --broker-list 192.168.11.11:9092 --topic test 
aaa

bbb

2.8 消费消息
使用kafka-console-consumer.sh 接收消息并在终端打印:

[root@localhost kafka_2.12-2.3.0]# bin/kafka-console-consumer.sh --bootstrap-server 192.168.11.11:9092 --topic test --from-beginning

3.集群配置
单机多broker 集群配置
利用单节点部署多个broker。 不同的broker 设置不同的 id,监听端口及日志目录。 例如:

cp config/server.properties config/server-1.properties 
编辑配置:

config/server-1.properties:
    broker.id=1
    port=9093
    log.dir=/tmp/kafka-logs-1
启动Kafka服务:

bin/kafka-server-start.sh config/server-1.properties &
启动多个服务,按上文类似方式产生和消费消息。

多机多broker 集群配置
分别在多个节点按上述方式安装Kafka,配置启动多个Zookeeper 实例。 例如: 在10.4.253.22,10.4.253.23,10.4.253.24三台机器部署,Zookeeper配置如下:

initLimit=5
syncLimit=2
server.1=10.4.253.22:2888:3888
server.2=10.4.253.23:2888:3888
server.3=10.4.253.24:2888:3888
分别配置多个机器上的Kafka服务 设置不同的broke id,zookeeper.connect设置如下:

zookeeper.connect=10.4.253.22:2181,10.4.253.23:2181,10.4.253.24:2181
启动Zookeeper与Kafka服务,按上文方式产生和消费消息,验证集群功能。

本文有些引用自:https://www.cnblogs.com/weifeng1463/p/8873161.html

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章