kafka單節點單broker的安裝部署及使用
kafka是Apache的頂級項目,可以在官網
http://kafka.apache.org/downloads
根據自己的scala版本下載自己需要的壓縮包
解壓:
[root@hadoop001 downloads]# tar -zxvf kafka_2.13-2.4.0.tgz -C /usr/soft/
配置環境變量
vi ~/.bash_profile
export KAFKA_HOME=/usr/soft/kafka_2.13-2.4.0
export PATH=PATH
然後,配置kafka的配置文件
[root@hadoop001 config]# vi server.properties
broker.id=0
listeners=PLAINTEXT://:9092
log.dirs=/usr/soft/data/kafka-logs
num.partitions=1
zookeeper.connect=hodoop001:2181
注意:以上個參數配置分別是
breker.id 必須是唯一的整形數字
listeners 監聽,採取默認配置即可
log.dirs 日誌路徑,配置成我們自己創建路徑(默認路徑會在每次系統重啓之後清除)
num.partitions 因爲是單節點部署,這裏採用分區數量是1
zookeeper.connect 根據自己喜好配置hadoop001:2181(或默認localhost:2181)
啓動kafka之前,首先要啓動zookeeper,zookeeper啓動過程請參考上篇文章
https://editor.csdn.net/md/?articleId=105565048
或者啓動kafka自帶的zookeeper,本文以啓動kafka自帶的zookeeper爲例
啓動zookeeper
[root@hadoop001 bin]# ./zookeeper-server-start.sh …/config/zookeeper.properties
啓動kafka
[root@hadoop001 bin]# ./kafka-server-start.sh …/config/server.properties
創建一個topic
[root@hadoop001 bin]# ./kafka-topics.sh --create --zookeeper hadoop001:2181 --replication-factor 1 --partitions 1 --topic hello_test
查看所有創建的topic
./kafka-topics.sh --list --zookeeper hadoop001:2181
啓動生產者,
[root@hadoop001 bin]# ./kafka-console-producer.sh --broker-list hadoop001:9092 --topic hello_topic
啓動消費者
[root@hadoop001 bin]# ./kafka-console-consumer.sh --bootstrap-server hadoop001:9092 --topic hello_topic --from-beginning
在生產者客戶端輸入內容
可以在消費者客戶端看到輸出
至此,kafka單節點安裝部署及使用完成。