前言:前面搭好了kafka要依賴的zookeeper(其實kafka自己內置了zookeeper,但我還是用自己搭的),現在開始搭建kafka集羣。
在/opt目錄解壓後,進入config/server.properties修改:
broker.id=1 #每個kafka節點要唯一
listeners=PLAINTEXT://192.168.1.128:9092 #對應的kafka機器的ip
advertised.listeners=PLAINTEXT://192.168.1.128:9092
log.dirs=/tmp/kafka-logs #kafka數據存儲目錄,不是kafka日誌目錄
num.partitions=3 #kafka數據默認分區
num.recovery.threads.per.data.dir=3 #每個數據目錄在啓動時用於日誌恢復和在關閉時用於刷新的線程數。如果安裝的數據目錄位於RAID陣列中,建議增加該值。
zookeeper.connect=192.168.1.128:2181,192.168.1.135:2181,192.168.1.136:2181 #zookeeper地址
然後在每臺機器上,後臺啓動kafka:
setsid bin/kafka-server-start.sh config/server.properties
在128上啓動一個生產者,並且topic是kafkaaa:
bin/kafka-console-producer.sh --broker-list 192.168.1.128:9092 --topic kafkaaa
在135上啓動一個消費者消費kafkaaa:
./bin/kafka-console-consumer.sh --bootstrap-server 192.168.1.135:9092 --topic kafkaaa --from-beginning
在136上查看所有topic列表:
bin/kafka-topics.sh --list --zookeeper 192.168.1.128:2181
最後查看topic的情況:
bin/kafka-topics.sh --describe --zookeeper 192.168.1.135:2181 --topic kafkaaa
kafka集羣搭建完成。後面可能會出kafka配置文件詳解。