Kafka高可靠性測試失敗，爲什麼？

CentOS7上，JDK 1.8.0_231-b11，zookeeper-3.4.6，kafka_2.12-2.3.0

測試multi-broker的例子https://kafka.apache.org/quickstart#quickstart_multibroker。

啓動zookeeper

> bin/zookeeper-server-start.sh config/zookeeper.properties

[root@test_host zookeeper]# jps
9650 Jps
3098 QuorumPeerMain

啓動第一臺 Kafka server:

查看

config/server.properties:

    broker.id=0

    listeners=PLAINTEXT://:9092

    log.dirs=/tmp/kafka-log

 > bin/kafka-server-start.sh -daemon config/server.properties

啓動第二第三臺Kafka server:

1 2	> cp config/server.properties config/server-1.properties > cp config/server.properties config/server-2.properties

Now edit these new files and set the following properties:

1 2 3 4 5 6 7 8 9

config/server-1.properties:     broker.id=1     listeners=PLAINTEXT://:9093     log.dirs=/tmp/kafka-logs-1   config/server-2.properties:     broker.id=2     listeners=PLAINTEXT://:9094     log.dirs=/tmp/kafka-logs-2

> bin/kafka-server-start.sh config/server-1.properties &

...

> bin/kafka-server-start.sh config/server-2.properties &

...

Now create a new topic with a replication factor of three:

> bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 3 --partitions 1 --topic my-replicated-topic

[root@test_host kafka_2.12-2.3.0]#  bin/kafka-topics.sh --describe --bootstrap-server localhost:9092 --topic my-replicated-topic
Topic:my-replicated-topic       PartitionCount:1        ReplicationFactor:3     Configs:segment.bytes=1073741824
        Topic: my-replicated-topic      Partition: 0    Leader: 2       Replicas: 0,2,1 Isr: 1,2,0

[root@test_host kafka_2.12-2.3.0]#  bin/kafka-console-producer.sh --broker-list localhost:9093 --topic my-replicated-topic

>my test message1

>my test message2

>^C

[root@test_host kafka_2.12-2.3.0]#  bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --from-beginning --topic my-replicated-topic
my test message1
my test message2

目前一切正常。

爲了測試高可靠性，現在殺掉第一臺kafka server.

[root@test_host kafka_2.12-2.3.0]# ps aux | grep server.properties

找到kafka的進程id, kill -9 id。

查看topic狀態

[root@test_host kafka_2.12-2.3.0]#  bin/kafka-topics.sh --describe --bootstrap-server localhost:9093 --topic my-replicated-topic         Topic:my-replicated-topic       PartitionCount:1        ReplicationFactor:3     Configs:segment.bytes=1073741824
        Topic: my-replicated-topic      Partition: 0    Leader: 2       Replicas: 0,2,1 Isr: 1,2

發現broker.id=1,broker.id=2的broker活躍，id=0的broker已經不再Isr中。

這時測試生產和消費消息

[root@test_host kafka_2.12-2.3.0]# bin/kafka-console-producer.sh --broker-list localhost:9093 --topic my-replicated-topic  

>message3
>message4

(broker0已經殺掉了，此處連9092肯定失敗，所以連broker1的端口9093。）

生產看來沒有問題。但是消費端問題來了。

 [root@test_host kafka_2.12-2.3.0]#  bin/kafka-console-consumer.sh --bootstrap-server localhost:9093 --from-beginning --topic my-replicd-topic
收不到任何消息。等多久都收不到。啊，啊，啊！Why? 換9094端口也是這樣。哪裏沒有配置對嗎？

如果此時把第一臺broker啓動，一切又恢復正常。