java B2B2C源碼電子商城系統-Kafka快速入門

大家對Kafka有了一些基本瞭解之後,下面我們來嘗試構建一個Kafka服務端,並體驗一下基於Kafka的消息生產與消費。
需要JAVA Spring Cloud大型企業分佈式微服務雲構建的B2B2C電子商務平臺源碼
環境安裝
首先,我們需要從官網上下載安裝介質。
在解壓Kafka的安裝包之後,可以看到其目錄結構如下:

kafka
  +-bin
    +-windows
  +-config
  +-libs
  +-logs
  +-site-docs

由於Kafka的設計中依賴了ZooKeeper,所以我們可以在bin和config目錄中除了看到Kafka相關的內容之外,還有ZooKeeper相關的內容。其中bin目錄存放了Kafka和ZooKeeper的命令行工具,bin根目錄下是適用於Linux/Unix的shell,而bin/windows下的則是適用於windows下的bat。我們可以根據實際的系統來設置環境變量,以方便後續的使用和操作。而在config目錄中,則是用來存放了關於Kafka與ZooKeeper的配置信息。

啓動測試
下面我們來嘗試啓動ZooKeeper和Kafka來進行消息的生產和消費。示例中所有的命令均已配置了Kafka的環境變量爲例。

啓動ZooKeeper,執行命令:zookeeper-server-start config/zookeeper.properties,該命令需要指定zookeeper的配置文件位置才能正確啓動,kafka的壓縮包中包含了其默認配置,開發與測試環境不需要修改。

[2016-09-28 08:05:34,849] INFO Reading configuration from: config\zookeeper.properties (org.apache.zookeeper.server.quorum.QuorumPeerConfig)
[2016-09-28 08:05:34,850] INFO autopurge.snapRetainCount set to 3 (org.apache.zookeeper.server.DatadirCleanupManager)
[2016-09-28 08:05:34,851] INFO autopurge.purgeInterval set to 0 (org.apache.zookeeper.server.DatadirCleanupManager)
[2016-09-28 08:05:34,851] INFO Purge task is not scheduled. (org.apache.zookeeper.server.DatadirCleanupManager)
...
[2016-09-28 08:05:34,940] INFO binding to port 0.0.0.0/0.0.0.0:2181 (org.apache.zookeeper.server.NIOServerCnxnFactory)

從控制檯信息中,我們可以看到ZooKeeper從指定的config/zookeeper.properties配置文件中讀取信息並綁定2181端口啓動服務。有時候啓動失敗,可查看一下端口是否被佔用,可以殺掉佔用進程或通過修改config/zookeeper.properties配置文件中的clientPort內容以綁定其他端口號來啓動ZooKeeper。

啓動Kafka,執行命令:kafka-server-start config/server.properties,該命令也需要指定Kafka配置文件的正確位置,如上命令中指向瞭解壓目錄包含的默認配置。若在測試時,使用外部集中環境的ZooKeeper的話,我們可以在該配置文件中通過zookeeper.connect參數來設置ZooKeeper的地址和端口,它默認會連接本地2181端口的ZooKeeper;如果需要設置多個ZooKeeper節點,可以爲這個參數配置多個ZooKeeper地址,並用逗號分割。比如:zookeeper.connect=127.0.0.1:3000,127.0.0.1:3001,127.0.0.1:3002。

創建Topic,執行命令:kafka-topics --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test,通過該命令,創建一個名爲“test”的Topic,該Topic包含一個分區一個Replica。在創建完成後,可以使用kafka-topics --list --zookeeper localhost:2181命令來查看當前的Topic。

另外,如果我們不使用kafka-topics命令來手工創建,直接進行下面的內容進行消息創建時也會自動創建Topics來使用。

創建消息生產者,執行命令:kafka-console-producer --broker-list localhost:9092 --topic test。kafka-console-producer命令可以啓動Kafka基於命令行的消息生產客戶端,啓動後可以直接在控制檯中輸入消息來發送,控制檯中的每一行數據都會被視爲一條消息來發送。我們可以嘗試輸入幾行消息,由於此時並沒有消費者,所以這些輸入的消息都會被阻塞在名爲test的Topics中,直到有消費者將其消費掉位置。

創建消息消費者,執行命令:kafka-console-consumer --zookeeper localhost:2181 --topic test --from-beginning。kafka-console-consumer命令啓動的是Kafka基於命令行的消息消費客戶端,在啓動之後,我們馬上可以在控制檯中看到輸出了之前我們在消息生產客戶端中發送的消息。我們可以再次打開之前的消息生產客戶端來發送消息,並觀察消費者這邊對消息的輸出來體驗Kafka對消息的基礎處理。

整合Spring Cloud Bus
在上一篇使用Rabbit實現消息總線的案例中,我們已經通過引入spring-cloud-starter-bus-amqp模塊,完成了使用RabbitMQ來實現的消息總線。若我們要使用Kafka來實現消息總線時,只需要把spring-cloud-starter-bus-amqp替換成spring-cloud-starter-bus-kafka模塊,在pom.xml的dependenies節點中進行修改,具體如下:

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-bus-kafka</artifactId>
</dependency>

如果我們在啓動Kafka時均採用了默認配置,那麼我們不需要再做任何其他配置就能在本地實現從RabbitMQ到Kafka的切換。我們可以嘗試把剛剛搭建的ZooKeeper、Kafka啓動起來,並將修改爲spring-cloud-starter-bus-kafka模塊的config-server和config-client啓動起來。

在config-server啓動時,我們可以在控制檯中看到如下輸出:

2016-09-28 22:11:29.627  INFO 15144 --- [           main] o.s.c.s.b.k.KafkaMessageChannelBinder    : Using kafka topic for outbound: springCloudBus
2016-09-28 22:11:29.642  INFO 15144 --- [-localhost:2181] org.I0Itec.zkclient.ZkEventThread        : Starting ZkClient event thread.
...
016-09-28 22:11:30.290  INFO 15144 --- [           main] o.s.i.kafka.support.ProducerFactoryBean  : Using producer properties => {bootstrap.servers=localhost:9092, linger.ms=0, acks=1, compression.type=none, batch.size=16384}
2016-09-28 22:11:30.298  INFO 15144 --- [           main] o.a.k.clients.producer.ProducerConfig    : ProducerConfig values:
...
2016-09-28 22:11:30.322  INFO 15144 --- [           main] o.s.c.s.b.k.KafkaMessageChannelBinder$1  : Adding {message-handler:outbound.springCloudBus} as a subscriber to the 'springCloudBusOutput' channel
2016-09-28 22:11:31.467  INFO 15144 --- [           main] o.s.c.s.b.k.KafkaMessageChannelBinder$7  : Adding {message-handler:inbound.springCloudBus.anonymous.8b9e6c7b-6a50-48c5-b981-8282a0d5a30b} as a subscriber to the 'bridge.springCloudBus' channel
2016-09-28 22:11:31.467  INFO 15144 --- [           main] o.s.c.s.b.k.KafkaMessageChannelBinder$7  : started inbound.springCloudBus.anonymous.8b9e6c7b-6a50-48c5-b981-8282a0d5a30b

從控制檯的輸出內容,我們可以看到config-server連接到了Kafka中,並使用了名爲springCloudBus的Topic。

此時,我們可以使用kafka-topics --list --zookeeper localhost:2181命令來查看當前Kafka中的Topic,若已成功啓動了config-server並配置正確,我們就可以在Kafka中看到已經多了一個名爲springCloudBus的Topic。

我們再啓動配置了spring-cloud-starter-bus-kafka模塊的config-client,可以看到控制檯中輸出如下內容:

2016-09-28 22:43:55.067  INFO 6136 --- [           main] o.s.c.s.b.k.KafkaMessageChannelBinder    : Using kafka topic for outbound: springCloudBus
2016-09-28 22:43:55.078  INFO 6136 --- [-localhost:2181] org.I0Itec.zkclient.ZkEventThread        : Starting ZkClient event thread.
...
2016-09-28 22:50:38.584  INFO 828 --- [           main] o.s.i.kafka.support.ProducerFactoryBean  : Using producer properties => {bootstrap.servers=localhost:9092, linger.ms=0, acks=1, compression.type=none, batch.size=16384}
2016-09-28 22:50:38.592  INFO 828 --- [           main] o.a.k.clients.producer.ProducerConfig    : ProducerConfig values: 
...
2016-09-28 22:50:38.615  INFO 828 --- [           main] o.s.c.s.b.k.KafkaMessageChannelBinder$1  : Adding {message-handler:outbound.springCloudBus} as a subscriber to the 'springCloudBusOutput' channel
2016-09-28 22:50:38.616  INFO 828 --- [           main] o.s.integration.channel.DirectChannel    : Channel 'didispace:7002.springCloudBusOutput' has 1 subscriber(s).
2016-09-28 22:50:38.616  INFO 828 --- [           main] o.s.c.s.b.k.KafkaMessageChannelBinder$1  : started outbound.springCloudBus
...
2016-09-28 22:50:39.162  INFO 828 --- [           main] s.i.k.i.KafkaMessageDrivenChannelAdapter : started org.springframework.integration.kafka.inbound.KafkaMessageDrivenChannelAdapter@60cf855e
2016-09-28 22:50:39.162  INFO 828 --- [           main] o.s.c.s.b.k.KafkaMessageChannelBinder$7  : Adding {message-handler:inbound.springCloudBus.anonymous.f8fc9c0c-ccd3-46dd-9537-07198f4ee216} as a subscriber to the 'bridge.springCloudBus' channel
2016-09-28 22:50:39.163  INFO 828 --- [           main] o.s.c.s.b.k.KafkaMessageChannelBinder$7  : started inbound.springCloudBus.anonymous.f8fc9c0c-ccd3-46dd-9537-07198f4ee216

可以看到,config-client啓動時輸出了類似的內容,他們都訂閱了名爲springCloudBus的Topic。

在啓動了config-server和config-client之後,爲了更明顯地觀察消息總線刷新配置的效果,我們可以在本地啓動多個不同端口的config-client。此時,我們的config-server以及多個config-client都已經連接到了由Kafka實現的消息總線上。我們可以先訪問各個config-client上的/from請求,查看他獲取到的配置內容。然後,修改Git中對應的參數內容,再訪問各個config-client上的/from請求,可以看到配置內容並沒有改變。最後,我們向config-server發送POST請求:/bus/refresh,此時我們再去訪問各個config-client上的/from請求,就能獲得到最新的配置信息,各客戶端上的配置都已經加載爲最新的Git配置內容。

從config-client的控制檯中,我們可以看到如下內容:

2016-09-29 08:20:34.361  INFO 21256 --- [ kafka-binder-1] o.s.cloud.bus.event.RefreshListener      : Received remote refresh request. Keys refreshed [from]

RefreshListener監聽類記錄了收到遠程刷新請求,並刷新了from屬性的日誌。
在上面的例子中,由於Kafka、ZooKeeper均運行於本地,所以我們沒有在測試程序中通過配置信息來指定Kafka和ZooKeeper的配置信息,就完成了本地消息總線的試驗。但是我們實際應用中,Kafka和ZooKeeper一般都會獨立部署,所以在應用中都需要來爲Kafka和ZooKeeper配置一些連接信息等。Kafka的整合與RabbitMQ不同,在Spring Boot 1.3.7中並沒有直接提供的Starter模塊,而是採用了Spring Cloud Stream的Kafka模塊,所以對於Kafka的配置均採用了spring.cloud.stream.kafka的前綴。java B2B2C springmvc mybatis多租戶電子商城系統

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章