Kafka 使用命令行
1.搭建環境
在自己的Vmware上搭建一個kafka環境
-
1.下載kafka
-
2.啓動kafka自帶的zookeeper
進入kafka安裝目錄：
bin/zookeeper-server-start.sh config/zookeeper.properties -
啓動kafka服務
bin/kafka-server-start.sh config/server.properties
這樣的話 kafka服務就算起來了。
2.創建Topic
bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test
這裏創建了一個名爲“test”的topic
確認一下創建是否成功：
bin/kafka-topics.sh --list --bootstrap-server localhost:9092
test
CLI顯示了test 說明創建成功
3.producer寫入消息
這裏是用linux命令寫入消息
bin/kafka-console-producer.sh --bootstrap-server localhost:9092 --topic test
This is a message
This is another message
輸入兩行消息之後，ctrl + c退出輸入 （每輸入一行，按回車時就是將消息寫入kafka）
4.consumer消費消息
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic ``test–from-beginning
This is a message
This is another message
這裏可以看見 consumer消費了之前producer生產的消息
kafka 使用JAVA API
複用剛纔的環境
只需要編寫producer的程序和consumer的程序即可
1.java Producer
public class MyKafkaProducer {
public static void main(String[] args) {
Properties props = new Properties();
props.put("bootstrap.servers", "192.168.179.4:9092");
props.put("acks", "all");
props.put("retries", 0);
props.put("batch.size", 16384);
props.put("linger.ms", 1);
props.put("buffer.memory", 33554432);
props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");
Producer<String, String> producer = new KafkaProducer<>(props);
for(int i = 0; i < 100; i++) {
producer.send(new ProducerRecord<String, String>("test", Integer.toString(i), Integer.toString(i)));
System.out.println("向topic-\"test\"中寫入 " + "i");
}
producer.close();
}
}
2.java Consumer
public class MyKafkaConsumer {
public static void main(String[] args) {
Properties props = new Properties();
props.put("bootstrap.servers", "192.168.179.4:9092");
props.put("group.id", "test");
props.put("enable.auto.commit", "true");
props.put("auto.commit.interval.ms", "1000");
props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props);
consumer.subscribe(Arrays.asList("test"));
while (true) {
ConsumerRecords<String, String> records = consumer.poll(100);
for (ConsumerRecord<String, String> record : records)
System.out.printf("offset = %d, key = %s, value = %s%n", record.offset(), record.key(), record.value());
}
}
}
先啓動Consumer，再啓動Producer,這樣可以更直觀的觀察寫入消息到topic
問題解決
剛開始寫的時候，程序一直沒有輸出，到處找原因，還以爲是kafka環境有問題。
先是ping 虛擬機 ，能通
然後去檢查kafka環境
都沒問題
後面纔想到可能是端口沒開放
然後telnet 192.168.179.4 9092 發現不通
這才找到問題 給虛擬機開放了端口之後就好了