文章目錄
- 導入MQ客戶端依賴
<dependency>
<groupId>org.apache.rocketmq</groupId>
<artifactId>rocketmq-client</artifactId>
<version>4.4.0</version>
</dependency>
- 消息發送者步驟分析
1.創建消息生產者producer,並制定生產者組名
2.指定Nameserver地址
3.啓動producer
4.創建消息對象,指定主題Topic、Tag和消息體
5.發送消息
6.關閉生產者produce
- 消息消費者步驟分析
1.創建消費者Consumer,制定消費者組名
2.指定Nameserver地址
3.訂閱主題Topic和Tag
4.設置回調函數,處理消息
5.啓動消費者consumer
4.1、基本樣例
4.1.1、消息發送
1)發送同步消息
這種可靠性同步地發送方式使用的比較廣泛,比如:重要的消息通知,短信通知。
package com.zj.base.producer;
import org.apache.rocketmq.client.exception.MQBrokerException;
import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.client.producer.DefaultMQProducer;
import org.apache.rocketmq.client.producer.SendResult;
import org.apache.rocketmq.client.producer.SendStatus;
import org.apache.rocketmq.common.message.Message;
import org.apache.rocketmq.remoting.exception.RemotingException;
import java.util.concurrent.TimeUnit;
/**
* @Author Zhou jian
* @Date 2020 ${month} 2020/5/17 0017 14:50
* 發送同步消息
*/
public class SynProducer {
public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {
// 1.創建消息生產者producer,並制定生產者組名
DefaultMQProducer producer = new DefaultMQProducer("group1");
// 2.指定Nameserver地址
producer.setNamesrvAddr("47.98.144.17:9876;49.235.221.86:9876");
// 3.啓動producer
producer.start();
// 4.創建消息對象,指定主題Topic、Tag和消息體
for(int i=0;i<10;i++){
/**
* 參數一:消息主題topic
* 參數二:消息tag
* 參數三:消息內容
*/
Message message = new Message("base","Tag1",("Hello wold"+(i)).getBytes());
// 5、發送消息(SendResult是broker會送給客戶端的數據)
SendResult result = producer.send(message);
//發送狀態
SendStatus sendStatus =result.getSendStatus();
//消息ID
String msgId = result.getMsgId();
//消息隊列
int queueId = result.getMessageQueue().getQueueId();
System.out.println("發送裝藥"+result+",消息ID"+msgId+",隊列"+queueId);
// TimeUnit.SECONDS.sleep(1);//線程睡1s
}
//
// 6.關閉生產者producer
producer.shutdown();
}
}
2)發送異步消息
異步消息通常用在對響應時間敏感的業務場景,即發送端不能容忍長時間地等待Broker的響應。
package com.zj.base.producer;
import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.client.producer.DefaultMQProducer;
import org.apache.rocketmq.client.producer.SendCallback;
import org.apache.rocketmq.client.producer.SendResult;
import org.apache.rocketmq.common.message.Message;
import org.apache.rocketmq.remoting.common.RemotingHelper;
import org.apache.rocketmq.remoting.exception.RemotingException;
import java.io.UnsupportedEncodingException;
import java.util.concurrent.TimeUnit;
/**
* @Author Zhou jian
* @Date 2020 ${month} 2020/5/17 0017 15:45
* 異步消息 通常用在對響應時間敏感的業務場景,
* 即發送端不能容忍長時間的等待Broker的響應
*/
public class AsyncProducer {
public static void main(String[] args) throws MQClientException, UnsupportedEncodingException, RemotingException, InterruptedException {
// 實例化消息生產者Producer
DefaultMQProducer producer = new DefaultMQProducer("group1");
//設置NameServer的地址
producer.setNamesrvAddr("47.98.144.17:9876;49.235.221.86:9876");
//啓動producer實例
producer.start();
producer.setRetryTimesWhenSendAsyncFailed(0);
for(int i=0;i<100;i++){
final int index = i;
//創建消息,並指定Topic,Tag和消息體
Message msg = new Message("TopicTest",
"TagA",
"OrderID188",
"Hello world".getBytes(RemotingHelper.DEFAULT_CHARSET)
);
//SendCallback接受異步返回結果的回調
producer.send(msg, new SendCallback() {
//發送成功回調函數
public void onSuccess(SendResult sendResult) {
// System.out.printf("%-10d OK %s %n",index,sendResult.getMsgId());
System.out.println("發送結果:"+sendResult);
}
//發送失敗回調函數
public void onException(Throwable throwable) {
// System.out.printf("%-10d Exception %s %n",index,throwable);
System.out.println("發送異常"+throwable);
}
});
TimeUnit.SECONDS.sleep(1);
}
producer.shutdown();
}
}
3)單向發送消息
這種方式主要用在不特別關心發送結果的場景,例如日誌發送。
package com.zj.base.producer;
import org.apache.rocketmq.client.exception.MQBrokerException;
import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.client.producer.DefaultMQProducer;
import org.apache.rocketmq.client.producer.SendResult;
import org.apache.rocketmq.client.producer.SendStatus;
import org.apache.rocketmq.common.message.Message;
import org.apache.rocketmq.remoting.exception.RemotingException;
import java.util.concurrent.TimeUnit;
/**
* @Author Zhou jian
* @Date 2020 ${month} 2020/5/17 0017 16:21
* 發送單向消息
*
*/
public class OneWayProducer {
public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {
// 1.創建消息生產者producer,並制定生產者組名
DefaultMQProducer producer = new DefaultMQProducer("group1");
// 2.指定Nameserver地址
producer.setNamesrvAddr("47.98.144.17:9876;49.235.221.86:9876");
// 3.啓動producer
producer.start();
// 4.創建消息對象,指定主題Topic、Tag和消息體
for(int i=0;i<10;i++){
/**
* 參數一:消息主題topic
* 參數二:消息tag
* 參數三:消息內容
*/
Message message = new Message("base","Tag3",("Hello wold,單向消息"+(i)).getBytes());
// 5、發送單向消息
producer.sendOneway(message);
TimeUnit.SECONDS.sleep(1);//線程睡1s
}
//
// 6.關閉生產者producer
producer.shutdown();
}
}
4.1.2 消費消息
1)負載均衡模式(默認)
消費者採用負載均衡方式消費消息,多個消費者共同消費隊列消息,每個消費者處理的消息不同
package com.zj.base.consumer;
import org.apache.rocketmq.client.consumer.DefaultMQPushConsumer;
import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyContext;
import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyStatus;
import org.apache.rocketmq.client.consumer.listener.MessageListenerConcurrently;
import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.common.message.Message;
import org.apache.rocketmq.common.message.MessageExt;
import org.apache.rocketmq.common.protocol.heartbeat.MessageModel;
import java.util.List;
/**
* @Author Zhou jian
* @Date 2020 ${month} 2020/5/17 0017 16:30
* 消息的接受者
*/
public class Consumer {
public static void main(String[] args) throws MQClientException {
// 1.創建消費者Consumer,制定消費者組名
DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("group1");
// 2.指定Nameserver地址
consumer.setNamesrvAddr("47.98.144.17:9876;49.235.221.86:9876");
// 3.訂閱主題Topic和Tag
consumer.subscribe("base","Tag1");
//設定消費模式:負載均衡|廣播模式
//默認是負載均衡模式
consumer.setMessageModel(MessageModel.BROADCASTING);
// 4.設置回調函數,處理消息
consumer.registerMessageListener(new MessageListenerConcurrently() {
//接受消息內容的方法
public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext consumeConcurrentlyContext) {
for(MessageExt msg:list){
System.out.println(new String(msg.getBody()));
}
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
}
});
// 5.啓動消費者consumer
consumer.start();
System.out.println("消費者啓動");
}
}
4.2、順序消息
消息有序指的是可以按照消息的發送順序來消費(FIFO)。RocketMQ可以嚴格的保證消息有序,可以分爲分區有序或者全局有序。
順序消費的原理解析,在默認的情況下消息發送會採取Round Robin輪詢方式把消息發送到不同的queue(分區隊列);而消費消息的時候從多個queue上拉取消息,這種情況發送和消費是不能保證順序。但是如果控制發送的順序消息只依次發送到同一個queue中,消費的時候只從這個queue上依次拉取,則就保證了順序。當發送和消費參與的queue只有一個,則是全局有序;如果多個queue參與,則爲分區有序,即相對每個queue,消息都是有序的。
下面用訂單進行分區有序的示例。一個訂單的順序流程是:創建
、付款
、推送
、完成
。訂單號相同的消息會被先後發送到同一個隊列中,
消費時,同一個OrderId獲取到的肯定是同一個隊列。
4.2.1 順序消息生產
package com.zj.order;
import java.util.ArrayList;
import java.util.List;
/**
* @Author Zhou jian
* @Date 2020 ${month} 2020/5/17 0017 16:56
*/
public class OrderStep {
private long orderId;
private String desc;
public long getOrderId() {
return orderId;
}
public void setOrderId(long orderId) {
this.orderId = orderId;
}
public String getDesc() {
return desc;
}
public void setDesc(String desc) {
this.desc = desc;
}
@Override
public String toString() {
return "OrderStep{" +
"orderId=" + orderId +
", desc='" + desc + '\'' +
'}';
}
/**
* 生成模擬訂單數據
*/
public static List<OrderStep> buildOrders() {
List<OrderStep> orderList = new ArrayList<OrderStep>();
//1039:創建 付款 推送 完成
//1065 創建 付款
//7235 創建 付款
OrderStep orderDemo = new OrderStep();
orderDemo.setOrderId(15103111039L);
orderDemo.setDesc("創建");
orderList.add(orderDemo);
orderDemo = new OrderStep();
orderDemo.setOrderId(15103111065L);
orderDemo.setDesc("創建");
orderList.add(orderDemo);
orderDemo = new OrderStep();
orderDemo.setOrderId(15103111039L);
orderDemo.setDesc("付款");
orderList.add(orderDemo);
orderDemo = new OrderStep();
orderDemo.setOrderId(15103117235L);
orderDemo.setDesc("創建");
orderList.add(orderDemo);
orderDemo = new OrderStep();
orderDemo.setOrderId(15103111065L);
orderDemo.setDesc("付款");
orderList.add(orderDemo);
orderDemo = new OrderStep();
orderDemo.setOrderId(15103117235L);
orderDemo.setDesc("付款");
orderList.add(orderDemo);
orderDemo = new OrderStep();
orderDemo.setOrderId(15103111065L);
orderDemo.setDesc("完成");
orderList.add(orderDemo);
orderDemo = new OrderStep();
orderDemo.setOrderId(15103111039L);
orderDemo.setDesc("推送");
orderList.add(orderDemo);
orderDemo = new OrderStep();
orderDemo.setOrderId(15103117235L);
orderDemo.setDesc("完成");
orderList.add(orderDemo);
orderDemo = new OrderStep();
orderDemo.setOrderId(15103111039L);
orderDemo.setDesc("完成");
orderList.add(orderDemo);
return orderList;
}
}
package com.zj.order;
import org.apache.rocketmq.client.exception.MQBrokerException;
import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.client.producer.DefaultMQProducer;
import org.apache.rocketmq.client.producer.MessageQueueSelector;
import org.apache.rocketmq.client.producer.SendResult;
import org.apache.rocketmq.common.message.Message;
import org.apache.rocketmq.common.message.MessageQueue;
import org.apache.rocketmq.remoting.exception.RemotingException;
import java.util.List;
/**
* @Author Zhou jian
* @Date 2020 ${month} 2020/5/17 0017 16:59
*/
public class Producer {
public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {
// 1.創建消息生產者producer,並制定生產者組名
DefaultMQProducer producer = new DefaultMQProducer("group1");
// 2.指定Nameserver地址
producer.setNamesrvAddr("47.98.144.17:9876;49.235.221.86:9876");
// 3.啓動producer
producer.start();
//獲取訂單
List<OrderStep> orderSteps = OrderStep.buildOrders();
//發送消息:同一個訂單的ID發送到同一個隊列中
for(int i=0;i<orderSteps.size();i++){
String body = orderSteps.get(i)+"";
//構建消息對象
Message msg = new Message("OrderTopic","Order","i"+i,body.getBytes());
//參數1消息對象
// 參數2:消息隊列的選擇器
//參數3:選擇隊列的業務標誌(訂單ID)
SendResult sendResult = producer.send(msg, new MessageQueueSelector() {
/**
*
* @param list 隊列集合
* @param message 消息對象
* @param o 參數,業務參數
* @return
*讓同一個訂單id在一個隊列中,當然隊列中還有其他訂單id的消息
* 只要是訂單ID一樣則選擇的消息隊列是一樣的
*/
public MessageQueue select(List<MessageQueue> list, Message message, Object o) {
long orderId = (Long)o;
long index = orderId%list.size();
return list.get((int)index);
}
},orderSteps.get(i).getOrderId());
System.out.println("fas結果"+sendResult);
}
producer.shutdown();
}
}
4.2.2 順序消費消息
package com.zj.order;
import org.apache.rocketmq.client.consumer.DefaultMQPushConsumer;
import org.apache.rocketmq.client.consumer.listener.*;
import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.common.message.MessageExt;
import org.apache.rocketmq.common.protocol.heartbeat.MessageModel;
import java.util.List;
/**
* @Author Zhou jian
* @Date 2020 ${month} 2020/5/17 0017 17:19
*/
public class Consumer {
public static void main(String[] args) throws MQClientException {
// 1.創建消費者Consumer,制定消費者組名
DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("group1");
// 2.指定Nameserver地址
consumer.setNamesrvAddr("47.98.144.17:9876;49.235.221.86:9876");
// 3.訂閱主題Topic和Tag
consumer.subscribe("OrderTopic","*");
//設定消費模式:負載均衡|廣播模式
//默認是負載均衡模式
// consumer.setMessageModel(MessageModel.BROADCASTING);
// 4.設置回調函數,處理消息 註冊消息監聽器
consumer.registerMessageListener(new MessageListenerOrderly() {
public ConsumeOrderlyStatus consumeMessage(List<MessageExt> list, ConsumeOrderlyContext consumeOrderlyContext) {
for(MessageExt msg:list){
System.out.println(Thread.currentThread().getName()+"消費消息"+new String(msg.getBody()));
}
return ConsumeOrderlyStatus.SUCCESS;
}
});
// 5.啓動消費者consumer
consumer.start();
System.out.println("消費者啓動");
}
}
4.3、消息延時
比如電商裏,提交了一個訂單就可以發送一個延時消息,1h後去檢查這個訂單的狀態,如果還是未付款就取消訂單釋放庫存。
4.3.1、 啓動消息消費者
package com.zj.delay;
import org.apache.rocketmq.client.exception.MQBrokerException;
import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.client.producer.DefaultMQProducer;
import org.apache.rocketmq.client.producer.SendResult;
import org.apache.rocketmq.client.producer.SendStatus;
import org.apache.rocketmq.common.message.Message;
import org.apache.rocketmq.remoting.exception.RemotingException;
/**
* @Author Zhou jian
* @Date 2020 ${month} 2020/5/17 0017 17:28
*/
public class Producer {
public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {
// 1.創建消息生產者producer,並制定生產者組名
DefaultMQProducer producer = new DefaultMQProducer("group1");
// 2.指定Nameserver地址
producer.setNamesrvAddr("47.98.144.17:9876;49.235.221.86:9876");
// 3.啓動producer
producer.start();
// 4.創建消息對象,指定主題Topic、Tag和消息體
for(int i=0;i<10;i++){
/**
* 參數一:消息主題topic
* 參數二:消息tag
* 參數三:消息內容
*/
Message message = new Message("DelayTopic","Tag1",("Hello wold"+(i)).getBytes());
message.setDelayTimeLevel(2);//設置延遲時間
// 5、發送消息(SendResult是broker會送給客戶端的數據)
SendResult result = producer.send(message);
//發送狀態
SendStatus sendStatus =result.getSendStatus();
//消息ID
String msgId = result.getMsgId();
//消息隊列
int queueId = result.getMessageQueue().getQueueId();
System.out.println("發送裝藥"+result+",消息ID"+msgId+",隊列"+queueId);
// TimeUnit.SECONDS.sleep(1);//線程睡1s
}
//
// 6.關閉生產者producer
producer.shutdown();
}
}
4.3.2、發送延時消息
package com.zj.delay;
import org.apache.rocketmq.client.consumer.DefaultMQPushConsumer;
import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyContext;
import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyStatus;
import org.apache.rocketmq.client.consumer.listener.MessageListenerConcurrently;
import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.common.message.MessageExt;
import org.apache.rocketmq.common.protocol.heartbeat.MessageModel;
import java.util.List;
/**
* @Author Zhou jian
* @Date 2020 ${month} 2020/5/17 0017 17:28
*/
public class Consumer {
public static void main(String[] args) throws MQClientException {
// 1.創建消費者Consumer,制定消費者組名
DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("group1");
// 2.指定Nameserver地址
consumer.setNamesrvAddr("47.98.144.17:9876;49.235.221.86:9876");
// 3.訂閱主題Topic和Tag
consumer.subscribe("DelayTopic","Tag1");
//設定消費模式:負載均衡|廣播模式
//默認是負載均衡模式
// consumer.setMessageModel(MessageModel.BROADCASTING);
// 4.設置回調函數,處理消息
consumer.registerMessageListener(new MessageListenerConcurrently() {
//接受消息內容的方法
public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext consumeConcurrentlyContext) {
for(MessageExt msg:list){
System.out.println("消息Id"+msg.getMsgId()+"延遲時間"+(System.currentTimeMillis()-msg.getStoreTimestamp()));
}
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
}
});
// 5.啓動消費者consumer
consumer.start();
System.out.println("消費者秋冬");
}
}
4.3.4、使用限制
// org/apache/rocketmq/store/config/MessageStoreConfig.java
private String messageDelayLevel = "1s 5s 10s 30s 1m 2m 3m 4m 5m 6m 7m 8m 9m 10m 20m 30m 1h 2h";
現在RocketMq並不支持任意時間的延時,需要設置幾個固定的延時等級,從1s到2h分別對應着等級1到18
4.4、批量信息
批量發送消息能顯著提高傳遞小消息的性能。限制是這些批量消息應該有相同的topic,相同的waitStoreMsgOK,而且不能是延時消息。此外,這一批消息的總大小不應超過4MB。
4.4.1 發送批量消息
package com.zj.batch;
import org.apache.rocketmq.client.exception.MQBrokerException;
import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.client.producer.DefaultMQProducer;
import org.apache.rocketmq.client.producer.SendResult;
import org.apache.rocketmq.client.producer.SendStatus;
import org.apache.rocketmq.common.message.Message;
import org.apache.rocketmq.remoting.exception.RemotingException;
import java.util.ArrayList;
import java.util.List;
/**
* @Author Zhou jian
* @Date 2020 ${month} 2020/5/17 0017 17:35
*/
public class Producer {
public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {
// 1.創建消息生產者producer,並制定生產者組名
DefaultMQProducer producer = new DefaultMQProducer("group1");
// 2.指定Nameserver地址
producer.setNamesrvAddr("47.98.144.17:9876;49.235.221.86:9876");
// 3.啓動producer
producer.start();
// 4.創建消息對象,指定主題Topic、Tag和消息體
List<Message> msgs = new ArrayList<Message>();
/**
* 參數一:消息主題topic
* 參數二:消息tag
* 參數三:消息內容
*/
Message msg1 = new Message("BatchTopic","Tag1",("Hello wold1").getBytes());
Message msg2 = new Message("BatchTopic","Tag1",("Hello wold2").getBytes());
Message msg3 = new Message("BatchTopic","Tag1",("Hello wold3").getBytes());
Message msg4 = new Message("BatchTopic","Tag1",("Hello wold4").getBytes());
msgs.add(msg1);
msgs.add(msg2);
msgs.add(msg3);
msgs.add(msg4);
// 5、發送消息(SendResult是broker會送給客戶端的數據)
SendResult result = producer.send(msgs);
//發送狀態
SendStatus sendStatus =result.getSendStatus();
//消息ID
String msgId = result.getMsgId();
//消息隊列
int queueId = result.getMessageQueue().getQueueId();
System.out.println("發送裝藥"+result+",消息ID"+msgId+",隊列"+queueId);
// TimeUnit.SECONDS.sleep(1);//線程睡1s
//
// 6.關閉生產者producer
producer.shutdown();
}
}
4.4.2、接受信息
package com.zj.batch;
import org.apache.rocketmq.client.consumer.DefaultMQPushConsumer;
import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyContext;
import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyStatus;
import org.apache.rocketmq.client.consumer.listener.MessageListenerConcurrently;
import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.common.message.MessageExt;
import org.apache.rocketmq.common.protocol.heartbeat.MessageModel;
import java.util.List;
/**
* @Author Zhou jian
* @Date 2020 ${month} 2020/5/17 0017 17:35
*/
public class Consumer {
public static void main(String[] args) throws MQClientException {
// 1.創建消費者Consumer,制定消費者組名
DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("group1");
// 2.指定Nameserver地址
consumer.setNamesrvAddr("47.98.144.17:9876;49.235.221.86:9876");
// 3.訂閱主題Topic和Tag
consumer.subscribe("BatchTopic","Tag1");
//設定消費模式:負載均衡|廣播模式
//默認是負載均衡模式
// consumer.setMessageModel(MessageModel.BROADCASTING);
// 4.設置回調函數,處理消息
consumer.registerMessageListener(new MessageListenerConcurrently() {
//接受消息內容的方法
public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext consumeConcurrentlyContext) {
for(MessageExt msg:list){
System.out.println(new String(msg.getBody()));
}
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
}
});
// 5.啓動消費者consumer
consumer.start();
System.out.println("消費者啓動");
}
}
4.5、過濾消息
在大多數情況下,TAG是一個簡單而有用的設計,其可以來選擇您想要的消息。例如:
DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("CID_EXAMPLE");
consumer.subscribe("TOPIC", "TAGA || TAGB || TAGC");
消費者將接收包含TAGA或TAGB或TAGC的消息。但是限制是一個消息只能有一個標籤,這對於複雜的場景可能不起作用。在這種情況下,可以使用SQL表達式篩選消息。SQL特性可以通過發送消息時的屬性來進行計算。在RocketMQ定義的語法下,可以實現一些簡單的邏輯。下面是一個例子:
------------
| message |
|----------| a > 5 AND b = 'abc'
| a = 10 | --------------------> Gotten
| b = 'abc'|
| c = true |
------------
------------
| message |
|----------| a > 5 AND b = 'abc'
| a = 1 | --------------------> Missed
| b = 'abc'|
| c = true |
------------
4.5.1 SQL基本語法
RocketMQ只定義了一些基本語法來支持這個特性。你也可以很容易地擴展它。
- 數值比較,比如:>,>=,<,<=,BETWEEN,=;
- 字符比較,比如:=,<>,IN;
- IS NULL 或者 IS NOT NULL;
- 邏輯符號 AND,OR,NOT;
常量支持類型爲:
- 數值,比如:123,3.1415;
- 字符,比如:‘abc’,必須用單引號包裹起來;
- NULL,特殊的常量
- 布爾值,TRUE 或 FALSE
只有使用push模式的消費者才能用使用SQL92標準的sql語句,接口如下:
public void subscribe(finalString topic, final MessageSelector messageSelector)
4.5.2 消息生產者
發送消息時,你能通過putUserProperty
來設置消息的屬性
DefaultMQProducer producer = new DefaultMQProducer("please_rename_unique_group_name");
producer.start();
Message msg = new Message("TopicTest",
tag,
("Hello RocketMQ " + i).getBytes(RemotingHelper.DEFAULT_CHARSET)
);
// 設置一些屬性
msg.putUserProperty("a", String.valueOf(i));
SendResult sendResult = producer.send(msg);
producer.shutdown();
4.5.3 消息消費者
用MessageSelector.bySql來使用sql篩選消息
DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("please_rename_unique_group_name_4");
// 只有訂閱的消息有這個屬性a, a >=0 and a <= 3
consumer.subscribe("TopicTest", MessageSelector.bySql("a between 0 and 3");
consumer.registerMessageListener(new MessageListenerConcurrently() {
@Override
public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> msgs, ConsumeConcurrentlyContext context) {
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
}
});
consumer.start();
4.6 事務消息
上圖說明了事務消息的大致方案,其中分爲兩個流程:正常事務消息的發送及提交、事務消息的補償流程。
1)事務消息發送及提交
(1) 發送消息(half消息)。
(2) 服務端響應消息寫入結果。
(3) 根據發送結果執行本地事務(如果寫入失敗,此時half消息對業務不可見,本地邏輯不執行)。
(4) 根據本地事務狀態執行Commit或者Rollback(Commit操作生成消息索引,消息對消費者可見)
2)事務補償
(1) 對沒有Commit/Rollback的事務消息(pending狀態的消息),從服務端發起一次“回查”
(2) Producer收到回查消息,檢查回查消息對應的本地事務的狀態
(3) 根據本地事務狀態,重新Commit或者Rollback
其中,補償階段用於解決消息Commit或者Rollback發生超時或者失敗的情況。
3)事務消息狀態
事務消息共有三種狀態,提交狀態、回滾狀態、中間狀態:
- TransactionStatus.CommitTransaction: 提交事務,它允許消費者消費此消息。
- TransactionStatus.RollbackTransaction: 回滾事務,它代表該消息將被刪除,不允許被消費。
- TransactionStatus.Unknown: 中間狀態,它代表需要檢查消息隊列來確定狀態。
4.6.1 發送事務消息
1) 創建事務性生產者
使用 TransactionMQProducer
類創建生產者,並指定唯一的 ProducerGroup
,就可以設置自定義線程池來處理這些檢查請求。執行本地事務後、需要根據執行結果對消息隊列進行回覆。回傳的事務狀態在請參考前一節。
public class Producer {
public static void main(String[] args) throws MQClientException, InterruptedException {
//創建事務監聽器
TransactionListener transactionListener = new TransactionListenerImpl();
//創建消息生產者
TransactionMQProducer producer = new TransactionMQProducer("group6");
producer.setNamesrvAddr("192.168.25.135:9876;192.168.25.138:9876");
//生產者這是監聽器
producer.setTransactionListener(transactionListener);
//啓動消息生產者
producer.start();
String[] tags = new String[]{"TagA", "TagB", "TagC"};
for (int i = 0; i < 3; i++) {
try {
Message msg = new Message("TransactionTopic", tags[i % tags.length], "KEY" + i,
("Hello RocketMQ " + i).getBytes(RemotingHelper.DEFAULT_CHARSET));
SendResult sendResult = producer.sendMessageInTransaction(msg, null);
System.out.printf("%s%n", sendResult);
TimeUnit.SECONDS.sleep(1);
} catch (MQClientException | UnsupportedEncodingException e) {
e.printStackTrace();
}
}
//producer.shutdown();
}
}
2)實現事務的監聽接口
當發送半消息成功時,我們使用 executeLocalTransaction
方法來執行本地事務。它返回前一節中提到的三個事務狀態之一。checkLocalTranscation
方法用於檢查本地事務狀態,並回應消息隊列的檢查請求。它也是返回前一節中提到的三個事務狀態之一。
public class TransactionListenerImpl implements TransactionListener {
@Override
public LocalTransactionState executeLocalTransaction(Message msg, Object arg) {
System.out.println("執行本地事務");
if (StringUtils.equals("TagA", msg.getTags())) {
return LocalTransactionState.COMMIT_MESSAGE;
} else if (StringUtils.equals("TagB", msg.getTags())) {
return LocalTransactionState.ROLLBACK_MESSAGE;
} else {
return LocalTransactionState.UNKNOW;
}
}
@Override
public LocalTransactionState checkLocalTransaction(MessageExt msg) {
System.out.println("MQ檢查消息Tag【"+msg.getTags()+"】的本地事務執行結果");
return LocalTransactionState.COMMIT_MESSAGE;
}
}
4.6.2 使用限制
- 事務消息不支持延時消息和批量消息。
- 爲了避免單個消息被檢查太多次而導致半隊列消息累積,我們默認將單個消息的檢查次數限制爲 15 次,但是用戶可以通過 Broker 配置文件的
transactionCheckMax
參數來修改此限制。如果已經檢查某條消息超過 N 次的話( N =transactionCheckMax
) 則 Broker 將丟棄此消息,並在默認情況下同時打印錯誤日誌。用戶可以通過重寫AbstractTransactionCheckListener
類來修改這個行爲。 - 事務消息將在 Broker 配置文件中的參數 transactionMsgTimeout 這樣的特定時間長度之後被檢查。當發送事務消息時,用戶還可以通過設置用戶屬性 CHECK_IMMUNITY_TIME_IN_SECONDS 來改變這個限制,該參數優先於
transactionMsgTimeout
參數。 - 事務性消息可能不止一次被檢查或消費。
- 提交給用戶的目標主題消息可能會失敗,目前這依日誌的記錄而定。它的高可用性通過 RocketMQ 本身的高可用性機制來保證,如果希望確保事務消息不丟失、並且事務完整性得到保證,建議使用同步的雙重寫入機制。
- 事務消息的生產者 ID 不能與其他類型消息的生產者 ID 共享。與其他類型的消息不同,事務消息允許反向查詢、MQ服務器能通過它們的生產者 ID 查詢到消費者。