RabbitMQ精講5:深入RabbitMQ高級特性-限流、ACK、TTL和死信隊列

目錄

前言

1. 自定義消費者

1.1 消費端自定義監聽

1.2 代碼演示

1.2.1 生產者

1.2.2 消費者

1.2.3 自定義類:MyConsumer

2. 消費端限流

2.1 什麼是消費端的限流?

爲什麼不在生產端進行限流呢?

 BasicQos(uint prfetchSize,ushort prefetchCount,bool global);

2.2 代碼演示

2.2.1 生產者

2.2.2 消費者

2.2.3 自定義類:MyConsumer

4. 消費端ACK與重回隊列

4.1 消費端的手工ACK和NACK

4.2 消費端的重回隊列

4.3 代碼演示

4.3.1 生產者

4.3.2 消費者

4.3.3 自定義類:MyConsumer

5. TTL隊列/消息

5.1 TTL

5.2 演示

6. 死信隊列

6.1 死信隊列-概念

6.2 代碼演示

6.2.0 死信隊列設置

6.2.1 生產者

6.2.2 消費者

6.2.3 自定義類:MyConsumer


前言
 

標題

 

  1. 自定義消費者
  2. 消息的限流(防止佔用內存過多,節點宕機)
  3. 消息的ACK與重回隊列
  4. TTL消息
  5. 死信隊列

1. 自定義消費者

1.1 消費端自定義監聽

消費端自定義監聽
  • 我們一般就在代碼中編寫while循環,進行consumer.nextDelivery方法進行獲取下一條消息,然後進行消費處理!
  • 但是這種輪訓的方式肯定是不好的,代碼也比較low。
  • 我們使用自定義的Consumer更加的方便,解耦性更加的強,也是在實際工作中最常見的使用方式!
消費端自定義監聽

1.2 代碼演示

1.2.1 生產者

import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;

public class Producer {

	
	public static void main(String[] args) throws Exception {
		
		ConnectionFactory connectionFactory = new ConnectionFactory();
		connectionFactory.setHost("192.168.11.76");
		connectionFactory.setPort(5672);
		connectionFactory.setVirtualHost("/");
		
		Connection connection = connectionFactory.newConnection();
		Channel channel = connection.createChannel();
		
		String exchange = "test_consumer_exchange";
		String routingKey = "consumer.save";
		
		String msg = "Hello RabbitMQ Consumer Message";
		
		for(int i =0; i<5; i ++){
			channel.basicPublish(exchange, routingKey, true, null, msg.getBytes());
		}
		
	}
}

1.2.2 消費者

import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;
import com.rabbitmq.client.QueueingConsumer;
import com.rabbitmq.client.QueueingConsumer.Delivery;

public class Consumer {

	
	public static void main(String[] args) throws Exception {
		
		
		ConnectionFactory connectionFactory = new ConnectionFactory();
		connectionFactory.setHost("192.168.11.76");
		connectionFactory.setPort(5672);
		connectionFactory.setVirtualHost("/");
		
		Connection connection = connectionFactory.newConnection();
		Channel channel = connection.createChannel();
		
		
		String exchangeName = "test_consumer_exchange";
		String routingKey = "consumer.#";
		String queueName = "test_consumer_queue";
		
		channel.exchangeDeclare(exchangeName, "topic", true, false, null);
		channel.queueDeclare(queueName, true, false, false, null);
		channel.queueBind(queueName, exchangeName, routingKey);
		
		channel.basicConsume(queueName, true, new MyConsumer(channel));
		
		
	}
}

1.2.3 自定義類:MyConsumer

import java.io.IOException;

import com.rabbitmq.client.AMQP;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DefaultConsumer;
import com.rabbitmq.client.Envelope;

public class MyConsumer extends DefaultConsumer {


	public MyConsumer(Channel channel) {
		super(channel);
	}

	@Override
	public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
		System.err.println("-----------consume message----------");
		System.err.println("consumerTag: " + consumerTag);
		System.err.println("envelope: " + envelope);
		System.err.println("properties: " + properties);
		System.err.println("body: " + new String(body));
	}


}

2. 消費端限流

2.1 什麼是消費端的限流?

消費端的限流

 

  • 假設一個場景,首先,我們Rabbitmq服務器有上萬條未處理的消息,我們隨便打開一個消費者客戶端,會出現下面情況:
  • 巨量的消息瞬間全部推送過來,但是我們單個客戶端無法同時處理這麼多數據!這個時候很容易導致服務器崩潰,出現故障。

爲什麼不在生產端進行限流呢?

因爲在高併發的情況下,客戶量就是非常大,所以很難在生產端做限制。因此我們可以用MQ在消費端做限流。

消費端限流
  • RabbitMQ提供了一種qos(服務質量保證)功能,即在非自動確認消息的前提下,如果一定數目的消息(通過基於consume或者channel設置Qos的值)未被確認前,不進行消費新的消息。
  • 在限流的情況下,千萬不要設置自動簽收,要設置爲手動簽收。
  • void BasicQos(uint prfetchSize,ushort prefetchCount,bool global);
消費端限流
消費端限流

參數解釋:

  • prefetchSize:0
  • prefetchCount:會告訴RabbitMQ不要同時給一個消費者推送多於N個消息,即一旦有N個消息還沒有ack,則該consumer將block掉,直到有消息ack。
  • global: true\false 是否將上面設置應用於channel,簡單點說,就是上面限制是channel級別還是consumer級別。
  • prefetchSize和global這兩項,rabbitmq沒有實現,暫且不研究prefetch_count在no_ask = false的情況下生效,即在自動應答的情況下這兩個值是不生效的。

 BasicQos(uint prfetchSize,ushort prefetchCount,bool global);

  • 第一個參數:消息的限制大小,消息多少條。一般不做限制,設置爲0
  • 第二個參數:一次最多處理多少條,實際工作中設置爲1就好
  • 第三個參數:限流策略在什麼上應用。在RabbitMQ一般有兩個應用級別:
    • 1.通道channel  2.Consumer級別。一般設置爲false,true 表示channel級別,false表示在consumer級別

2.2 代碼演示

2.2.1 生產者

import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;

public class Producer {

	
	public static void main(String[] args) throws Exception {
		
		ConnectionFactory connectionFactory = new ConnectionFactory();
		connectionFactory.setHost("192.168.11.76");
		connectionFactory.setPort(5672);
		connectionFactory.setVirtualHost("/");
		
		Connection connection = connectionFactory.newConnection();
		Channel channel = connection.createChannel();
		
		String exchange = "test_qos_exchange";
		String routingKey = "qos.save";
		
		String msg = "Hello RabbitMQ QOS Message";
		
		for(int i =0; i<5; i ++){
			channel.basicPublish(exchange, routingKey, true, null, msg.getBytes());
		}
		
	}
}

2.2.2 消費者

import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;
import com.rabbitmq.client.QueueingConsumer;
import com.rabbitmq.client.QueueingConsumer.Delivery;

public class Consumer {

	
	public static void main(String[] args) throws Exception {
		
		
		ConnectionFactory connectionFactory = new ConnectionFactory();
		connectionFactory.setHost("192.168.11.76");
		connectionFactory.setPort(5672);
		connectionFactory.setVirtualHost("/");
		
		Connection connection = connectionFactory.newConnection();
		Channel channel = connection.createChannel();
		
		
		String exchangeName = "test_qos_exchange";
		String queueName = "test_qos_queue";
		String routingKey = "qos.#";
		
		channel.exchangeDeclare(exchangeName, "topic", true, false, null);
		channel.queueDeclare(queueName, true, false, false, null);
		channel.queueBind(queueName, exchangeName, routingKey);
		
		//1 限流方式  第一件事就是 autoAck設置爲 false
		
		channel.basicQos(0, 1, false);
		
		channel.basicConsume(queueName, false, new MyConsumer(channel));
		
		
	}
}

2.2.3 自定義類:MyConsumer

import java.io.IOException;

import com.rabbitmq.client.AMQP;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DefaultConsumer;
import com.rabbitmq.client.Envelope;

public class MyConsumer extends DefaultConsumer {


	private Channel channel ;
	
	public MyConsumer(Channel channel) {
		super(channel);
		this.channel = channel;
	}

	@Override
	public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
		System.err.println("-----------consume message----------");
		System.err.println("consumerTag: " + consumerTag);
		System.err.println("envelope: " + envelope);
		System.err.println("properties: " + properties);
		System.err.println("body: " + new String(body));
		
		channel.basicAck(envelope.getDeliveryTag(), false);
		
	}


}

4. 消費端ACK與重回隊列

4.1 消費端的手工ACK和NACK

消費端的手工ACK和NACK
  • 消費端進行消費的時候,如果由於業務異常我們可以進行日誌的記錄,然後進行補償!
  • 如果由於服務器宕機等嚴重問題,那我們就需要手工進行ACK保障消費端消費成功!

4.2 消費端的重回隊列

消費端的重回隊列
  • 消費端重回隊列是爲了對沒有處理成功的消息,把消息重新傳遞給Broker!
  • 一般我們在實際應用中,都會關閉重回隊列,也就是設置爲False.

4.3 代碼演示

4.3.1 生產者

import java.util.HashMap;
import java.util.Map;

import com.rabbitmq.client.AMQP;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;

public class Producer {

	
	public static void main(String[] args) throws Exception {
		
		ConnectionFactory connectionFactory = new ConnectionFactory();
		connectionFactory.setHost("192.168.11.76");
		connectionFactory.setPort(5672);
		connectionFactory.setVirtualHost("/");
		
		Connection connection = connectionFactory.newConnection();
		Channel channel = connection.createChannel();
		
		String exchange = "test_ack_exchange";
		String routingKey = "ack.save";
		
		
		
		for(int i =0; i<5; i ++){
			
			Map<String, Object> headers = new HashMap<String, Object>();
			headers.put("num", i);
			
			AMQP.BasicProperties properties = new AMQP.BasicProperties.Builder()
					.deliveryMode(2)
					.contentEncoding("UTF-8")
					.headers(headers)
					.build();
			String msg = "Hello RabbitMQ ACK Message " + i;
			channel.basicPublish(exchange, routingKey, true, properties, msg.getBytes());
		}
		
	}
}

4.3.2 消費者

import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;
import com.rabbitmq.client.QueueingConsumer;
import com.rabbitmq.client.QueueingConsumer.Delivery;

public class Consumer {

	
	public static void main(String[] args) throws Exception {
		
		
		ConnectionFactory connectionFactory = new ConnectionFactory();
		connectionFactory.setHost("192.168.11.76");
		connectionFactory.setPort(5672);
		connectionFactory.setVirtualHost("/");
		
		Connection connection = connectionFactory.newConnection();
		Channel channel = connection.createChannel();
		
		
		String exchangeName = "test_ack_exchange";
		String queueName = "test_ack_queue";
		String routingKey = "ack.#";
		
		channel.exchangeDeclare(exchangeName, "topic", true, false, null);
		channel.queueDeclare(queueName, true, false, false, null);
		channel.queueBind(queueName, exchangeName, routingKey);
		
		// 手工簽收 必須要關閉 autoAck = false
		channel.basicConsume(queueName, false, new MyConsumer(channel));
		
		
	}
}

4.3.3 自定義類:MyConsumer

import java.io.IOException;

import com.rabbitmq.client.AMQP;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DefaultConsumer;
import com.rabbitmq.client.Envelope;

public class MyConsumer extends DefaultConsumer {


	private Channel channel ;
	
	public MyConsumer(Channel channel) {
		super(channel);
		this.channel = channel;
	}

	@Override
	public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
		System.err.println("-----------consume message----------");
		System.err.println("body: " + new String(body));
		try {
			Thread.sleep(2000);
		} catch (InterruptedException e) {
			e.printStackTrace();
		}
		if((Integer)properties.getHeaders().get("num") == 0) {
			channel.basicNack(envelope.getDeliveryTag(), false, true);
		} else {
			channel.basicAck(envelope.getDeliveryTag(), false);
		}
		
	}


}

注意:

  • 可以看到重回隊列會出現重複消費導致死循環的問題,這時候最好設置重試次數,比如超過三次後,消息還是消費失敗,就將消息丟棄。

5. TTL隊列/消息

5.1 TTL

TTL

 

  • TTL是Time To Live的縮寫,也就是生存時間
  • RabbitMQ支持消息的過期時間,在消息發送時可以進行指定
  • RabbitMQ支持隊列的過期時間,從消息入隊列開始計算,只要超過了隊列的超時時間配置,那麼消息會自動的清除

5.2 演示

直接通過管控臺進行演示

TTL

通過管控臺創建一個隊列

x-max-length 隊列的最大大小
x-message-ttl 設置10秒鐘,如果消息還沒有被消費的話,就會被清除。

生產端設置過期時間

AMQP.BasicProperties properties = new AMQP.BasicProperties.Builder()
		.deliveryMode(2)
		.contentEncoding("UTF-8")
		.expiration("10000")
		.headers(headers)
		.build();

這兩個屬性並不相同,一個對應的是消息體,一個對應的是隊列的過期。

6. 死信隊列

6.1 死信隊列-概念

死信隊列
  • 死信隊列:DLX,Dead-Letter-Exchange
  • RabbitMQ的死信隊裏與Exchange息息相關
  • 利用DLX,當消息在一個隊列中變成死信(dead message)之後,它能被重新publish到另一個Exchange,這個Exchange就是DLX
死信隊列
  • 消息變成死信有以下幾種情況
  • 消息被拒絕(basic.reject/basic.nack)並且requeue=false
  • 消息TTL過期
  • 隊列達到最大長度
DLX

 

  • DLX也是一個正常的Exchange,和一般的Exchange沒有區別,它能在任何的隊列上被指定,實際上就是設置某個隊列的屬性
  • 當這個隊列中有死信時,RabbitMQ就會自動的將這個消息重新發布到設置的Exchange上去,進而被路由到另一個隊列。
  • 可以監聽這個隊列中消息做相應的處理,這個特徵可以彌補RabbitMQ3.0以前支持的immediate參數的功能。

6.2 代碼演示

6.2.0 死信隊列設置

死信隊列設置

 

  • 死信隊列設置:
  • 首先需要設置死信隊列的exchange和queue,然後進行綁定:
  • Exchange:dlx.exchange
  • Queue:dlx.queue
  • RoutingKey:#
死信隊列設置

 

  • 然後我們進行正常聲明交換機、隊列、綁定,只不過我們需要在隊列加上一個參數即可:arguments.put(“x-dead-letter-exchange”,“dlx.exchange”);
  • 這樣消息在過期、requeue、隊列在達到最大長度時,消息就可以直接路由到死信隊列!

6.2.1 生產者

import com.rabbitmq.client.AMQP;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;

public class Producer {

	
	public static void main(String[] args) throws Exception {
		
		ConnectionFactory connectionFactory = new ConnectionFactory();
		connectionFactory.setHost("192.168.11.76");
		connectionFactory.setPort(5672);
		connectionFactory.setVirtualHost("/");
		
		Connection connection = connectionFactory.newConnection();
		Channel channel = connection.createChannel();
		
		String exchange = "test_dlx_exchange";
		String routingKey = "dlx.save";
		
		String msg = "Hello RabbitMQ DLX Message";
		
		for(int i =0; i<1; i ++){
			
			AMQP.BasicProperties properties = new AMQP.BasicProperties.Builder()
					.deliveryMode(2)
					.contentEncoding("UTF-8")
					.expiration("10000")
					.build();
			channel.basicPublish(exchange, routingKey, true, properties, msg.getBytes());
		}
		
	}
}

6.2.2 消費者

import java.util.HashMap;
import java.util.Map;

import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;
import com.rabbitmq.client.QueueingConsumer;
import com.rabbitmq.client.QueueingConsumer.Delivery;

public class Consumer {

	
	public static void main(String[] args) throws Exception {
		
		
		ConnectionFactory connectionFactory = new ConnectionFactory();
		connectionFactory.setHost("192.168.11.76");
		connectionFactory.setPort(5672);
		connectionFactory.setVirtualHost("/");
		
		Connection connection = connectionFactory.newConnection();
		Channel channel = connection.createChannel();
		
		// 這就是一個普通的交換機 和 隊列 以及路由
		String exchangeName = "test_dlx_exchange";
		String routingKey = "dlx.#";
		String queueName = "test_dlx_queue";
		
		channel.exchangeDeclare(exchangeName, "topic", true, false, null);
		
		Map<String, Object> agruments = new HashMap<String, Object>();
		agruments.put("x-dead-letter-exchange", "dlx.exchange");
		//這個agruments屬性,要設置到聲明隊列上
		channel.queueDeclare(queueName, true, false, false, agruments);
		channel.queueBind(queueName, exchangeName, routingKey);
		
		//要進行死信隊列的聲明:
		channel.exchangeDeclare("dlx.exchange", "topic", true, false, null);
		channel.queueDeclare("dlx.queue", true, false, false, null);
		channel.queueBind("dlx.queue", "dlx.exchange", "#");
		
		channel.basicConsume(queueName, true, new MyConsumer(channel));
		
		
	}
}


6.2.3 自定義類:MyConsumer

import java.io.IOException;

import com.rabbitmq.client.AMQP;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DefaultConsumer;
import com.rabbitmq.client.Envelope;

public class MyConsumer extends DefaultConsumer {


	public MyConsumer(Channel channel) {
		super(channel);
	}

	@Override
	public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {
		System.err.println("-----------consume message----------");
		System.err.println("consumerTag: " + consumerTag);
		System.err.println("envelope: " + envelope);
		System.err.println("properties: " + properties);
		System.err.println("body: " + new String(body));
	}


}
  • 查看queue
    • 可以看到test_dlx_queue多了DLX的標識,表示當隊列中出現死信的時候,會將消息發送到死信隊列dlx_queue中
  • 關閉Consumer,只運行Producer
    • 過10秒鐘後,消息過期
  • 在我們工作中,死信隊列非常重要,用於消息沒有消費者,處於死信狀態。我們可以才用補償機制。

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章