一口氣說出 6種 延時隊列的實現方案,面試穩穩的

本文 demo 已全部上傳 github 地址 :https://github.com/chengxy-
nds/delayqueue,WX搜索【程序員內點事】,回覆【666】妙不可言。

五一期間原計劃是寫兩篇文章,看一本技術類書籍,結果這五天由於自律性過於差,禁不住各種誘惑,我連電腦都沒打開過,計劃完美宣告失敗。所以在這能看出和大佬之間的差距,人家沒白沒夜的更文,比你優秀的人比你更努力,難以望其項背,真是讓我自愧不如。

知恥而後勇,這不逼着自己又學起來了,個人比較喜歡一些實踐類的東西,既學習到知識又能讓技術落地,能搞出個 demo
最好,本來不知道該分享什麼主題,好在最近項目緊急招人中,而我有幸做了回面試官,就給大家整理分享一道面試題:“ 如何實現延時隊列? ”。

下邊會介紹多種實現延時隊列的思路,文末提供有幾種實現方式的 github
地址。其實哪種方式都沒有絕對的好與壞,只是看把它用在什麼業務場景中,技術這東西沒有最好的只有最合適的。

一、延時隊列的應用

什麼是延時隊列?顧名思義:首先它要具有隊列的特性,再給它附加一個延遲消費隊列消息的功能,也就是說可以指定隊列中的消息在哪個時間點被消費。

延時隊列在項目中的應用還是比較多的,尤其像電商類平臺:

1、訂單成功後,在30分鐘內沒有支付,自動取消訂單

2、外賣平臺發送訂餐通知,下單成功後60s給用戶推送短信。

3、如果訂單一直處於某一個未完結狀態時,及時處理關單,並退還庫存

4、淘寶新建商戶一個月內還沒上傳商品信息,將凍結商鋪等

。。。。

上邊的這些場景都可以應用延時隊列解決。

二、延時隊列的實現

我個人一直秉承的觀點:工作上能用 JDK 自帶 API
實現的功能,就不要輕易自己重複造輪子,或者引入三方中間件。一方面自己封裝很容易出問題(大佬除外),再加上調試驗證產生許多不必要的工作量;另一方面一旦接入三方的中間件就會讓系統複雜度成倍的增加,維護成本也大大的增加。

1、DelayQueue 延時隊列

JDK 中提供了一組實現延遲隊列的 API ,位於 Java.util.concurrent 包下 DelayQueue

DelayQueue 是一個 BlockingQueue (無界阻塞)隊列,它本質就是封裝了一個 PriorityQueue
(優先隊列), PriorityQueue 內部使用 完全二叉堆 (不知道的自行了解哈)來實現隊列元素排序,我們在向 DelayQueue 隊列中添加元素時,會給元素一個 Delay (延遲時間)作爲排序條件,隊列中最小的元素會優先放在隊首。隊列中的元素只有到了
Delay
時間才允許從隊列中取出。隊列中可以放基本數據類型或自定義實體類,在存放基本數據類型時,優先隊列中元素默認升序排列,自定義實體類就需要我們根據類屬性值比較計算了。

先簡單實現一下看看效果,添加三個 order 入隊 DelayQueue ,分別設置訂單在當前時間的 5秒10秒
15秒 後取消。

要實現 DelayQueue 延時隊列,隊中元素要 implements Delayed 接口,這哥接口裏只有一個 getDelay 方法,用於設置延期時間。 Order 類中 compareTo 方法負責對隊列中的元素進行排序。

public class Order implements Delayed {
    /**
     * 延遲時間
     */
    @JsonFormat(locale = "zh", timezone = "GMT+8", pattern = "yyyy-MM-dd HH:mm:ss")
    private long time;
    String name;
    
    public Order(String name, long time, TimeUnit unit) {
        this.name = name;
        this.time = System.currentTimeMillis() + (time > 0 ? unit.toMillis(time) : 0);
    }
    
    @Override
    public long getDelay(TimeUnit unit) {
        return time - System.currentTimeMillis();
    }
    @Override
    public int compareTo(Delayed o) {
        Order Order = (Order) o;
        long diff = this.time - Order.time;
        if (diff <= 0) {
            return -1;
        } else {
            return 1;
        }
    }
}

DelayQueueput 方法是線程安全的,因爲 put 方法內部使用了 ReentrantLock
鎖進行線程同步。 DelayQueue 還提供了兩種出隊的方法 poll()take()poll()
爲非阻塞獲取,沒有到期的元素直接返回null; take() 阻塞方式獲取,沒有到期的元素線程將會等待。

public class DelayQueueDemo {

    public static void main(String[] args) throws InterruptedException {
        Order Order1 = new Order("Order1", 5, TimeUnit.SECONDS);
        Order Order2 = new Order("Order2", 10, TimeUnit.SECONDS);
        Order Order3 = new Order("Order3", 15, TimeUnit.SECONDS);
        DelayQueue<Order> delayQueue = new DelayQueue<>();
        delayQueue.put(Order1);
        delayQueue.put(Order2);
        delayQueue.put(Order3);

        System.out.println("訂單延遲隊列開始時間:" + LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));
        while (delayQueue.size() != 0) {
            /**
             * 取隊列頭部元素是否過期
             */
            Order task = delayQueue.poll();
            if (task != null) {
                System.out.format("訂單:{%s}被取消, 取消時間:{%s}\n", task.name, LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));
            }
            Thread.sleep(1000);
        }
    }
}

上邊只是簡單的實現入隊與出隊的操作,實際開發中會有專門的線程,負責消息的入隊與消費。

執行後看到結果如下, Order1Order2Order3 分別在 5秒10秒15秒
後被執行,至此就用 DelayQueue 實現了延時隊列。

訂單延遲隊列開始時間:2020-05-06 14:59:09
訂單:{Order1}被取消, 取消時間:{2020-05-06 14:59:14}
訂單:{Order2}被取消, 取消時間:{2020-05-06 14:59:19}
訂單:{Order3}被取消, 取消時間:{2020-05-06 14:59:24}
2、Quartz 定時任務

Quartz 一款非常經典任務調度框架,在 RedisRabbitMQ
還未廣泛應用時,超時未支付取消訂單功能都是由定時任務實現的。定時任務它有一定的週期性,可能很多單子已經超時,但還沒到達觸發執行的時間點,那麼就會造成訂單處理的不夠及時。

引入 quartz 框架依賴包

<dependency>
     <groupId>org.springframework.boot</groupId>
     <artifactId>spring-boot-starter-quartz</artifactId>
</dependency>

在啓動類中使用 @EnableScheduling 註解開啓定時任務功能。

@EnableScheduling
@SpringBootApplication
public class DelayqueueApplication {
	public static void main(String[] args) {
		SpringApplication.run(DelayqueueApplication.class, args);
	}
}

編寫一個定時任務,每個5秒執行一次。

@Component
public class QuartzDemo {

    //每隔五秒
    @Scheduled(cron = "0/5 * * * * ? ")
    public void process(){
        System.out.println("我是定時任務!");
    }
}
3、Redis sorted set

Redis 的數據結構 Zset ,同樣可以實現延遲隊列的效果,主要利用它的 score 屬性, redis 通過 score 來爲集合中的成員進行從小到大的排序。

通過 zadd 命令向隊列 delayqueue 中添加元素,並設置 score 值表示元素過期的時間;向 delayqueue 添加三個 order1order2order3 ,分別是 10秒20秒30秒
後過期。

 zadd delayqueue 3 order3

消費端輪詢隊列 delayqueue , 將元素排序後取最小時間與當前時間比對,如小於當前時間代表已經過期移除 key

    /**
     * 消費消息
     */
    public void pollOrderQueue() {

        while (true) {
            Set<Tuple> set = jedis.zrangeWithScores(DELAY_QUEUE, 0, 0);

            String value = ((Tuple) set.toArray()[0]).getElement();
            int score = (int) ((Tuple) set.toArray()[0]).getScore();
            
            Calendar cal = Calendar.getInstance();
            int nowSecond = (int) (cal.getTimeInMillis() / 1000);
            if (nowSecond >= score) {
                jedis.zrem(DELAY_QUEUE, value);
                System.out.println(sdf.format(new Date()) + " removed key:" + value);
            }

            if (jedis.zcard(DELAY_QUEUE) <= 0) {
                System.out.println(sdf.format(new Date()) + " zset empty ");
                return;
            }
            Thread.sleep(1000);
        }
    }

我們看到執行結果符合預期

2020-05-07 13:24:09 add finished.
2020-05-07 13:24:19 removed key:order1
2020-05-07 13:24:29 removed key:order2
2020-05-07 13:24:39 removed key:order3
2020-05-07 13:24:39 zset empty 
4、Redis 過期回調

Rediskey
過期回調事件,也能達到延遲隊列的效果,簡單來說我們開啓監聽key是否過期的事件,一旦key過期會觸發一個callback事件。

修改 redis.conf 文件開啓 notify-keyspace-events Ex

notify-keyspace-events Ex

Redis 監聽配置,注入Bean RedisMessageListenerContainer

@Configuration
public class RedisListenerConfig {
    @Bean
    RedisMessageListenerContainer container(RedisConnectionFactory connectionFactory) {

        RedisMessageListenerContainer container = new RedisMessageListenerContainer();
        container.setConnectionFactory(connectionFactory);
        return container;
    }
}

編寫Redis過期回調監聽方法,必須繼承 KeyExpirationEventMessageListener ,有點類似於MQ的消息監聽。

@Component
public class RedisKeyExpirationListener extends KeyExpirationEventMessageListener {
 
    public RedisKeyExpirationListener(RedisMessageListenerContainer listenerContainer) {
        super(listenerContainer);
    }
    @Override
    public void onMessage(Message message, byte[] pattern) {
        String expiredKey = message.toString();
        System.out.println("監聽到key:" + expiredKey + "已過期");
    }
}

到這代碼就編寫完成,非常的簡單,接下來測試一下效果,在 redis-cli 客戶端添加一個 key 並給定 3s 的過期時間。

 set xiaofu 123 ex 3

在控制檯成功監聽到了這個過期的 key

監聽到過期的key爲:xiaofu
5、RabbitMQ 延時隊列

利用 RabbitMQ 做延時隊列是比較常見的一種方式,而實際上 RabbitMQ 自身並沒有直接支持提供延遲隊列功能,而是通過 RabbitMQ 消息隊列的 TTLDXL 這兩個屬性間接實現的。

先來認識一下 TTLDXL 兩個概念:

Time To Live ( TTL ) :

TTL 顧名思義:指的是消息的存活時間, RabbitMQ 可以通過 x-message-tt 參數來設置指定 Queue
(隊列)和 Message (消息)上消息的存活時間,它的值是一個非負整數,單位爲微秒。

RabbitMQ 可以從兩種維度設置消息過期時間,分別是 隊列消息本身

  • 設置隊列過期時間,那麼隊列中所有消息都具有相同的過期時間。
  • 設置消息過期時間,對隊列中的某一條消息設置過期時間,每條消息 TTL 都可以不同。

如果同時設置隊列和隊列中消息的 TTL ,則 TTL 值以兩者中較小的值爲準。而隊列中的消息存在隊列中的時間,一旦超過 TTL
過期時間則成爲 Dead Letter (死信)。

Dead Letter ExchangesDLX

DLX 即死信交換機,綁定在死信交換機上的即死信隊列。 RabbitMQQueue (隊列)可以配置兩個參數 x-dead-letter-exchangex-dead-letter-routing-key (可選),一旦隊列內出現了 Dead Letter (死信),則按照這兩個參數可以將消息重新路由到另一個 Exchange (交換機),讓消息重新被消費。

x-dead-letter-exchange :隊列中出現 Dead Letter 後將 Dead Letter 重新路由轉發到指定
exchange (交換機)。

x-dead-letter-routing-key :指定 routing-key 發送,一般爲要指定轉發的隊列。

隊列出現 Dead Letter 的情況有:

  • 消息或者隊列的 TTL 過期
  • 隊列達到最大長度
  • 消息被消費端拒絕(basic.reject or basic.nack)

下邊結合一張圖看看如何實現超30分鐘未支付關單功能,我們將訂單消息A0001發送到延遲隊列 order.delay.queue ,並設置 x-message-tt 消息存活時間爲30分鐘,當到達30分鐘後訂單消息A0001成爲了 Dead Letter
(死信),延遲隊列檢測到有死信,通過配置 x-dead-letter-exchange
,將死信重新轉發到能正常消費的關單隊列,直接監聽關單隊列處理關單邏輯即可。

發送消息時指定消息延遲的時間

public void send(String delayTimes) {
        amqpTemplate.convertAndSend("order.pay.exchange", "order.pay.queue","大家好我是延遲數據", message -> {
            // 設置延遲毫秒值
            message.getMessageProperties().setExpiration(String.valueOf(delayTimes));
            return message;
        });
    }
}

設置延遲隊列出現死信後的轉發規則

/**
     * 延時隊列
     */
    @Bean(name = "order.delay.queue")
    public Queue getMessageQueue() {
        return QueueBuilder
                .durable(RabbitConstant.DEAD_LETTER_QUEUE)
                // 配置到期後轉發的交換
                .withArgument("x-dead-letter-exchange", "order.close.exchange")
                // 配置到期後轉發的路由鍵
                .withArgument("x-dead-letter-routing-key", "order.close.queue")
                .build();
    }
6、時間輪

前邊幾種延時隊列的實現方法相對簡單,比較容易理解,時間輪算法就稍微有點抽象了。 kafkanetty
都有基於時間輪算法實現延時隊列,下邊主要實踐 Netty 的延時隊列講一下時間輪是什麼原理。

先來看一張時間輪的原理圖,解讀一下時間輪的幾個基本概念

wheel :時間輪,圖中的圓盤可以看作是鐘錶的刻度。比如一圈 round 長度爲 24秒 ,刻度數爲 8
,那麼每一個刻度表示 3秒 。那麼時間精度就是 3秒 。時間長度 / 刻度數值越大,精度越大。

當添加一個定時、延時 任務A ,假如會延遲 25秒 後纔會執行,可時間輪一圈 round 的長度才 24秒
,那麼此時會根據時間輪長度和刻度得到一個圈數 round 和對應的指針位置 index ,也是就 任務A 會繞一圈指向 0格子 上,此時時間輪會記錄該任務的 roundindex 信息。當round=0,index=0 ,指針指向 0格子 任務A 並不會執行,因爲 round=0不滿足要求。

所以每一個格子代表的是一些時間,比如 1秒25秒 都會指向0格子上,而任務則放在每個格子對應的鏈表中,這點和 HashMap
的數據有些類似。

Netty 構建延時隊列主要用 HashedWheelTimerHashedWheelTimer 底層數據結構依然是使用 DelayedQueue ,只是採用時間輪的算法來實現。

下面我們用 Netty 簡單實現延時隊列, HashedWheelTimer 構造函數比較多,解釋一下各參數的含義。

  • ThreadFactory :表示用於生成工作線程,一般採用線程池;

  • tickDurationunit :每格的時間間隔,默認100ms;

  • ticksPerWheel :一圈下來有幾格,默認512,而如果傳入數值的不是2的N次方,則會調整爲大於等於該參數的一個2的N次方數值,有利於優化 hash 值的計算。

    public HashedWheelTimer(ThreadFactory threadFactory, long tickDuration, TimeUnit unit, int ticksPerWheel) {
    this(threadFactory, tickDuration, unit, ticksPerWheel, true);
    }

  • TimerTask :一個定時任務的實現接口,其中run方法包裝了定時任務的邏輯。

  • Timeout :一個定時任務提交到 Timer 之後返回的句柄,通過這個句柄外部可以取消這個定時任務,並對定時任務的狀態進行一些基本的判斷。

  • Timer :是 HashedWheelTimer 實現的父接口,僅定義瞭如何提交定時任務和如何停止整個定時機制。

    public class NettyDelayQueue {

    public static void main(String[] args) {
    
        final Timer timer = new HashedWheelTimer(Executors.defaultThreadFactory(), 5, TimeUnit.SECONDS, 2);
    
        //定時任務
        TimerTask task1 = new TimerTask() {
            public void run(Timeout timeout) throws Exception {
                System.out.println("order1  5s 後執行 ");
                timer.newTimeout(this, 5, TimeUnit.SECONDS);//結束時候再次註冊
            }
        };
        timer.newTimeout(task1, 5, TimeUnit.SECONDS);
        TimerTask task2 = new TimerTask() {
            public void run(Timeout timeout) throws Exception {
                System.out.println("order2  10s 後執行");
                timer.newTimeout(this, 10, TimeUnit.SECONDS);//結束時候再註冊
            }
        };
    
        timer.newTimeout(task2, 10, TimeUnit.SECONDS);
    
        //延遲任務
        timer.newTimeout(new TimerTask() {
            public void run(Timeout timeout) throws Exception {
                System.out.println("order3  15s 後執行一次");
            }
        }, 15, TimeUnit.SECONDS);
    
    }
    

    }

從執行的結果看, order3order3 延時任務只執行了一次,而 order2order1
爲定時任務,按照不同的週期重複執行。

order1  5s 後執行 
order2  10s 後執行
order3  15s 後執行一次
order1  5s 後執行 
order2  10s 後執行

總結

爲了讓大家更容易理解,上邊的代碼寫的都比較簡單粗糙,幾種實現方式的 demo 已經都提交到 github 地址: https://github.com/chengxy-nds/delayqueue ,感興趣的小夥伴可以下載跑一跑。

這篇文章肝了挺長時間,寫作一點也不比上班幹活輕鬆,查證資料反覆驗證demo的可行性,搭建各種 RabbitMQRedis
環境,只想說我太難了!

可能寫的有不夠完善的地方,如哪裏有錯誤或者不明瞭的,歡迎大家踊躍指正!!!

最後

原創不易,碼字不易,來點個贊吧~

小福利

關注我的公號,回覆【666】,幾百本各類技術電子書相送,「噓~」,「免費」 送給大家,無套路自行領取

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章