【編者的話】個人比較喜歡一些實(shí)踐類的東西,既學(xué)習(xí)到知識又能讓技術(shù)落地,能搞出個demo最好,本來不知道該分享什么主題,好在最近項(xiàng)目緊急招人中,而我有幸做了回面試官,就給大家整理分享一道面試題:“如何實(shí)現(xiàn)延時(shí)隊(duì)列?”。
下邊會介紹多種實(shí)現(xiàn)延時(shí)隊(duì)列的思路,文末提供有幾種實(shí)現(xiàn)方式的GitHub地址。其實(shí)哪種方式都沒有絕對的好與壞,只是看把它用在什么業(yè)務(wù)場景中,技術(shù)這東西沒有最好的只有最合適的。
什么是延時(shí)隊(duì)列?顧名思義:首先它要具有隊(duì)列的特性,再給它附加一個延遲消費(fèi)隊(duì)列消息的功能,也就是說可以指定隊(duì)列中的消息在哪個時(shí)間點(diǎn)被消費(fèi)。
延時(shí)隊(duì)列在項(xiàng)目中的應(yīng)用還是比較多的,尤其像電商類平臺:
上邊的這些場景都可以應(yīng)用延時(shí)隊(duì)列解決。
我個人一直秉承的觀點(diǎn):工作上能用JDK自帶API實(shí)現(xiàn)的功能,就不要輕易自己重復(fù)造輪子,或者引入三方中間件。一方面自己封裝很容易出問題(大佬除外),再加上調(diào)試驗(yàn)證產(chǎn)生許多不必要的工作量;另一方面一旦接入三方的中間件就會讓系統(tǒng)復(fù)雜度成倍的增加,維護(hù)成本也大大的增加。
JDK中提供了一組實(shí)現(xiàn)延遲隊(duì)列的API,位于Java.util.concurrent包下DelayQueue。
DelayQueue是一個BlockingQueue(無界阻塞)隊(duì)列,它本質(zhì)就是封裝了一個PriorityQueue(優(yōu)先隊(duì)列),PriorityQueue內(nèi)部使用完全二叉堆(不知道的自行了解哈)來實(shí)現(xiàn)隊(duì)列元素排序,我們在向DelayQueue隊(duì)列中添加元素時(shí),會給元素一個Delay(延遲時(shí)間)作為排序條件,隊(duì)列中最小的元素會優(yōu)先放在隊(duì)首。隊(duì)列中的元素只有到了Delay時(shí)間才允許從隊(duì)列中取出。隊(duì)列中可以放基本數(shù)據(jù)類型或自定義實(shí)體類,在存放基本數(shù)據(jù)類型時(shí),優(yōu)先隊(duì)列中元素默認(rèn)升序排列,自定義實(shí)體類就需要我們根據(jù)類屬性值比較計(jì)算了。
先簡單實(shí)現(xiàn)一下看看效果,添加三個order入隊(duì)DelayQueue,分別設(shè)置訂單在當(dāng)前時(shí)間的5秒、10秒、15秒后取消。
要實(shí)現(xiàn)DelayQueue延時(shí)隊(duì)列,隊(duì)中元素要implements Delayed 接口,這哥接口里只有一個getDelay方法,用于設(shè)置延期時(shí)間。Order類中compareTo方法負(fù)責(zé)對隊(duì)列中的元素進(jìn)行排序。
public class Order implements Delayed { /** * 延遲時(shí)間 */ @JsonFormat(locale = "zh", timezone = "GMT+8", pattern = "yyyy-MM-dd HH:mm:ss") private long time; String name; public Order(String name, long time, TimeUnit unit) { this.name = name; this.time = System.currentTimeMillis() + (time > 0 ? unit.toMillis(time) : 0); } @Override public long getDelay(TimeUnit unit) { return time - System.currentTimeMillis(); } @Override public int compareTo(Delayed o) { Order Order = (Order) o; long diff = this.time - Order.time; if (diff <= 0) { return -1; } else { return 1; } } }
DelayQueue的put方法是線程安全的,因?yàn)閜ut方法內(nèi)部使用了ReentrantLock鎖進(jìn)行線程同步。DelayQueue還提供了兩種出隊(duì)的方法poll()和take()
, poll()為非阻塞獲取,沒有到期的元素直接返回null;take()阻塞方式獲取,沒有到期的元素線程將會等待。
public class DelayQueueDemo { public static void main(String[] args) throws InterruptedException { Order Order1 = new Order("Order1", 5, TimeUnit.SECONDS); Order Order2 = new Order("Order2", 10, TimeUnit.SECONDS); Order Order3 = new Order("Order3", 15, TimeUnit.SECONDS); DelayQueue<Order> delayQueue = new DelayQueue<>(); delayQueue.put(Order1); delayQueue.put(Order2); delayQueue.put(Order3); System.out.println("訂單延遲隊(duì)列開始時(shí)間:" + LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss"))); while (delayQueue.size() != 0) { /** * 取隊(duì)列頭部元素是否過期 */ Order task = delayQueue.poll(); if (task != null) { System.out.format("訂單:{%s}被取消, 取消時(shí)間:{%s}\n", task.name, LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss"))); } Thread.sleep(1000); } } }
上邊只是簡單的實(shí)現(xiàn)入隊(duì)與出隊(duì)的操作,實(shí)際開發(fā)中會有專門的線程,負(fù)責(zé)消息的入隊(duì)與消費(fèi)。
執(zhí)行后看到結(jié)果如下,Order1、Order2、Order3 分別在 5秒、10秒、15秒后被執(zhí)行,至此就用DelayQueue實(shí)現(xiàn)了延時(shí)隊(duì)列。
訂單延遲隊(duì)列開始時(shí)間:2020-05-06 14:59:09 訂單:{Order1}被取消, 取消時(shí)間:{2020-05-06 14:59:14} 訂單:{Order2}被取消, 取消時(shí)間:{2020-05-06 14:59:19} 訂單:{Order3}被取消, 取消時(shí)間:{2020-05-06 14:59:24}
Quartz一款非常經(jīng)典任務(wù)調(diào)度框架,在Redis、RabbitMQ還未廣泛應(yīng)用時(shí),超時(shí)未支付取消訂單功能都是由定時(shí)任務(wù)實(shí)現(xiàn)的。定時(shí)任務(wù)它有一定的周期性,可能很多單子已經(jīng)超時(shí),但還沒到達(dá)觸發(fā)執(zhí)行的時(shí)間點(diǎn),那么就會造成訂單處理的不夠及時(shí)。
引入Quartz框架依賴包:
<dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-quartz</artifactId> </dependency>
在啟動類中使用@EnableScheduling注解開啟定時(shí)任務(wù)功能。
@EnableScheduling @SpringBootApplication public class DelayqueueApplication { public static void main(String[] args) { SpringApplication.run(DelayqueueApplication.class, args); } }
編寫一個定時(shí)任務(wù),每個5秒執(zhí)行一次。
@Component public class QuartzDemo { //每隔五秒 @Scheduled(cron = "0/5 * * * * ? ") public void process(){ System.out.println("我是定時(shí)任務(wù)!"); } }
Redis的數(shù)據(jù)結(jié)構(gòu)Zset,同樣可以實(shí)現(xiàn)延遲隊(duì)列的效果,主要利用它的score屬性,Redis通過score來為集合中的成員進(jìn)行從小到大的排序。
通過zadd命令向隊(duì)列delayqueue中添加元素,并設(shè)置score值表示元素過期的時(shí)間;向delayqueue添加三個order1、order2、order3,分別是10秒、20秒、30秒后過期。
zadd delayqueue 3 order3
消費(fèi)端輪詢隊(duì)列delayqueue,將元素排序后取最小時(shí)間與當(dāng)前時(shí)間比對,如小于當(dāng)前時(shí)間代表已經(jīng)過期移除key。
/** * 消費(fèi)消息 */ public void pollOrderQueue() { while (true) { Set<Tuple> set = jedis.zrangeWithScores(DELAY_QUEUE, 0, 0); String value = ((Tuple) set.toArray()[0]).getElement(); int score = (int) ((Tuple) set.toArray()[0]).getScore(); Calendar cal = Calendar.getInstance(); int nowSecond = (int) (cal.getTimeInMillis() / 1000); if (nowSecond >= score) { jedis.zrem(DELAY_QUEUE, value); System.out.println(sdf.format(new Date()) + " removed key:" + value); } if (jedis.zcard(DELAY_QUEUE) <= 0) { System.out.println(sdf.format(new Date()) + " zset empty "); return; } Thread.sleep(1000); } }
我們看到執(zhí)行結(jié)果符合預(yù)期:
2020-05-07 13:24:09 add finished. 2020-05-07 13:24:19 removed key:order1 2020-05-07 13:24:29 removed key:order2 2020-05-07 13:24:39 removed key:order3 2020-05-07 13:24:39 zset empty
Redis的key過期回調(diào)事件,也能達(dá)到延遲隊(duì)列的效果,簡單來說我們開啟監(jiān)聽key是否過期的事件,一旦key過期會觸發(fā)一個callback事件。
修改redis.conf文件開啟notify-keyspace-events Ex。
notify-keyspace-events Ex
Redis監(jiān)聽配置,注入Bean RedisMessageListenerContainer。
@Configuration public class RedisListenerConfig { @Bean RedisMessageListenerContainer container(RedisConnectionFactory connectionFactory) { RedisMessageListenerContainer container = new RedisMessageListenerContainer(); container.setConnectionFactory(connectionFactory); return container; } }
編寫Redis過期回調(diào)監(jiān)聽方法,必須繼承KeyExpirationEventMessageListener ,有點(diǎn)類似于MQ的消息監(jiān)聽。
@Component public class RedisKeyExpirationListener extends KeyExpirationEventMessageListener { public RedisKeyExpirationListener(RedisMessageListenerContainer listenerContainer) { super(listenerContainer); } @Override public void onMessage(Message message, byte[] pattern) { String expiredKey = message.toString(); System.out.println("監(jiān)聽到key:" + expiredKey + "已過期"); } }
到這代碼就編寫完成,非常的簡單,接下來測試一下效果,在redis-cli客戶端添加一個key并給定3s的過期時(shí)間。
set xiaofu 123 ex 3
在控制臺成功監(jiān)聽到了這個過期的key。
監(jiān)聽到過期的key為:xiaofu
利用RabbitMQ做延時(shí)隊(duì)列是比較常見的一種方式,而實(shí)際上RabbitMQ自身并沒有直接支持提供延遲隊(duì)列功能,而是通過 RabbitMQ 消息隊(duì)列的 TTL和 DXL這兩個屬性間接實(shí)現(xiàn)的。
先來認(rèn)識一下 TTL和 DXL兩個概念:
Time To Live(TTL):
TTL 顧名思義:指的是消息的存活時(shí)間,RabbitMQ可以通過x-message-tt參數(shù)來設(shè)置指定Queue(隊(duì)列)和 Message(消息)上消息的存活時(shí)間,它的值是一個非負(fù)整數(shù),單位為微秒。
RabbitMQ 可以從兩種維度設(shè)置消息過期時(shí)間,分別是隊(duì)列和消息本身:
如果同時(shí)設(shè)置隊(duì)列和隊(duì)列中消息的TTL,則TTL值以兩者中較小的值為準(zhǔn)。而隊(duì)列中的消息存在隊(duì)列中的時(shí)間,一旦超過TTL過期時(shí)間則成為Dead Letter(死信)。
Dead Letter Exchanges(DLX):
DLX即死信交換機(jī),綁定在死信交換機(jī)上的即死信隊(duì)列。RabbitMQ的Queue(隊(duì)列)可以配置兩個參數(shù)x-dead-letter-exchange和x-dead-letter-routing-key(可選),一旦隊(duì)列內(nèi)出現(xiàn)了Dead
Letter(死信),則按照這兩個參數(shù)可以將消息重新路由到另一個Exchange(交換機(jī)),讓消息重新被消費(fèi)。
x-dead-letter-exchange:隊(duì)列中出現(xiàn)Dead Letter后將Dead Letter重新路由轉(zhuǎn)發(fā)到指定 exchange(交換機(jī))。
x-dead-letter-routing-key:指定routing-key發(fā)送,一般為要指定轉(zhuǎn)發(fā)的隊(duì)列。
隊(duì)列出現(xiàn)Dead Letter的情況有:
下邊結(jié)合一張圖看看如何實(shí)現(xiàn)超30分鐘未支付關(guān)單功能,我們將訂單消息A0001發(fā)送到延遲隊(duì)列order.delay.queue,并設(shè)置x-message-tt消息存活時(shí)間為30分鐘,當(dāng)?shù)竭_(dá)30分鐘后訂單消息A0001成為了Dead
Letter(死信),延遲隊(duì)列檢測到有死信,通過配置x-dead-letter-exchange,將死信重新轉(zhuǎn)發(fā)到能正常消費(fèi)的關(guān)單隊(duì)列,直接監(jiān)聽關(guān)單隊(duì)列處理關(guān)單邏輯即可。
發(fā)送消息時(shí)指定消息延遲的時(shí)間。
public void send(String delayTimes) { amqpTemplate.convertAndSend("order.pay.exchange", "order.pay.queue","大家好我是延遲數(shù)據(jù)", message -> { // 設(shè)置延遲毫秒值 message.getMessageProperties().setExpiration(String.valueOf(delayTimes)); return message; }); } }
設(shè)置延遲隊(duì)列出現(xiàn)死信后的轉(zhuǎn)發(fā)規(guī)則。
/** * 延時(shí)隊(duì)列 */ @Bean(name = "order.delay.queue") public Queue getMessageQueue() { return QueueBuilder .durable(RabbitConstant.DEAD_LETTER_QUEUE) // 配置到期后轉(zhuǎn)發(fā)的交換 .withArgument("x-dead-letter-exchange", "order.close.exchange") // 配置到期后轉(zhuǎn)發(fā)的路由鍵 .withArgument("x-dead-letter-routing-key", "order.close.queue") .build(); }
前邊幾種延時(shí)隊(duì)列的實(shí)現(xiàn)方法相對簡單,比較容易理解,時(shí)間輪算法就稍微有點(diǎn)抽象了。Kafka、Netty都有基于時(shí)間輪算法實(shí)現(xiàn)延時(shí)隊(duì)列,下邊主要實(shí)踐Netty的延時(shí)隊(duì)列講一下時(shí)間輪是什么原理。
先來看一張時(shí)間輪的原理圖,解讀一下時(shí)間輪的幾個基本概念。
wheel:時(shí)間輪,圖中的圓盤可以看作是鐘表的刻度。比如一圈round長度為24秒,刻度數(shù)為8,那么每一個刻度表示3秒。那么時(shí)間精度就是3秒。時(shí)間長度/刻度數(shù)值越大,精度越大。
當(dāng)添加一個定時(shí)、延時(shí)任務(wù)A,假如會延遲25秒后才會執(zhí)行,可時(shí)間輪一圈round的長度才24秒,那么此時(shí)會根據(jù)時(shí)間輪長度和刻度得到一個圈數(shù)round和對應(yīng)的指針位置index,也是就任務(wù)A會繞一圈指向0格子上,此時(shí)時(shí)間輪會記錄該任務(wù)的round和index信息。當(dāng)round=0,index=0,指針指向0格子,任務(wù)A并不會執(zhí)行,因?yàn)閞ound=0不滿足要求。
所以每一個格子代表的是一些時(shí)間,比如1秒和25秒都會指向0格子上,而任務(wù)則放在每個格子對應(yīng)的鏈表中,這點(diǎn)和HashMap的數(shù)據(jù)有些類似。
Netty構(gòu)建延時(shí)隊(duì)列主要用HashedWheelTimer,HashedWheelTimer底層數(shù)據(jù)結(jié)構(gòu)依然是使用DelayedQueue,只是采用時(shí)間輪的算法來實(shí)現(xiàn)。
下面我們用Netty 簡單實(shí)現(xiàn)延時(shí)隊(duì)列,HashedWheelTimer構(gòu)造函數(shù)比較多,解釋一下各參數(shù)的含義。
public HashedWheelTimer(ThreadFactory threadFactory, long tickDuration, TimeUnit unit, int ticksPerWheel) { this(threadFactory, tickDuration, unit, ticksPerWheel, true); }
public class NettyDelayQueue { public static void main(String[] args) { final Timer timer = new HashedWheelTimer(Executors.defaultThreadFactory(), 5, TimeUnit.SECONDS, 2); //定時(shí)任務(wù) TimerTask task1 = new TimerTask() { public void run(Timeout timeout) throws Exception { System.out.println("order1 5s 后執(zhí)行 "); timer.newTimeout(this, 5, TimeUnit.SECONDS);//結(jié)束時(shí)候再次注冊 } }; timer.newTimeout(task1, 5, TimeUnit.SECONDS); TimerTask task2 = new TimerTask() { public void run(Timeout timeout) throws Exception { System.out.println("order2 10s 后執(zhí)行"); timer.newTimeout(this, 10, TimeUnit.SECONDS);//結(jié)束時(shí)候再注冊 } }; timer.newTimeout(task2, 10, TimeUnit.SECONDS); //延遲任務(wù) timer.newTimeout(new TimerTask() { public void run(Timeout timeout) throws Exception { System.out.println("order3 15s 后執(zhí)行一次"); } }, 15, TimeUnit.SECONDS); } }
從執(zhí)行的結(jié)果看,order3、order3延時(shí)任務(wù)只執(zhí)行了一次,而order2、order1為定時(shí)任務(wù),按照不同的周期重復(fù)執(zhí)行。
order1 5s 后執(zhí)行 order2 10s 后執(zhí)行 order3 15s 后執(zhí)行一次 order1 5s 后執(zhí)行 order2 10s 后執(zhí)行
為了讓大家更容易理解,上邊的代碼寫的都比較簡單粗糙,幾種實(shí)現(xiàn)方式的demo已經(jīng)都提交到GitHub 地址:https://github.com/chengxy-nds/delayqueue,感興趣的小伙伴可以下載跑一跑。
可能寫的有不夠完善的地方,如哪里有錯誤或者不明了的,歡迎大家踴躍指正!
原文鏈接:https://juejin.im/post/5eb4bb615188256d7674a7fb