微服务-springboot-rabbitmq:实现延时队列

延时队列应用于什么场景

延时队列顾名思义，即放置在该队列里面的消息是不需要立即消费的，而是等待一段时间之后取出消费。
那么，为什么需要延迟消费呢？我们来看以下的场景

网上商城下订单后30分钟后没有完成支付，取消订单(如：淘宝、去哪儿网)
系统创建了预约之后，需要在预约时间到达前一小时提醒被预约的双方参会
系统中的业务失败之后，需要重试

这些场景都非常常见，我们可以思考，比如第二个需求，系统创建了预约之后，需要在预约时间到达前一小时提醒被预约的双方参会。那么一天之中肯定是会有很多个预约的，时间也是不一定的，假设现在有1点 2点 3点三个预约，如何让系统知道在当前时间等于0点 1点 2点给用户发送信息呢，是不是需要一个轮询，一直去查看所有的预约，比对当前的系统时间和预约提前一小时的时间是否相等呢？这样做非常浪费资源而且轮询的时间间隔不好控制。如果我们使用延时消息队列呢，我们在创建时把需要通知的预约放入消息中间件中，并且设置该消息的过期时间，等过期时间到达时再取出消费即可。
Rabbitmq实现延时队列一般而言有两种形式：
第一种方式：利用两个特性： Time To Live(TTL)、Dead Letter Exchanges（DLX）
第二种方式：利用rabbitmq中的插件x-delay-message

利用TTL DLX实现延时队列的方式

TTL DLX是什么

TTL
RabbitMQ可以针对队列设置x-expires(则队列中所有的消息都有相同的过期时间)或者针对Message设置x-message-ttl(对消息进行单独设置，每条消息TTL可以不同)，来控制消息的生存时间，如果超时(两者同时设置以最先到期的时间为准)，则消息变为dead letter(死信)

Dead Letter Exchanges（DLX）
    RabbitMQ的Queue可以配置x-dead-letter-exchange和x-dead-letter-routing-key（可选）两个参数，如果队列内出现了dead letter，则按照这两个参数重新路由转发到指定的队列。
    x-dead-letter-exchange：出现dead letter之后将dead letter重新发送到指定exchange
    x-dead-letter-routing-key：出现dead letter之后将dead letter重新按照指定的routing-key发送

Springboot集成rabbitmq实现第一种方式

在pom.xml文件中增加rabbitmq的依赖

        <dependency>

            <groupId>org.springframework.boot</groupId>

            <artifactId>spring-boot-starter-amqp</artifactId>

        </dependency>

初始化queue exchange和queue及exchange之间的binding关系

import org.springframework.amqp.core.Binding;

import org.springframework.amqp.core.BindingBuilder;

import org.springframework.amqp.core.DirectExchange;

import org.springframework.context.annotation.Bean;

import org.springframework.context.annotation.Configuration;

import org.springframework.amqp.core.Queue;

import java.util.HashMap;

import java.util.Map;

@Configuration

public class Config {

    public static final String IMMEDIATE_QUEUE = "queue.demo.immediate";//立即消费的队列名称

    public static final String IMMEDIATE_EXCHANGE = "exchange.demo.immediate";//立即消费的exchange

    public static final String IMMEDIATE_ROUTING_KEY = "routingkey.demo.immediate";//立即消费的routing-key 名称

    public static final String DELAY_QUEUE= "queue.demo.delay";//延时消费的队列名称

    public static final String DEAD_LETTER_EXCHANGE = "exchange.demo.delay";//延时消费的exchange

    public static final String DELAY_ROUTING_KEY = "routingkey.demo.delay";//延时消费的routing-key名称

    // 创建一个立即消费队列

    @Bean

    public Queue immediateQueue() {

        // 第一个参数是创建的queue的名字，第二个参数是是否支持持久化

        return new Queue(IMMEDIATE_QUEUE, true);

    }

    // 创建一个延时队列

    @Bean

    public Queue delayQueue() {

        Map<String, Object> params = new HashMap<>();

        // x-dead-letter-exchange 声明了队列里的死信转发到的DLX名称，

        params.put("x-dead-letter-exchange", IMMEDIATE_EXCHANGE);

        // x-dead-letter-routing-key 声明了这些死信在转发时携带的 routing-key 名称。

        params.put("x-dead-letter-routing-key", IMMEDIATE_ROUTING_KEY);

        return new Queue(DELAY_QUEUE, true, false, false, params);

    }

    public DirectExchange immediateExchange() {

        // 一共有三种构造方法，可以只传exchange的名字， 第二种，可以传exchange名字，是否支持持久化，是否可以自动删除，

        //第三种在第二种参数上可以增加Map，Map中可以存放自定义exchange中的参数

        return new DirectExchange(IMMEDIATE_EXCHANGE, true, false);

    }

    @Bean public DirectExchange deadLetterExchange() {

        // 一共有三种构造方法，可以只传exchange的名字， 第二种，可以传exchange名字，是否支持持久化，是否可以自动删除，

        // 第三种在第二种参数上可以增加Map，Map中可以存放自定义exchange中的参数

        return new DirectExchange(DEAD_LETTER_EXCHANGE, true, false);

    }

    //把立即消费的队列和立即消费的exchange绑定在一起

    @Bean

    public Binding immediateBinding() {

        return BindingBuilder.bind(immediateQueue()).to(immediateExchange()).with(IMMEDIATE_ROUTING_KEY);

    }

    //把延时消费的队列和延时消费的exchange绑定在一起

    @Bean

    public Binding delayBinding() {

        return BindingBuilder.bind(delayQueue()).to(deadLetterExchange()).with(DELAY_ROUTING_KEY);

    }

}

生产者生产消息

import com.microservice.amqqp.amqp.config.Config;

import org.springframework.amqp.rabbit.core.RabbitTemplate;

import org.springframework.beans.factory.annotation.Autowired;

import org.springframework.stereotype.Component;

import java.text.SimpleDateFormat;

import java.util.Date;

/**

 * 生产者生产消息

 */

@Component

public class ImmediateSender {

    @Autowired

    private RabbitTemplate rabbitTemplate;

    public void send(String msg, int delayTime) {

        System.out.println("msg="+",delayTime" + delayTime);

        SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");

        this.rabbitTemplate.convertAndSend(Config.DEAD_LETTER_EXCHANGE, Config.DELAY_ROUTING_KEY, msg, message -> {

            message.getMessageProperties().setExpiration(delayTime + ""); System.out.println(sdf.format(new Date()) + " Delay sent."); return message;

        });

    }

}

消费者消费消息：

import com.microservice.amqqp.amqp.config.Config;

import org.springframework.amqp.rabbit.annotation.EnableRabbit;

import org.springframework.amqp.rabbit.annotation.RabbitHandler;

import org.springframework.amqp.rabbit.annotation.RabbitListener;

import org.springframework.context.annotation.Configuration;

import org.springframework.stereotype.Component;

import java.text.SimpleDateFormat;

import java.util.Date;

/**

 * 消费者消费消息

 */

@Component

@EnableRabbit

@Configuration

public class ImmediateReceiver {

    @RabbitListener(queues = Config.IMMEDIATE_QUEUE)

    @RabbitHandler

    public void get(String msg) {

        SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");

        System.out.println("收到延时消息时间："+sdf.format(new Date()) + " Delay sent.");

        System.out.println("收到延时消息了:" + msg);

    }

}

测试类：

import com.microservice.amqqp.amqp.send.ImmediateSender;

import org.junit.Test;

import org.junit.runner.RunWith;

import org.springframework.beans.factory.annotation.Autowired;

import org.springframework.boot.test.context.SpringBootTest;

import org.springframework.test.context.junit4.SpringRunner;

import java.util.concurrent.TimeUnit;

@RunWith(SpringRunner.class)

@SpringBootTest

public class AmqpApplicationTests {

    @Autowired

    ImmediateSender immediateSender;

    @Test

    public void test() {

        immediateSender.send("我是一个延时消息",3000);//3秒

        //让服务一直挂起，不然，接收消息时，服务已经停了

        while(true){

            try {

                TimeUnit.SECONDS.sleep(1);

            } catch (InterruptedException e) {

                e.printStackTrace();

            }

        }

    }

}

第一次运行，需要进入rabbitmq管理界面，加上exchange，不然会报错（no exchange 'exchange.demo.immediate' in vhost '/'）

微服务-springboot-rabbitmq:实现延时队列-LMLPHP

添加方式：1.浏览器打开：http://127.0.0.1:15672 2.选择Exchanges 3.Add a new exchange ,填写name:exchange.demo.immediate,type选择：direct,点击Add exchange ，完成。
微服务-springboot-rabbitmq:实现延时队列-LMLPHP

运行测试类，结果：

微服务-springboot-rabbitmq:实现延时队列-LMLPHP

再来一种测试：

import com.microservice.amqqp.amqp.send.ImmediateSender;

import org.junit.Test;

import org.junit.runner.RunWith;

import org.springframework.beans.factory.annotation.Autowired;

import org.springframework.boot.test.context.SpringBootTest;

import org.springframework.test.context.junit4.SpringRunner;

import java.util.concurrent.TimeUnit;

@RunWith(SpringRunner.class)

@SpringBootTest

public class AmqpApplicationTests1 {

    @Autowired

    ImmediateSender immediateSender;

    /**

     * 发送三条消息，设置延时时间，发现所有的都在等待；

     * 这是因为符合先进先出原则，三条消息是依次被消费，并不会因为时间到了，就消费

     */

    @Test

    public void test() {

        immediateSender.send("我是一个延时消息，睡10秒",10000);//10秒

        immediateSender.send("我是一个延时消息，睡2秒",2000);//2秒

        immediateSender.send("我是一个延时消息，睡1秒",1000);//1秒

        //让服务一直挂起，不然，接收消息时，服务已经停了

        while(true){

            try {

                TimeUnit.SECONDS.sleep(1);

            } catch (InterruptedException e) {

                e.printStackTrace();

            }

        }

    }

}

结果：

微服务-springboot-rabbitmq:实现延时队列-LMLPHP

经过测试，我们可以发现，当我们先增加一条过期时间大(10000)的A消息进入，之后再增加一个过期时间小的(1000)消息B,并没有出现想象中的B消息先被消费，A消息后被消费，而是出现了当10000过去的时候，AB消息同时被消费，也就是B消息的消费被阻塞了。

为什么会出现这样的现象呢？
我们知道利用TTL DLX特性实现的方式，实际上在第一个延时队列C里面设置了dlx，生产者生产了一条带ttl的消息放入了延时队列C中，等到延时时间到了，延时队列C中的消息变成了死信，根据延时队列C中设置的dlx的exchange的转发规则，转发到了实际消费队列D中，当该队列中的监听器监听到消息时就会正式开始消费。那么实际上延时队列中的消息也是放入队列中的，队列满足先进先出，而延时大的消息A还没出队，所以B消息也不能顺利出队。

上面实现方式的源码地址：https://github.com/qjm201000/micro_service_amqp_ttldlx.git

利用Rabbitmq的插件x-delay-message实现延时队列的方式

为了解决上面的问题，Rabbitmq实现了一个插件x-delay-message来实现延时队列。

安装插件：

1.rabbit官网下载插件
插件地址

2.找到这个插件

微服务-springboot-rabbitmq:实现延时队列-LMLPHP

3.下载下来复制到D:\RabbitMQ Server\rabbitmq_server-3.7.8\plugins中

微服务-springboot-rabbitmq:实现延时队列-LMLPHP

4.doc运行：rabbitmq-plugins enable rabbitmq_delayed_message_exchange

微服务-springboot-rabbitmq:实现延时队列-LMLPHP

开始写代码：

配置：

import org.springframework.amqp.core.Binding;

import org.springframework.amqp.core.BindingBuilder;

import org.springframework.amqp.core.CustomExchange;

import org.springframework.amqp.core.Queue;

import org.springframework.context.annotation.Bean;

import org.springframework.context.annotation.Configuration;

import java.util.HashMap;

import java.util.Map;

@Configuration

public class XdelayConfig {

    public static final String IMMEDIATE_QUEUE_XDELAY = "queue.xdelay.immediate";//立即消费的队列名称

    public static final String DELAYED_EXCHANGE_XDELAY = "exchange.xdelay.delayed";//延时的exchange

    public static final String DELAY_ROUTING_KEY_XDELAY = "routingkey.xdelay.delay";//

    // 创建一个立即消费队列

    @Bean

    public Queue immediateQueue() {

        // 第一个参数是创建的queue的名字，第二个参数是是否支持持久化

        return new Queue(IMMEDIATE_QUEUE_XDELAY, true);

    }

    @Bean

    public CustomExchange delayExchange() {

        Map<String, Object> args = new HashMap<String, Object>();

        args.put("x-delayed-type", "direct");

        return new CustomExchange(DELAYED_EXCHANGE_XDELAY, "x-delayed-message", true, false, args);

    }

    //把立即消费的队列和延时消费的exchange绑定在一起

    @Bean

    public Binding bindingNotify() {

        return BindingBuilder.bind(immediateQueue()).to(delayExchange()).with(DELAY_ROUTING_KEY_XDELAY).noargs();

    }

}

发送：

import com.microservice.amqp.config.XdelayConfig;

import org.springframework.amqp.rabbit.core.RabbitTemplate;

import org.springframework.beans.factory.annotation.Autowired;

import org.springframework.stereotype.Component;

import java.text.SimpleDateFormat;

import java.util.Date;

@Component

public class XdelaySender {

    @Autowired

    private RabbitTemplate rabbitTemplate;

    public void send(String msg, int delayTime) {

        System.out.println("msg= "+msg+ ".delayTime" + delayTime);

        SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");

        this.rabbitTemplate.convertAndSend(XdelayConfig.DELAYED_EXCHANGE_XDELAY, XdelayConfig.DELAY_ROUTING_KEY_XDELAY, msg, message ->  {

            message.getMessageProperties().setDelay(delayTime);

            System.out.println(sdf.format(new Date()) + " Delay sent.");

            return message;

        });

    }

}

接收：

import com.microservice.amqp.config.XdelayConfig;

import org.springframework.amqp.rabbit.annotation.EnableRabbit;

import org.springframework.amqp.rabbit.annotation.RabbitListener;

import org.springframework.context.annotation.Configuration;

import org.springframework.stereotype.Component;

import java.text.SimpleDateFormat;

import java.util.Date;

@Component

@EnableRabbit

@Configuration

public class XdelayReceiver {

    @RabbitListener(queues = XdelayConfig.IMMEDIATE_QUEUE_XDELAY)

    public void get(String msg) {

        SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");

        System.out.println("收到延时消息时间："+sdf.format(new Date()) + " Delay sent.");

        System.out.println("收到延时消息:" + msg);

    }

}

test:

import com.microservice.amqp.send.XdelaySender;

import org.junit.Test;

import org.junit.runner.RunWith;

import org.springframework.beans.factory.annotation.Autowired;

import org.springframework.boot.test.context.SpringBootTest;

import org.springframework.test.context.junit4.SpringRunner;

import java.util.concurrent.TimeUnit;

@RunWith(SpringRunner.class)

@SpringBootTest

public class AmqpApplicationTests {

    @Autowired

    XdelaySender xdelaySender;

    /**

     * 发送三条消息，设置延时时间，谁时间到了，谁就消费

     */

    @Test

    public void test() {

        xdelaySender.send("我来发一个测试消息,10秒", 10000);//10秒

        xdelaySender.send("我来发一个测试消息，2秒", 2000);//2秒

        xdelaySender.send("我来发一个测试消息，1秒", 2000);//1秒

        //让服务一直挂起，不然，接收消息时，服务已经停了

        while(true){

            try {

                TimeUnit.SECONDS.sleep(1);

            } catch (InterruptedException e) {

                e.printStackTrace();

            }

        }

    }

}

结果：

微服务-springboot-rabbitmq:实现延时队列-LMLPHP

源码地址：https://github.com/qjm201000/micro_service_amqp_xdelaymessage.git