什么是消息队列(mq)?

MQ(IBM MQ)代表消息队列,是一种应用程序对应用程序的通信方法;通过消息传递队列发送和接收消息数据,支持应用程序,系统,服务和文件之间的信息交换。这简化了业务应用程序的创建和维护

消息队列是典型的消费者与生产者模型。

生产者不断向消息队列发送消息,消费者不断的从队列中获得消息。消息的产生和消费都是异步的,而且只关心消息的发送和接受,没有业务逻辑的入侵,这样就实现了生产者和消费者的解耦。

AMQP和JMS

MQ是消息通信的模型,并不是具体实现。现在实现MQ的有两种主流方式:AMQP、JMS。

AMQP

AMQP,即Advanced Message Queuing Protocol,一个提供统一消息服务的应用层标准高级消息队列协议,是应用层协议的一个开放标准,为面向消息的中间件设计。基于此协议的客户端与消息中间件可传递消息,并不受客户端/中间件不同产品,不同的开发语言等条件的限制。Erlang中的实现有RabbitMQ等。

JMS

JMS即Java消息服务(Java Message Service)应用程序接口,是一个Java平台中关于面向消息中间件(MOM)的API,用于在两个应用程序之间,或分布式系统中发送消息,进行异步通信。Java消息服务是一个与具体平台无关的API,绝大多数MOM提供商都对JMS提供支持。

AMQP与JMS区别

  • JMS是定义了统一的接口,来对消息操作进行统一;AMQP是通过规定协议来统一数据交互的格式

  • JMS限定了必须使用Java语言;AMQP只是协议,不规定实现方式,因此是跨语言的。

  • JMS规定了两种消息模型;而AMQP的消息模型更加丰富

常见的MQ产品

  • ActiveMQ:基于JMS
  • RabbitMQ:基于AMQP协议,erlang语言开发,稳定性好
  • RocketMQ:基于JMS,阿里巴巴产品,目前交由Apache基金会
  • Kafka:分布式消息系统,高吞吐量

RabbitMQ

安装教程

https://cloudlandboy.github.io/myNote/#/project/leyoumall/rabbitmq-install

docker安装:

1.下载镜像

docker pull rabbitmq:management

2.创建容器

docker run -d --name rabbitmq  -p 5672:5672 -p 15672:15672 

什么是RabbitMQ?

RabbitMQ是实现了高级消息队列协议(AMQP)的开源消息代理软件(亦称面向消息的中间件)。RabbitMQ服务器是用Erlang语言编写的,而集群和故障转移是构建在开放电信平台框架上的。所有主要的编程语言均有与代理接口通讯的客户端

支持多种开发语言:java、python、ruby、.NET、PHP、C/C++、node.js等

官网: http://www.rabbitmq.com/

官方教程:http://www.rabbitmq.com/getstarted.html

RabbitMQ管理界面

添加用户及角色:

访问:127.0.0.1:15672打开RabbitMQ管理界面

管理界面介绍:

img

img

添加用户:

img

1、超级管理员(administrator)

可登陆管理控制台,可查看所有的信息,并且可以对用户,策略(policy)进行操作。

2、监控者(monitoring)

可登陆管理控制台,同时可以查看rabbitmq节点的相关信息(进程数,内存使用情况,磁盘使用情况等)

3、策略制定者(policymaker)

可登陆管理控制台, 同时可以对policy进行管理。但无法查看节点的相关信息(上图红框标识的部分)。

4、普通管理者(management)

仅可登陆管理控制台,无法看到节点信息,也无法对策略进行管理。

5、其他

无法登陆管理控制台,通常就是普通的生产者和消费者。

创建Virtual hosts

img

创建完回到admin管理界面点击新建的账户名称admin

img

了解即可的几种消息模型

1、基本消息模型

基本消息示意图:

image-20200425140736643

基本消息模型相当于,你把邮件放到邮筒里,然后rabbitmq充当邮局、邮筒和邮递员,只不过rabbitmq并不对数据做处理。rabbitmq只会做数据存储,转发数据消息的二进制块。最终处理数据的是消费者。

可以设置一个消息确定机制(ACK),来确定你的数据有没有被处理掉。

队列属性

queueDeclare(String queue, 
            boolean durable, 
            boolean exclusive, 
            Map<String, Object> arguments);

queue: 队列名称

durable: 是否持久化, 队列的声明默认是存放到内存中的,如果rabbitmq重启会丢失,如果想重启之后还存在就要使队列持久化,保存到Erlang自带的Mnesia数据库中,当rabbitmq重启之后会读取该数据库

exclusive:是否排外的,有两个作用,一:当连接关闭时connection.close()该队列是否会自动删除;二:该队列是否是私有的private,如果不是排外的,可以使用两个消费者都访问同一个队列,没有任何问题,如果是排外的,会对当前队列加锁,其他通道channel是不能访问的,如果强制访问会报异常:com.rabbitmq.client.ShutdownSignalException: channel error; protocol method: #method<channel.close>(reply-code=405, reply-text=RESOURCE_LOCKED - cannot obtain exclusive access to locked queue ‘queue_name’ in vhost ‘/‘, class-id=50, method-id=20)一般等于true的话用于一个队列只能有一个消费者来消费的场景

autoDelete:是否自动删除,当最后一个消费者断开连接之后队列是否自动被删除,可以通过RabbitMQ Management,查看某个队列的消费者数量,当consumers = 0时队列就会自动删除

arguments:
队列中的消息什么时候会自动被删除?

Message TTL(x-message-ttl):设置队列中的所有消息的生存周期(统一为整个队列的所有消息设置生命周期), 也可以在发布消息的时候单独为某个消息指定剩余生存时间,单位毫秒, 类似于redis中的ttl,生存时间到了,消息会被从队里中删除,注意是消息被删除,而不是队列被删除, 特性Features=TTL, 单独为某条消息设置过期时间AMQP.BasicProperties.Builder properties = new AMQP.BasicProperties().builder().expiration(“6000”);
channel.basicPublish(EXCHANGE_NAME, “”, properties.build(), message.getBytes(“UTF-8”));

Auto Expire(x-expires): 当队列在指定的时间没有被访问(consume, basicGet, queueDeclare…)就会被删除,Features=Exp

Max Length(x-max-length): 限定队列的消息的最大值长度,超过指定长度将会把最早的几条删除掉, 类似于mongodb中的固定集合,例如保存最新的100条消息, Feature=Lim

Max Length Bytes(x-max-length-bytes): 限定队列最大占用的空间大小, 一般受限于内存、磁盘的大小, Features=Lim B

Dead letter exchange(x-dead-letter-exchange): 当队列消息长度大于最大长度、或者过期的等,将从队列中删除的消息推送到指定的交换机中去而不是丢弃掉,Features=DLX

Dead letter routing key(x-dead-letter-routing-key):将删除的消息推送到指定交换机的指定路由键的队列中去, Feature=DLK

Maximum priority(x-max-priority):优先级队列,声明队列时先定义最大优先级值(定义最大值一般不要太大),在发布消息的时候指定该消息的优先级, 优先级更高(数值更大的)的消息先被消费,

Lazy mode(x-queue-mode=lazy): Lazy Queues: 先将消息保存到磁盘上,不放在内存中,当消费者开始消费的时候才加载到内存中

Master locator(x-queue-master-locator)

注意

关于队列的声明,如果使用同一套参数进行声明了,就不能再使用其他参数来声明,要么删除该队列重新删除,可以使用命令行删除也可以在RabbitMQ Management上删除,要么给队列重新起一个名字。

2、work消息模型

work示意图:

1532765197277

任务队列,一个生产者有多个消费者,主要思想是避免执行资源密集型任务时,必须等待它执行完成。相反我们可以稍后完成任务,我们将任务封装为消息并将其发送到队列。在后台邮箱的工作进程将获取任务并最终执行作业。当你运行许多消费者时,任务将在他们之间共享,但是一个消息只能被一个消费者共享。

面试题避免消息堆积?

  • 采用workqueue,多个消费者监听同一队列。

  • 接收到消息以后,而是通过线程池,异步消费。

能者多劳
  • 消费者1比消费者2的效率要低,一次任务的耗时较长

  • 然而两人最终消费的消息数量是一样的

  • 消费者2大量时间处于空闲状态,消费者1一直忙碌

    现在的状态属于是把任务平均分配,正确的做法应该是消费越快的人,消费的越多。

    怎么实现呢?

    我们可以使用basicQos方法和prefetchCount = 1设置。 这告诉RabbitMQ一次不要向工作人员发送多于一条消息。 或者换句话说,不要向该工作人员发送新消息,直到它处理并确认了前一个消息。 相反,它会将其分派给不忙碌的工作人员。

    在这里插入图片描述

3、订阅模型

work只能传递给一个消费者,只能被消费一次,而订阅模型可以一个消息多个消费者使用。

这种模式被称为“发布/订阅”。

订阅模型示意图:
在这里插入图片描述

解读:

1、1个P生产者,多个消费者

2、1个X交换机,生产者把消费发送到交换机,由交换机发送给指定队列

3、多个消息队列,每个消费者绑定一个交换机

4、每个队列都只有一个消费者。

5、生产者发送消息,经过交换机到达队列,实现一个消息被多个消费者获取。

X(Exchange):交换机,一方面:接受生产者发送的消息。另一方面:知道如何处理消息,例如发送给某个特别的队列,递交给所有队列,或是将消息丢弃。到底如何操作取决于Exchange的类型。

Exchange类型有一下几种:

  • Fanout:广播:将消息交给所有绑定到交换机的队列
  • Direct: 定向,把消息交给符合指定的routing key 的队列
  • Topic: 通配符,把消息交给符合routing pattern(路由模式)的队列

】Exchange只负责转发消息,不具被存储消息的能力,如果队列与Exchange没有绑定或者没有符合路由规则的队列,那么消息会丢失。

-订阅模型-Fanout

Fanout,也称之为:广播

Fanout流程图:

在这里插入图片描述

在广播模式下,消息发送流程是这样的:

  • 可以有多个消费者
  • 每个消费者有自己的queue(队列)
  • 每个队列都要绑定到Exchange(交换机)
  • 生产者发送的消息,只能发送到交换机,交换机来决定要发给哪个队列,生产者无法决定。
  • 交换机把消息发送给绑定过的所有队列
  • 队列的消费者都能拿到消息。实现一条消息被多个消费者消费

-订阅模型-Direct

有选择性的接收消息

在订阅模式中,生产者发布消息,所有消费者都可以获取所有消息。

在路由模式中,我们将添加一个功能 - 我们将只能订阅一部分消息。 例如,我们只能将重要的错误消息引导到日志文件(以节省磁盘空间),同时仍然能够在控制台上打印所有日志消息。

但是,在某些场景下,我们希望不同的消息被不同的队列消费。这时就要用到Direct类型的Exchange。

在Direct模型下,队列与交换机的绑定,不能是任意绑定了,而是要指定一个RoutingKey(路由key)

消息的发送方在向Exchange发送消息时,也必须指定消息的routing key。

1532766437787

P:生产者,向Exchange发送消息,发送消息时,会指定一个routing key。

X:Exchange(交换机),接收生产者的消息,然后把消息递交给 与routing key完全匹配的队列

C1:消费者,其所在队列指定了需要routing key 为 error 的消息

C2:消费者,其所在队列指定了需要routing key 为 info、error、warning 的消息

-订阅模型-Topic

Topic类型的ExchangeDirect相比,都是可以根据RoutingKey把消息路由到不同的队列。只不过Topic类型Exchange可以让队列在绑定Routing key 的时候使用通配符!

Routingkey一般都是有一个或多个单词组成,多个单词之间以”.”分割,例如:item.insert

通配符规则:

`#`:匹配一个或多个词

`*`:匹配不多不少恰好1个词Copy to clipboardErrorCopied

举例:

`audit.#`:能够匹配`audit.irs.corporate` 或者 `audit.irs`

`audit.*`:只能匹配`audit.irs`

在这里插入图片描述

在这个例子中,我们将发送所有描述动物的消息。消息将使用由三个字(两个点)组成的routing key发送。路由关键字中的第一个单词将描述速度,第二个颜色和第三个种类:速度.颜色.种类

我们创建了三个绑定:Q1绑定了* .orange.*,Q2绑定了*.*.rabbitlazy.#

Q1匹配所有的橙色动物。

Q2匹配关于兔子以及懒惰动物的消息。

持久化

如何避免消息丢失?

1、消费者的ACK机制。可以防止消费者丢失消息。

2、但是,如果在消费者消费之前,MQ就宕机了,消息就没了。

要将消息持久化,前提是:队列、Exchange都持久化

交换机持久化

1532766951432

队列持久化

1532766981230

消息持久化

image-20200424212749264

Spring AMQP

官方文档https://spring.io/projects/spring-amqp#overview
在这里插入图片描述

SpringAMQP项目将核心Spring概念应用于基于AMQP的消息传递解决方案的开发。它提供了一个“模板”作为发送和接收消息的高级抽象。它还提供了对带有“侦听器容器”的消息驱动POJO的支持。这些库简化了AMQP资源的管理,同时促进了依赖注入和声明式配置的使用。在所有这些情况下,您将看到与Spring框架中JMS支持的相似之处。该项目由两个部分组成:Spring-AMQP是基本抽象,Spring-Rabbit是RabbitMQ实现。

在这里插入图片描述

特征

  • 用于异步处理入站消息的侦听器容器
  • 用于发送和接收信息的RabbitTemplate
  • 用于自动声明队列、交换和绑定的RabbitAdmin

】 Spring-amqp是对AMQP协议的抽象实现,而spring-rabbit 是对协议的具体实现,也是目前的唯一实现。底层使用的就是RabbitMQ。

使用

1、导入依赖和配置

添加AMQP的启动器

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-amqp</artifactId>
</dependency>

配置RabbitMQ的地址

spring:
  rabbitmq:
    host: 101.37.82.39
    username: root
    password: root
    virtual-host: /root
2、发送消息,AmqpTemplate

Spring最擅长的事情就是封装,把他人的框架进行封装和整合。

Spring为AMQP提供了统一的消息处理模板:AmqpTemplate,非常方便的发送消息,其发送方法:

image-20200424212642901

红框圈起来的是比较常用的3个方法,分别是:

  • 指定交换机、RoutingKey和消息体
  • 指定消息
  • 指定RoutingKey和消息,会向默认的交换机发送消息
3、接受消息,监听者

在SpringAmqp中,对消息的消费者进行了封装和抽象,一个普通的JavaBean中的普通方法,只要通过简单的注解,就可以成为一个消费者。

@Component
public class Listener {

    @RabbitListener(bindings = @QueueBinding(
            value = @Queue(value = "spring.test.queue", durable = "true"),
            exchange = @Exchange(
                    value = "spring.test.exchange",
                    ignoreDeclarationExceptions = "true",
                    type = ExchangeTypes.TOPIC
            ),
            key = {"#.#"}))
    public void listen(String msg){
        System.out.println("接收到消息:" + msg);
    }
}
  • @Componet:类上的注解,注册到Spring容器

    @RabbitListener :方法上的注解,声明这个方法是一个消费者方法,需要指定下面的属性:
    bindings:指定绑定关系,可以有多个。值是@QueueBinding的数组。@QueueBinding包含下面属性:

包含下面属性:

  • value:这个消费者关联的队列。值是@Queue,代表一个队列
  • exchange:队列所绑定的交换机,值是@Exchange类型
  • key:队列和交换机绑定的RoutingKey

类似listen这样的方法在一个类中可以写多个,就代表多个消费者。