RabbitMQ



项目地址

  • 教程作者:
  • 教程地址:
  • 代码仓库地址:
  • 所用到的框架和插件:
dbt 
airflow

一、RabbitMQ

  • 课程地址

https://www.bilibili.com/video/BV1JG4y187iv?spm_id_from=333.788.player.switch&vd_source=791e6deaa9c8a56b1f845a0bc1431b71

1.1 基础概念

1. 基础组成

  1. broker:节点
  2. queue: Once a message is consumed by one consumer, other consumers will not be able to receive it. 如果需要广播数据,可以一个交换机通过Key绑定多个队列,再由多个消费者订阅这些队列的方式。
  3. exchange: 消息投递到交换机,交换机通过规则投递到一个或者多个queue中
  4. routingkey:生产者发送消息时候,会带着routing-key发送给exchange,这个key通过binding key 结合使用,可以控制消息的流向。
  5. bingding key:路由器和queue关联作用,这样exchange就可以指定queue了
  6. channel :每个Channel表示一个会话任务,可建立多个channel.

2. 死信队列,延迟队列

死信队列(Dead Letter Queue):
设置:在设置了死信队列的时候,死信消息会被丢在死信队列里,不设置,消息会被丢弃;同一个项目使用一个死信交换机,然后给每个业务单独的分配一个routing key即可
死信消息:①手动被消费者拒绝或者设为死信消息;②超过了设置消息过期时间的;③超过设置的queue的长度和大小的消息;
在这里插入图片描述

延迟队列():

  • 死信+TTL:设置消息5分钟过期,不消费,会被放入死信队列里,然后在通过

3. 交换机类型

  • 直连交换机(Direct Exchange ):将消息路由刀routing key 完全匹配的队列,routing key =1 只会发送到消费者端口routing key =1 的消费者
  • Topic:根据routing key的通匹符,模糊匹配
  • Fanout:将消息广播到所有交换机绑定的队列,忽略routing key
  • Headers: 根据消息头属性进行匹配
  • 如果不指定使用的交换机,MQ默认生成7个不同的交换机

4. 3种队列

classic 队列: 先进先出

5. 消息持久化

  1. 设置交换机持久化为true
  2. 设置队列持久化为true
  3. 设置消息发送持久化为true
    在这里插入图片描述

6. 消息优先级

  • 只有在消息堆积的情况下,才会生效
    1. 设置queue的x-max-priority
    2. 发送消息时,带上消息的优先级
    3. 消费端正常消费

1.2 问题

1. 为什么使用MQ/有什么缺点

  • 结合项目场景:解耦,异步,消峰

缺点:
1. 复杂度提高,要保证rabbit mq的高可用
2. 一致性,消息幂等以及重复消息问题

2. 保证消息的可靠性(一)

  • 消息确认机制(ACK)+ 持久化 + 死信队列 + 重试机制

生产者:

  1. 创建工厂连接对象,并创建AMQP 通道
    2. 声明主队列,并且绑定死信交换机(设置死信交换机,死信路由)
    3. 将需要发送的消息转为二进制
    4. 设置消息持久化,并且发送

消费者:

  1. 创建连接
    2. 声明主队列,并且绑定死信交换机(设置死信交换机,死信路由)
    3. 设置消费者的消息预取数量(公平调度:限制消费者一次只拉取 1 条未确认消息)
    4. 注册消息接收处理事件
    5. 开始消费消息

在这里插入图片描述

using RabbitMQ.Client;
using RabbitMQ.Client.Events;
using System.Text;
using System.Collections.Concurrent;

var factory = new ConnectionFactory() {
   
    HostName = "localhost" };
using var connection = factory.CreateConnection();
using var channel = connection.CreateModel();

// 1. 创建主队列 + 死信队列 + 死信交换机
channel.ExchangeDeclare("dlx_exchange", ExchangeType.Direct, durable: true);
channel.QueueDeclare("dlx_queue", durable: true, exclusive: false, 
### RabbitMQ 使用指南和教程 #### 安装 RabbitMQ RabbitMQ 是一种基于 AMQP 协议的消息中间件,用于实现分布式系统的可靠消息传递。以下是安装 RabbitMQ 的基本流程: 1. **安装 Erlang** RabbitMQ 基于 Erlang 编程语言开发,因此需要先安装 Erlang 运行环境。可以通过包管理器或者下载官方二进制文件完成安装。 2. **安装 RabbitMQ Server** 下载并安装 RabbitMQ Server 软件包。对于 Linux 用户,可以使用以下命令: ```bash sudo apt-get install rabbitmq-server ``` 3. **启动服务** 启动 RabbitMQ 服务后,默认监听端口为 `5672`(AMQP 协议),Web 管理界面默认运行在 `15672` 端口上。 ```bash sudo systemctl start rabbitmq-server ``` 4. **启用 Web 管理插件** 可通过以下命令启用 RabbitMQ 提供的 Web 管理工具: ```bash sudo rabbitmq-plugins enable rabbitmq_management ``` --- #### 配置用户与权限 为了安全访问 RabbitMQ 实例,通常需要创建自定义用户并分配相应权限。 - 创建新用户: ```bash rabbitmqctl add_user rabbitmq 211314 ``` 此操作会新增名为 `rabbitmq` 的用户,并将其密码设为 `211314`[^1]。 - 设置用户角色: ```bash rabbitmqctl set_user_tags rabbitmq administrator ``` 将该用户的标签设定为管理员角色,使其拥有完全控制权[^1]。 - 授予用户权限: ```bash rabbitmqctl set_permissions -p "/" rabbitmq ".*" ".*" ".*" ``` 上述命令授予用户对根虚拟主机 `/` 中所有资源的操作权限[^1]。 - 查看现有用户及其角色: ```bash rabbitmqctl list_users ``` --- #### 集群配置 RabbitMQ 支持多种集群模式来提升可用性和性能。主要分为两类:普通模式和镜像模式。 - **普通模式** 在这种模式下,各节点独立存储队列中的数据和其他元信息(如交换机)。当客户端尝试消费某个不在当前连接节点上的消息时,目标节点会被请求转发所需的数据[^2]。 - **镜像模式** 对比之下,在镜像模式中,指定队列的内容将在多个节点间保持一致副本。即使部分成员失效,剩余存活节点仍能继续提供完整的服务功能[^2]。 > 注意事项:尽管镜像模式提高了可靠性,但也带来了额外开销——网络流量增加以及写入延迟上升等问题需被充分考虑进去。 --- #### 应用集成示例 假设要在一个 Java 或 Python 应用程序里利用 RabbitMQ 来发送/接收消息,则可能涉及以下几个步骤: 1. **声明交换器 (Exchange)** 和绑定关系: ```java channel.exchangeDeclare(exchangeName, "direct", true); channel.queueDeclare(queueName, true, false, false, null); channel.queueBind(queueName, exchangeName, routingKey); ``` 如此一来便完成了持久化队列及路由键关联工作[^3]。 2. 发布一条测试消息至上述已建立好的通道路径之中; 3. 订阅对应主题下的事件流以便实时捕获最新动态更新情况; --- #### 总结 以上涵盖了从基础安装到高级特性使用的整个过程概述。希望这些指导能够帮助您快速掌握如何部署与维护属于自己的 RabbitMQ 平台实例! 问题
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值