• 【初始RabbitMQ】发布订阅的实现


    发布确认原理

    生产者将信道设置成 confirm 模式,一旦信道进入 confirm 模式,所有在该信道上面发布的消息都将会被指派一个唯一的 ID(从 1 开始),一旦消息被投递到所有匹配的队列之后,broker 就会发送一个确认给生产者(包含消息的唯一 ID),这就使得生产者知道消息已经正确到达目的队 列了,如果消息和队列是可持久化的,那么确认消息会在将消息写入磁盘之后发出,broker 回传 给生产者的确认消息中 delivery-tag 域包含了确认消息的序列号,此外 broker 也可以设置 basic.ack 的 multiple 域,表示到这个序列号之前的所有消息都已经得到了处理

    confirm 模式最大的好处在于他是异步的,一旦发布一条消息,生产者应用程序就可以在等信 道返回确认的同时继续发送下一条消息,当消息最终得到确认之后,生产者应用便可以通过回调 方法来处理该确认消息,如果 RabbitMQ 因为自身内部错误导致消息丢失,就会发送一条 nack 消 息,生产者应用程序同样可以在回调方法中处理该 nack 消息

    简单的来说发布确认的作用就是防止数据丢失

    发布确认的策略 

    开启发布确认的方法

    发布确认默认是没有开启的,如果要开启需要调用方法confirmSelect,每当你要想使用发布确认,都需要在channel上调用该方法

    单个确认发布

    这是一种简单的确认方式,它是一种同步确认发布的方式,也就是发布一个消息之后只有它被确认发布,后续的消息才能够继续发布,waitForConfirmsOrDie(long) 这个方法发只有在消息被确认的时候才能够返回,如果在指定时间范围内这个消息没有被确认就会抛出异常

    这种确认方式有一个最大的缺点就是:发布速度特别的慢,因为如果没有确认发布的消息就会 阻塞所有后续消息的发布,这种方式最多提供每秒不超过数百条发布消息的吞吐量。当然对于某 些应用程序来说这可能已经足够了

    1. public static void publicMessageIndividually() throws IOException, InterruptedException {
    2. Channel channel = RabbitMqUtils.getChannel();
    3. String queueName = UUID.randomUUID().toString();
    4. /*
    5. *生成一个队列
    6. * 1.队列名称
    7. * 2.队列里面的信息是否持久化(磁盘)默认情况时在内存
    8. * 3.该队列是否只供一个消费者进行消费 是否消费共享 true是允许
    9. * 4.是否自动删除 最后一个消费者断开连接之后 该队列是否自动删除 true自动删除 false不自动删除
    10. * 5.其他参数 延迟消息等
    11. */
    12. channel.queueDeclare(queueName,false,false,false,null);
    13. //开启发布确认
    14. channel.confirmSelect();
    15. long begin = System.currentTimeMillis();
    16. for (int i = 0; i < MESSAGE_COUNT; i++) {
    17. String message = i + "";
    18. channel.basicPublish("",queueName,null,message.getBytes(StandardCharsets.UTF_8));
    19. //服务器返回false或超时内未返回,生产者可以消息重新发送
    20. boolean flag = channel.waitForConfirms();
    21. if(flag){
    22. System.out.println("消息发布成功!");
    23. }
    24. }
    25. long end = System.currentTimeMillis();
    26. System.out.println("发布" + MESSAGE_COUNT + "个单独确认消息,耗时" + (end - begin) + "ms");
    27. }

    批量确认发布

    上面的方式发布时是很慢的,与单个等待确认相比,先发布一批消息让然后一起确认可以极大地提高吞吐量。缺点就是:当发生故障导致发布出现问题时,不知道是哪个消息出现 问题了,我们必须将整个批处理保存在内存中,以记录重要的信息而后重新发布消息。当然这种 方案仍然是同步的,也一样阻塞消息的发布

    1. public static void publishMessageBatch() throws IOException, InterruptedException {
    2. Channel channel = RabbitMqUtils.getChannel();
    3. String queueName = UUID.randomUUID().toString();
    4. channel.queueDeclare(queueName,false,false,false,null);
    5. //开启发布确认
    6. channel.confirmSelect();
    7. //批量确认消息大小
    8. int batchSize = 100;
    9. //未确定消息
    10. int outstandingMessageCount = 0;
    11. long begin = System.currentTimeMillis();
    12. for (int i = 0; i < MESSAGE_COUNT; i++) {
    13. String message = i+"";
    14. channel.basicPublish("",queueName,null,message.getBytes(StandardCharsets.UTF_8));
    15. outstandingMessageCount++;
    16. if(outstandingMessageCount==batchSize){
    17. channel.waitForConfirms();
    18. outstandingMessageCount=0;
    19. }
    20. }
    21. if(outstandingMessageCount>0){
    22. channel.waitForConfirms();
    23. }
    24. long end = System.currentTimeMillis();
    25. System.out.println("发布" + MESSAGE_COUNT + "个批量确认消息,耗时" + (end - begin) + "ms");
    26. }

    异步确认发布

    异步确认发布通常指的是在消息发布过程中,消息的生产者(或发送方)在发送消息后,不需要等待消息被消费者(或接收方)确认接收,而是可以继续进行其他操作。这种异步确认的机制可以提高系统的并发性和效率

    在具体实现上,异步确认发布通常涉及到以下几个步骤:

    1. 消息生产者将消息发送到消息队列或中间件中
    2. 消息队列或中间件在接收到消息后,会为每条消息分配一个唯一的序列号或ID
    3. 消息队列或中间件将消息投递到相应的消费者队列中
    4. 消费者从自己的消费者队列中拉取消息并进行处理
    5. 消费者在处理完消息后,会向消息队列或中间件发送一个确认消息,表示该消息已经被成功处理
    6. 消息队列或中间件在接收到消费者的确认消息后,会将该确认消息与原始消息的序列号或ID进行匹配,确认该消息已经被成功处理
    7. 消息队列或中间件会向消息生产者发送一个异步确认消息,通知消息生产者该消息已经被成功处理

     

    1. public static void publishMessageAsync() throws IOException {
    2. Channel channel = RabbitMqUtils.getChannel();
    3. String queueName = UUID.randomUUID().toString();
    4. channel.queueDeclare(queueName,false,false,false,null);
    5. //开启发布确定
    6. channel.confirmSelect();
    7. /**
    8. * 线程安全有序的一个哈希表,适合用于高并发情况
    9. * 1、轻松将序号和消息进行关联
    10. * 2、轻松批量删除条目 只需要给到序列号
    11. * 3、支持高并发访问
    12. */
    13. ConcurrentSkipListMap outstandingConfirms = new ConcurrentSkipListMap<>();
    14. //开始时间
    15. long begin = System.currentTimeMillis();
    16. ConfirmCallback ackCallback = (deliveryTag,multiple)->{
    17. //是否是批量处理
    18. if(multiple){
    19. //返回的是小于等于(如果是小于等于需要在参数中加true)当前序列号的未确认消息 是一个 map
    20. ConcurrentNavigableMap confirmed = outstandingConfirms.headMap(deliveryTag,true);
    21. confirmed.clear();
    22. }else{
    23. //只清除当前序列号的消息
    24. outstandingConfirms.remove(deliveryTag);
    25. }
    26. System.out.println("确认消息"+deliveryTag);
    27. };
    28. ConfirmCallback nackCallback = (deliveryTag,multiple)->{
    29. String message = outstandingConfirms.get(deliveryTag);
    30. System.out.println("发布的消息"+message+"未被确认,序列号"+deliveryTag);
    31. // System.out.println("未确认消息"+deliveryTag);
    32. };
    33. //准备消息的监听器 监听哪些消息成功 哪些消息失效
    34. channel.addConfirmListener(ackCallback,nackCallback);
    35. //批量发送消息
    36. for (int i = 0; i < MESSAGE_COUNT; i++) {
    37. String message = "消息"+i;
    38. /**
    39. * channel.getNextPublishSeqNo()获取下一个消息的序列号
    40. * 通过序列号与消息体进行一个关联
    41. * 全部都是未确认的消息体
    42. */
    43. outstandingConfirms.put(channel.getNextPublishSeqNo(),message);
    44. channel.basicPublish("",queueName,null,message.getBytes(StandardCharsets.UTF_8));
    45. }
    46. long end = System.currentTimeMillis();
    47. System.out.println("发布" + MESSAGE_COUNT + "个批量确认消息,耗时" + (end - begin) + "ms");
    48. }

    以上 3 种发布确认速度对比

    单独发布消息:同步等待确认,简单,但吞吐量非常有限

    批量发布消息:批量同步等待确认,简单,合理的吞吐量,一旦出现问题但很难推断出是那条 消息出现了问题

    异步处理: 最佳性能和资源使用,在出现错误的情况下可以很好地控制,但是实现起来稍微难些

    花费时间对比

    1. public static void main(String[] args) throws IOException, InterruptedException {
    2. //单个确认发布
    3. ConfirmMessage.publicMessageIndividually();//发布1000个单独确认消息,耗时47298ms
    4. //批量确认发布
    5. ConfirmMessage.publishMessageBatch();//发布1000个批量确认消息,耗时866ms
    6. //异步确认发布
    7. ConfirmMessage.publishMessageAsync();//发布1000个批量确认消息,耗时104ms
    8. }

  • 相关阅读:
    Flask——基于python完整实现客户端和服务器后端流式请求及响应
    ES-全称ECMAScript--脚本语言的规范
    灵活好用的sql monitoring 脚本 part3
    Nodejs 第七十九章(Kafka进阶)
    soildwork2022怎么样添加螺纹孔?
    RI-TRP-DR2B 32mm 玻璃应答器|CID载码体标签在半导体行业重复利用之检测方法
    基于51单片机智能恒温箱控制系统Proteus仿真
    使用css的transition属性实现抽屉功能
    linux 安装 wordpress
    如何使用 chrome Timeline 工具
  • 原文地址:https://blog.csdn.net/loss_rose777/article/details/136155715