RocketMQ
【RocketMQ】DLedger选主源码分析
RocketMQ 4.5版本之前，可以采用主从架构进行集群部署，但是如果master节点挂掉，不能自动在集群中选举出新的Master节点，需要人工介入，在4.5版本之后提供了DLedger模式，使用Raft算法，如果Master节点出现故障，可以自动选举出新的Master进行切换。 Raft协议 R ......
【RocketMQ】Dledger日志复制源码分析
消息存储 在 【RocketMQ】消息的存储一文中提到，Broker收到消息后会调用CommitLog的asyncPutMessage方法写入消息，在DLedger模式下使用的是DLedgerCommitLog，进入asyncPutMessages方法，主要处理逻辑如下： 调用serialize方法 ......
RocketMQ 5.0 vs 4.9.X 图解架构对比
本文作者：李伟，Apache RocketMQ Committer，RocketMQ Python客户端项目Owner ，Apache Doris Contributor，腾讯云数据库开发工程师。 01 RocketMQ 4.9.X架构 在4.9.X中每个组件和组件之间的通信简单说明如下： | 组件 ......
RocketMQ Streams 1.1.0: 轻量级流处理再出发
作为一套全新的流式处理框架，RocketMQ Streams 如何实现流计算拓扑图构建呢？一起来了解下它的实现原理以及数据流转过程和过程中的状态变化吧~ ......
RocketMQ消息短暂而又精彩的一生
大家好，我是三友~~ 这篇文章我准备来聊一聊RocketMQ消息的一生。 不知你是否跟我一样，在使用RocketMQ的时候也有很多的疑惑： 消息是如何发送的，队列是如何选择的？消息是如何存储的，是如何保证读写的高性能？RocketMQ是如何实现消息的快速查找的？RocketMQ是如何实现高可用的？消 ......
【RocketMQ】消息拉模式分析
RocketMQ有两种获取消息的方式，分别为推模式和拉模式。 推模式 推模式在【RocketMQ】消息的拉取一文中已经讲过，虽然从名字上看起来是消息到达Broker后推送给消费者，实际上还是需要消费向Broker发送拉取请求获取消息内容，推模式对应的消息消费实现类为DefaultMQPushCons ......
【RocketMQ】负载均衡源码分析
RocketMQ在集群模式下，同一个消费组内，一个消息队列同一时间只能分配给组内的某一个消费者，也就是一条消息只能被组内的一个消费者进行消费，为了合理的对消息队列进行分配，于是就有了负载均衡。 接下来以集群模式下的消息推模式DefaultMQPushConsumerImpl为例，看一下负载均衡的过程 ......
Redis+Hbase+RocketMQ 实际使用问题案例分享
##需求 将Hbase数据，解析后推送到RocketMQ。 redis使用list数据类型，存储了需要推送的数据的RowKey及表名。 简单画个流程图就是： ##分析及确定方案 Redis 明确list中元素结构{"rowkey":rowkey,"table":table}解析出rowkey； 一次 ......
Apache RocketMQ 5.0 笔记
RocketMQ 5.0：云原生“消息、事件、流”实时数据处理平台，覆盖云边端一体化数据处理场景。 核心特性 云原生：生与云，长与云，无限弹性扩缩，K8s友好 高吞吐：万亿级吞吐保证，同时满足微服务与大数据场景 流处理：提供轻量、高扩展、高性能和丰富功能的流计算引擎 金融级：金融级的稳定性，广泛用于 ......
【环境搭建】RocketMQ集群搭建
环境搭建第9篇rocketmq集群文章，方便学习中复现和使用，时间宝贵，踩坑艰难。包含集群搭建，管理台搭建，springboot本地请求等。 ......
终于弄明白了 RocketMQ 的存储模型
RocketMQ 优异的性能表现，必然绕不开其优秀的存储模型 。 这篇文章，笔者按照自己的理解 , 尝试分析 RocketMQ 的存储模型，希望对大家有所启发。 1 整体概览 首先温习下 RocketMQ 架构。 整体架构中包含四种角色 : Producer ：消息发布的角色，Producer 通过 ......
RocketMQ Compaction Topic的设计与实现
Compaction Topic 是一种基于 key 的数据过期机制，即对于相同 key 的数据只保留最新值。该特性的应用场景主要为维护状态信息，或者在需要用到 KV 结构时，可以通过 Compaction Topic 将 key-value 信息直接保存到 MQ，从而解除对外部数据库的依赖。快来... ......
基于云基础设施快速部署 RocketMQ 5.0 集群
如何解决在云基础设施上部署 RocketMQ 时面临多节点部署带来的高操作成本等诸多挑战？快来了解 RocketMQ Operator 是怎样支撑 RocketMQ 集群在云基础设施上的自动化运维与管理吧！ ......
【RocketMQ】主从模式下的消费进度管理
在【RocketMQ】消息的拉取一文中可知，消费者在启动的时候，会创建消息拉取API对象PullAPIWrapper，调用pullKernelImpl方法向Broker发送拉取消息的请求，那么在主从模式下消费者是如何选择向哪个Broker发送拉取请求的？ 进入pullKernelImpl方法中，可以 ......
RabbitMQ、RocketMQ、Kafka延迟队列实现
延迟队列在实际项目中有非常多的应用场景，最常见的比如订单未支付，超时取消订单，在创建订单的时候发送一条延迟消息，达到延迟时间之后消费者收到消息，如果订单没有支付的话，那么就取消订单。 那么，今天我们需要来谈的问题就是RabbitMQ、RocketMQ、Kafka中分别是怎么实现延时队列的，以及他们对 ......
RocketMQ 在网易云音乐的实践
最佳实践丨网易云音乐线上场景众多，比如直播、评论、广告等各个业务线都会有消息场景，一起来看看 RocketMQ 在云音乐的落地实战经验分享吧~ ......
RocketMQ Connect 构建流式数据处理平台
RocketMQ Connect 作为 RocketMQ 与其他系统间流式数据传输的重要工具，轻松将 RocketMQ 与其他存储技术进行集成，并实现低延迟流/批处理。接下来，我们一起详解运行原理与基本特性～ ......
RocketMQ Schema——让消息成为流动的结构化数据
RocketMQ Schema 提供了对消息的数据结构托管服务，同时为原生客户端提供了较为丰富的序列化/反序列化 SDK ，补齐了 RocketMQ 在数据治理和业务上下游解耦方面的短板，让数据成为流动的结构化数据，那么快来了解下实现原理吧~ ......
【RocketMQ】主从同步实现原理
主从同步的实现逻辑主要在HAService中，在DefaultMessageStore的构造函数中，对HAService进行了实例化，并在start方法中，启动了HAService： public class DefaultMessageStore implements MessageStore { ......
读 RocketMQ 源码，学习并发编程三大神器
笔者是 RocketMQ 的忠实粉丝，在阅读源码的过程中，学习到了很多编程技巧。 这篇文章，笔者结合 RocketMQ 源码，分享并发编程三大神器的相关知识点。 1 CountDownLatch 实现网络同步请求 CountDownLatch 是一个同步工具类，用来协调多个线程之间的同步，它能够使一 ......
RocketMQ系列-搭建Namesrv源码调试环境
RocketMQ系列-搭建Namesrv源码调试环境 在学习任何一个技术框架的时候，我们通常都是先了解是什么，有什么作用、解决什么问题、设计亮点和设计思想是什么；当然对于技术学习上来说，这只是纸上谈兵，一开始比较基础的学习，当我们想要深入的时候，我们必不可少的就是希望能够去调试源码，能够在本地运行一 ......