rabbitmq rocketmq kafka
第二章 Spring Boot 整合 Kafka消息队列 生产者
系列文章目录 第一章 Kafka 配置部署及SASL_PLAINTEXT安全认证 第二章 Spring Boot 整合 Kafka消息队列 生产者 第三章 Spring Boot 整合 Kafka消息队列 消息者（待续） 前言 Kafka 是一个消息队列产品，基于Topic partitions ......
ClickHouse(21)ClickHouse集成Kafka表引擎详细解析
目录Kafka表集成引擎配置Kerberos 支持虚拟列资料分享参考文章 Kafka表集成引擎 此引擎与Apache Kafka结合使用。 Kafka 特性： 发布或者订阅数据流。 容错存储机制。 处理流数据。 老版Kafka集成表引擎参数格式： Kafka(kafka_broker_list, k ......
动力节点RabbitMQ教程|12小时学会rabbitmq消息中间件-01
今日主题内容： 1、What is RabbitMQ？ 2、MQ的应用场景？ 3、RabbitMQ运行部署 4、RabbitMQ工作模型 5、RabbitMQ交换机类型 6、RabbitMQ过期消息 7、RabbitMQ死信队列 8、RabbitMQ延迟队列 1. What is RabbitMQ？ ......
org.springframework.kafka.listener.ListenerExecutionFailedException: Listener method could not be invoked with the incoming message
问题描述 kafka在yml文件中未开启批量消费时，程序正常运行；但一开启正常消费后，就直接报错；排查问题的过程中一直觉得是配置文件里的问题，最后发现是消费者接受的参数类型错误 问题本质 消费者开启批量消费数据后，不能用单个实体类接收参数，而应该用list 解决方法 修改消费者函数参数类型 ......
ogg-kafka
环境搭建 Oracle 环境搭建 源端 OGG 依赖 Oracle 环境，可安装 Oracle instant client，如果源端和数据库在同一台服务器则不需要此小节的步骤。 下载地址：https://www.oracle.com/database/technologies/instant-cl ......
RabbitMQ（十二）
1 RabbitMQ概述 RabbitMQ 是基于Erlang语言开发的开源消息通信中间件，官网地址：http://www.rabbitmq.com/ RabbitMQ的结构和概念 RabbitMQ中的相关概念： channel：操作MQ的工具； exchange：路由消息到队列中； queue：缓 ......
kafka 服务开机自启动
Kafka 服务开机自启动 问题： 服务器更新Linux 内核需要重启服务器，重启后kafka 服务不会自动启动， 需要人工手工启动Kafka服务 服务器类型： SUSE 12SP5 类型服务器 SUSE 12SP3 类型服务器 KYLIN10SP1 国产化操作系统服务器 解决方案： 使用syste ......
Kafka - 面试题
Kafka是什么？它用于什么场景？答案：Kafka是一个分布式流平台，用于构建实时数据流管道和应用。它主要用于处理和传输大规模的流数据，例如日志、事件和其他类型的数据。Kafka广泛应用于大数据处理、实时流处理、消息队列等领域。 Kafka的主要组件有哪些？它们的作用是什么？答案：Kafka的主要组 ......
RabbitMQ队列和消息的优先级
RabbitMQ队列和消息的优先级 如果队列中的消息很多，需要一部分消息被优先消费，这是可以通过为消息和队列设置优先级来实现。 请注意，消息的优先级是相对于队列的优先级而言的。如果队列的最大优先级是10，那么消息的优先级可以在1到10的范围内设置。 MQ测试结构 代码实现 设置交换机和队列 pack ......
RabbitMQ发布确认及备份交换机
RabbitMQ发布确认及备份交换机 可以通过设置RabbitMQ的发布确认和失败回退功能来确认消息是否成功发布。 也可以为交换机设置备份交换机，来接收不可路由的消息。 demo结构 配置及实现 application.yml server: port: 8080 spring: rabbitmq: ......
Rabbitmq
目录一 消息队列介绍1.1 介绍1.2 MQ解决什么问题应用解耦流量削峰消息分发异步消息1.3 常见消息队列及比较二 Rabbitmq安装2.1 服务端原生安装2.2 服务端Docker安装2.3 客户端安装三 基于Queue实现生产者消费者模型四 基本使用（生产者消费者模型）生产者消费者五 消息安 ......
RabbitMQ延迟队列
RabbitMQ延迟队列 简单理解： 交换机在消息达到指定延迟时间后才会发送到指定的队列中，类似定时器的功能。 安装rabbitmq_delayed_message_exchange插件 该插件可以创建延迟交换机，消息在达到指定延迟时间后才会发送到指定的队列中。 Rabbit plugins 插件G ......
Kafka 万字精讲｜工作五年这些你都知道吗？
本文以 Kafka 官方文档的内容为基石，结合参考文献处文章和笔者自身实践凝练而成，涵盖内容全面，详略得当。
这也是《一文搞懂》系列的第一篇技术长文，期待您的关注。 ......
kafka入门(七)：kafka实现高吞吐量
kafka 高吞吐量 顺序写入磁盘 Kafka 使用 磁盘来存储和缓存消息。 Kafka 只能在日志文件的尾部追加新的消息，也就是 顺序写入磁盘。 顺序写入磁盘，让 Kafka 能实现更高的吞吐量。 页缓存 Kafka中大量使用页缓存，这是Kafka 实现高吞吐的重要因素之一。 页缓存，是操作系统实 ......
RabbitMQ消息的生存时间TTL（Time To Live）
目录RabbitMQ消息的生存时间TTLMQ环境测试准备代码实现生产者 8080消费者 8081测试死信队列死信消息总结 RabbitMQ消息的生存时间TTL TTL（Time To Live）表示消息的生存时间，通常用于设置消息的延迟。TTL是一个时间值，以毫秒为单位，用于指定消息在被发送后多久将 ......
PHP RabbitMQ 异步ACK持久化
消息持久化以及手动应答 RabbitMq重启之后queue_declare队列不会丢失 为了不让队列消失，需要把队列声明为持久化（durable）。为此我们通过queue_declare的第三参数为true： queue_declare必须在生产者（producer）和消费者（consumer）对应 ......
kafka入门(五)：日志分段（LogSegment）
日志分段（LogSegment） Kafka的一个 主题可以分为多个分区。 一个分区可以有一至多个副本，每个副本对应一个日志文件。 每个日志文件对应一个至多个日志分段（LogSegment）。 每个日志分段还可以细分为索引文件、日志存储文件和快照文件。 每个 LogSegment 对应于磁盘上的一个 ......
阿里面试：说说Rocketmq推模式、拉模式？
文章很长，且持续更新，建议收藏起来，慢慢读！疯狂创客圈总目录 博客园版 为您奉上珍贵的学习资源 ： 免费赠送 :《尼恩Java面试宝典》 持续更新+ 史上最全 + 面试必备 2000页+ 面试必备 + 大厂必备 +涨薪必备 免费赠送 :《尼恩技术圣经+高并发系列PDF》 ，帮你 实现技术自由，完成职 ......
springboot~kafka-stream实现实时统计
实时统计，也可以理解为流式计算，一个输入流，一个输出流，源源不断。 Kafka Stream Kafka Stream是Apache Kafka从0.10版本引入的一个新Feature。它是提供了对存储于Kafka内的数据进行流式处理和分析的功能。 Kafka Stream的特点 Kafka Str ......
kafka：ERROR Shutdown broker because all log dirs（Windows）
问题 都说kafka在Windows上运行的错误多，果然如此。在测试阶段，创建了一个 测试主题，并往该主题发送了消息，然后删除该主题。这时错误出来了： kafka error log日志 [2024-01-08 15:22:42,224] ERROR Error while renaming dir ......
在ASP.NET Core微服务架构下使用RabbitMQ如何实现CQRS模式
前言 在现代软件开发中，微服务架构和CQRS模式都是备受关注的技术趋势。微服务架构通过将应用程序拆分为一系列小型、自治的服务，提供了更好的可伸缩性和灵活性。而CQRS模式则通过将读操作和写操作分离，优化了系统的性能和可维护性。本文小编将为大家介绍如何在ASP.NET Core微服务架构下使用Rabb ......
RabbitMQ安装
目录通过软件包安装下载rabbitmq安装包下载Erlang安装包上传至服务器安装命令安装web管理界面通过Docker安装目录及配置文件准备拉取镜像开通防火墙编写run脚本常用命令验证rabbit正常容器内部操作rabbit默认的配置查看已经启动的插件管理界面Connections点击报错 通过软 ......
docker部署RocketMQ
RocketMQ是阿里巴巴2016年MQ中间件，使用java语言开发，在阿里内部，RocketMQ承接了例如“双11”等高并发场景的消息流转，能够处理亿万级别的消息处理。 RocketMQ各角色介绍 Producer：消息的发送者 Consumer：消息的接收者 Broker：暂存和传输消息，如： ......
Rocketmq学习1——Rocketmq架构&消息存储&刷盘机制
系列文章目录和关于我 一丶什么是Rocketmq RocketMQ是一款开源的分布式消息中间件，由阿里巴巴团队最初开发，并于2016年贡献给Apache软件基金会，后成为Apache顶级项目。RocketMQ设计用于处理高并发、高吞吐量的场景，支持丰富的消息交互模式。 以下是RocketMQ的一些关 ......
kafka源码阅读之MacBook Pro M1搭建Kafka2.7版本源码运行环境
原创/朱季谦 最近在阅读Kafka的源码，想可以在阅读过程当中，在代码写一些注释，便决定将源码部署到本地运行。 日常开发过程中，用得比较多一个版本是Kafka2.7版本，故而在MacBook Pro笔记本上用这个版本的源码进行搭建，进行Kafka源码的阅读学习。在搭建的过程当中，遇到不少坑，顺便记录 ......
rabbitmq的五种模式
第一种：简单模式 Simple 一个消费者消费一个队列 第二种：工作模式 Work 多个消费者消费一个队列 第三种：发布订阅模式 X代表交换机消息产生者将消息放入交换机,交换机发布订阅把消息发送到所有消息队列中,对应消息队列的消费者拿到消息进行消费 相关场景:邮件群发,群聊天,广播(广告) 第四种： ......
RabbitMQ-死信队列
一、什么是死信队列 rabbitmq.com/dlx.html 死信交换机绑定的队列就叫死信队列。什么叫死信交换机？接收死信消息的交换机叫做死信交换机。什么叫做死信消息？ 消息被拒绝，又没有重新入队的消息（basic.nack | basic.reject & requeue = false） 消息 ......
rabbitmq 集群docker玩法
属于一个简单测试玩的，rabbitmq 实际最近几年变化还是挺大的（主要是一些新特性，核心amqp 是一致的） 环境准备 测试一个基于raft 选举的rabbitmq 集群队列 docker-compose version: "3" services: mq: build: ./ container ......
云消息队列 Kafka 版生态谈第一期：无代码转储能力介绍
为了提升研发效率，云消息队列 Kafka 版联合阿里云产品支持到无代码、全托管、Serverless 化的功能特性，支持从云消息队列 Kafka 版到 OSS 的转储。 ......
Kafka高级应用：如何配置处理MQ百万级消息队列？
在大数据时代，Apache Kafka作为一款高性能的分布式消息队列系统，广泛应用于处理大规模数据流。本文将深入探讨在Kafka环境中处理百万级消息队列的高级应用技巧。 本文，已收录于，我的技术网站 ddkk.com，有大厂完整面经，工作技术，架构师成长之路，等经验分享 1、合理配置分区 // 自定 ......