rabbitmq rocketmq kafka

Kafka 集群参数配置介绍

[TOC] # Broker 端 Broker 端参数也被称为静态参数(Static Configs),必须在 Kafka 的配置文件 server.properties 中进行设置的参数,不管是新增、修改还是删除。同时,你必须重启 Broker 进程才能令它们生效。 ## 存储信息相关参数 - ` ......
集群 参数 Kafka

docker-compose部署kafka3.4.x without zookeeper

创建数据目录 # mkdir -pv /data/apps/kafka/{kafka1_data,kafka2_data,kafka3_data} # chown -R 1001.1001 /data/apps/kafka/kafka* docker-compose.yaml version: "3 ......

CVE-2023-33246 RocketMQ 远程命令执行漏洞分析

2023年5月23日, Rocketmq 爆出 CVE-2023-33246 RCE高危漏洞。 在一定条件下, 攻击者可以利用该漏洞通过更新配置功能以RocketMQ运行的系统用户身份执行命令 。 漏洞利用与复现 攻击者成功RCE需要满足以下条件 Rocketmq 版本 < 5.1.1 或 < 4. ......
漏洞分析 漏洞 RocketMQ 命令 33246

【RabbitMQ】当队列中消息数量超过最大长度的淘汰策略

# 【RabbitMQ】当队列中消息数量超过最大长度的淘汰策略 ## 说明 最近在研究RabbitMQ如何实现延时队列时发现消息进入死信队列的情况之一就是当消息数量超过队列设置的最大长度时会被丢入死信队列,看到这时我就产生了一个疑问,到底是最后插入的消息还是最早插入的消息会被丢入死信队列呢?遗憾的是 ......
队列 长度 RabbitMQ 数量 策略

RabbitMQ基础学习笔记

一、简介: RabbitMQ是一个实现了AMQP(Advanced Message Queuing Protocol)高级消息队列协议的消息队列服务,用Erlang语言,是面向消息的中间件:相当于一个快递站点,其只负责接收,存储和转发消息数据。 二、界面介绍: RabbitMQ管理界面: #安装启动 ......
RabbitMQ 基础 笔记

springboot下使用rabbitMQ之开发配置方式(一)

## springboot下使用rabbitMQ之开发配置方式(一) 距离上次发布博客已经小一年了,这次...嗯,没错,我又回来啦...😂😂😂 本次结合着B站某MQ视频以及最近在MQ上的实践聊一聊个人在使用rabbitMQ中所得。 **在本章开始前,默认您已通过各种途径安装并在springbo ......
springboot rabbitMQ 方式

RocketMQ on openEuler 提供高性能消息队列的稳定性解决方案

RocketMQ on openEuler 提供高性能消息队列的稳定性解决方案 openEuler2023-06-27openEuler RocketMQ on openEuler,是一种将 RocketMQ 消息中间件通过容器化的方式部署在 openEuler 操作系统上运行,借助 openEul ......

kafka-es.go

package es import ( "context" "encoding/json" "fmt" "kafka/mongo" "log" "os" "github.com/olivere/elastic" ) var client *elastic.Client var host = "htt ......
kafka-es kafka es go

kafka-mongo.go

package mongo import ( "context" "fmt" "log" "go.mongodb.org/mongo-driver/bson" "go.mongodb.org/mongo-driver/mongo" "go.mongodb.org/mongo-driver/mongo ......
kafka-mongo kafka mongo go

2023-07-16:讲一讲Kafka与RocketMQ中零拷贝技术的运用?

2023-07-16:讲一讲Kafka与RocketMQ中零拷贝技术的运用? 答案2023-07-16: **什么是零拷贝?** 零拷贝(英语: Zero-copy) 技术是指计算机执行操作时,CPU不需要先将数据从某处内存复制到另一个特定区域。这种技术通常用于通过网络传输文件时节省CPU周期和内存 ......
拷贝 RocketMQ Kafka 技术 2023

RabbitMQ

# .NET6使用RabbitMQ学习 [TOC] ## 前提 前段时间上班无事,上网冲浪看到了消息队列RabbitMQ,就想着学习一下,网上看了点资料在哔哩哔哩上看的到codeman讲的一个rabbitmq的视频,就跟着仔细学习一下,敲一下代码。视频地址: [rabbitmq视频](【【2021最 ......
RabbitMQ

2023-07-14:讲一讲Kafka与RocketMQ中存储设计的异同?

2023-07-14:讲一讲Kafka与RocketMQ中存储设计的异同? 答案2023-07-14: ![](https://img-blog.csdnimg.cn/img_convert/3544c6376847b3598f30f283bcd3f9c2.png) **在Kafka中,文件的布局采 ......
异同 RocketMQ Kafka 2023 07

同步同一个Kafka Topic的不同消费者

分布式系统中的同步很困难。您可能的目标是尽可能多地防止它。但有时业务需求需要协调对数据新鲜度有严重依赖的不同服务。 为了概括起见,假设架构由_Service-A_、_Service-B_和_Service-C_组成。它们都使用来自同一个 Kafka 主题的消息,但显然根据各自的业务逻辑、API 和 ......
消费者 Kafka Topic

RabbitMQ相关

1、mq安装:https://blog.csdn.net/sushipenglove/article/details/86669065 2、镜像集群:https://blog.51cto.com/u_15477117/4905546 注意镜像集群修改主机名称后需要重新连接,才可以生效; 过程中相关命 ......
RabbitMQ

RabbitMQ集群安装

rpm -Uvh *.rpm --nodeps --force 安装依赖(一步步来) rpm -ivh erlang-22.2.1-1.el7.x86_64.rpm rpm -ivh socat-1.7.3.2-2.el7.x86_64.rpm --nodeps --force rpm -ivh r ......
集群 RabbitMQ

三台服务器配置简易Kafka集群+debug记录

使用了3台阿里云服务器做实验,搭建kafka集群,可以通过java程序生产消息到云服务器。中途遇到许多问题,仅在此记录一些配置信息,安装过程省略。 ## 服务器信息 | host name | 私网IP | 公网IP | | | | | | server001 | 172.24.16.132 | 6 ......
集群 简易 服务器 Kafka debug

rabbitMQ死信队列和延迟交换机

一、死信队列(deadLetters) 1.死信产生的三种方式 (1)消息被消费者拒绝,requeue设置为false message在正常传输中消费者执行了nack或者reject且requeue变为false则将该message存储到死信交换机,再送入死信队列,重新被其他的消费者消费 (2)消息 ......
死信 队列 交换机 rabbitMQ

rabbitMQ消息可靠性

rabbitMQ消息可靠性 rabbitMQ交换机不负责消息持久化 消息存储到队列中才可以手动开启持久化 生产者端: 如何保证消息一定可以送达Exchange 消费者端: 自动ACK 手动ACK RabbitMQ保证消息可靠性: 1.保证消息一定可以送达Exchange confirm机制 可以通过 ......
可靠性 rabbitMQ 消息

rabbitMQ安装

rabbitMQ安装 安装依赖 yum -y install gcc gcc-c++ ncurses-devel openssl-devel unixODBC-devel perl vim 安装Erlang tar -xvf otp_src_26.0-rc1.tar.gz cd otp_src_26 ......
rabbitMQ

Kafka系列---【Kafka工作原理】

#Kafka工作原理 ![](https://img2023.cnblogs.com/blog/1674440/202307/1674440-20230713234629127-24961167.png) ##常用概念 - Broker:可以理解为一个节点,一台kafka服务。 - Topic(主题 ......
Kafka 原理

Rocketmq-背景

## 背景 消息队列(Message Queue,MQ)的三大特性:**异步、解耦、削峰** 在很多场景下,我们的业务是没有那么强的实时性的。 比如登录成功后发送短信,我们不必在登录的逻辑里实时的去调用发送短信,而是可以先“记下来”我们等下需要发送短信,然后快速的给出响应。 串行的登录+发送短信逻辑 ......
Rocketmq 背景

kafka-consumer.go

package consumer import ( "fmt" "sync" "github.com/Shopify/sarama" ) type CRead func() string func Run() { var wg sync.WaitGroup consumer, err := sara ......
kafka-consumer consumer kafka go

kafka-producer.go

package producer import ( "fmt" "github.com/Shopify/sarama" ) type CRead func() string func Run(cRead CRead) { config := sarama.NewConfig() config.Pro ......
kafka-producer producer kafka go

kafka-main.go

package main import ( "bufio" "kafka/consumer" "kafka/producer" "os" "strings" ) var inputReader *bufio.Reader func init() { inputReader = bufio.NewRe ......
kafka-main kafka main go

rabbitmq 修改端口

在C:\Users\Administrator\AppData\Roaming\RabbitMQ 新建rabbitmq.config 修改为:45672 [ { rabbit, [ { tcp_listeners, [ {"0.0.0.0" ,45672}] }] },{ rabbitmq_mana ......
端口 rabbitmq

(二)kubernetes部署kafka

与前面的zookeeper一样需要持久化存储,因此还是先创建PV,然后再部署kafka。 ##### 2、配置nfs **创建需要作为nfs共享的目录** `mkdir /home/nfs/kafka-0` **添加权限** `chmod 777 /home/nfs/kafka-0` **编辑配置* ......
kubernetes kafka

rocketMQ日常维护

1.查看topicsh mqadmin topicList -n 192.168.1.104:9876 2.删除topicsh mqadmin deleteTopic -c HOSTNAME -n 192.168.1.104:9876 -t mytest 3.创建topicsh mqadmin up ......
rocketMQ

springboot整合kafka

一、引入依赖 (kafka的版本和springboot的版本对不上的话,启动会报错,包类不存在) <dependency> <groupId>org.springframework.kafka</groupId> <artifactId>spring-kafka</artifactId> <vers ......
springboot kafka

rabbitmq php 代码示例

交换机类型 direct : 直连交换机, 根据路由键投递到与绑定键匹配的队列。fanout : 扇形交换机,采用广播模式,投递到所有与之绑定的队列。topic : 主题交换机,对路由键与绑定键进行模式匹配后再投递到相应的队列。headers : 头交换机,不处理路由键, 而是根据发送的消息内容中的 ......
示例 rabbitmq 代码 php

2023-07-12:RocketMQ如何做到消息不丢失?

2023-07-12:RocketMQ如何做到消息不丢失? 答案2023-07-12: RocketMQ通过刷盘机制、消息拉取机制和ACK机制等多种方式来确保消息投递的可靠性,防止消息丢失。 1.刷盘机制 RocketMQ中的消息分为内存消息和磁盘消息,内存消息在Broker内存中进行读写,磁盘消息 ......
RocketMQ 消息 2023 07 12