rabbitmq kafka
为什么kafka效率这么高？
kafka的IO效率这么高的原因： （1）kafka是顺序写入数据的，把普通的那种随机IO变成了顺序IO，这样的话写入数据的速度就比较快 （2）kafka读取数据的时候是基于sendfile实现Zero Copy 传统的数据读取： 基于sendfile调用read函数，文件数据被copy到内核缓冲区 ......
C#实现kafka消息队列-Confluent.Kafka
一、本文是C#引用Confluent.Kafka.dll实现kafka消息队列的实际开发例子。在实际开发中遇到9094端口始终消息生产和消费超时的问题，需要对网络白名单进行配置或者直接使用9092端口。大部分Time Out情况与代码无关，跟kafka的安装配置有关。 二、、Nuget中添加引用Co ......
rabbitMq的简单统计
1.TTL 消息队列的超时时间设置 使用场景介绍 购物付款在指定时间内进行，超过某个时间就会取消（取消后的队列就会加入到死信队列中） 通过TTL特有的参数进行插入，设置 x-message-ttl 参数给予超时时间 通过MessagePostProcessor类实现方法进行设置 信息 的超时时间 2 ......
java——spring boot集成kafka——消费端代码实现
public class MyConsumer { private final static String TOPIC_NAME = "my-replicated-topic"; private final static String CONSUMER_GROUP_NAME = "testGroup ......
java——spring boot集成kafka——生产者端ack的设置
在同步发消息的场景下：生产者发动broker上后，ack会有 3 种不同的选择： （ 1 ）acks=0： 表示producer不需要等待任何broker确认收到消息的回复，就可以继续发送下一条消息。性能最高，但是最容易丢消息。 （ 2 ）acks=1： 至少要等待leader已经成功将数据写入本地 ......
java——spring boot集成kafka——java代码实现
引入依赖： <dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka-clients</artifactId> <version>2.4.1</version> </dependency> 1 ......
Rabbitmq
一、消息队列的概念及应用场景 什么是消息队列 消息是在不同应用间传递的数据。这里的消息可以非常简单，比如只包含字符串，也可以非常复杂，包含多个嵌套的对象。消息队列（Message Queue）简单来说就是一种应用程序间的通讯方式，消息发送后立即返回，然后由消息系统保证消息的可靠性传输，消息生产者只需 ......
java——spring boot集成kafka——集群分区消费策略
图中Kafka集群有两个broker，每个broker中有多个partition。 ⼀个partition只能被⼀个消费组⾥的某⼀个消费者消费，从⽽保证消费顺序。 Kafka只在partition的范围内保证消息消费的局部顺序性，不能在同⼀个topic中的多个partition中保证总的消费顺序性。 ......
RabbitMQ 04 直连模式-Java操作
使用Java原生的方式使用RabbitMQ现在已经较少，但这是基础，还是有必要了解的。 引入依赖。 <dependency> <groupId>com.rabbitmq</groupId> <artifactId>amqp-client</artifactId> <version>5.16.0</v ......
RabbitMQ 05 直连模式-Spring Boot操作
Spring Boot操作 Spring Boot集成RabbitMQ是现在主流的操作RabbitMQ的方式。 官方文档：https://docs.spring.io/spring-amqp/docs/current/reference/html/ 引入依赖。 <dependency> <group ......
java——spring boot集成kafka——broker、主题、分区、副本——概念理解
一、代理商Broker 在之前我们已经为大家介绍了生产者向消息队列中投递消息，消费者从消息队列中拉取数据。 在kafka消息队列中有一个非常重要的概念就是代理Broker，大家可以想象生活中的商品代理商是做什么的？进货、存货、销货。 kafka的代理Broker也承担着同样的作用：接收消息、保存消息 ......
python 使用 kafka
python 使用 kafka 说明：关于 kafka 的启动与安装，命令行的使用，此处不做过多的解释，本篇文章主要描述 kafka 在 python 中的使用； 1. python 使用 kafka 生产者 **说明：**python 在操作 kafka 写入数据的时候，分为发送往已经存在的主题或 ......
java——spring boot集成kafka——单播与多播消息的实现
单播消息的实现： 单播消息：⼀个消费组⾥ 只会有⼀个消费者能消费到某⼀个topic中的消息。于是可以创建多个消费者，这些消费者在同⼀个消费组中。 创建一个消费者，此消费者属于消费组testGroup，获取borker为：10.31.167.10:9092中 主题为test的消息； ./kafka-c ......
RabbitMQ快速入门与详解
一、RabbitMQ简介 1.简介 RabbitMQ是一个开源的消息代理（Message Broker）软件，实现了高级消息队列协议（AMQP），支持多种消息传递模式，例如点对点、订阅/发布等。 RabbitMQ的核心是基于Erlang语言实现的AMQP协议消息队列服务器，采用分布式架构，提供高可用 ......
wsl 中 docker-compose 搭建 kafka 集群出现的外部访问错误
在 wsl 中用 docker-compose 搭建了一台 zookeeper + 三台 broker 的 kafka 集群，使用的镜像是 bitnami/kafka，在按照镜像文档运行容器后，发现运行在宿主机里的客户端程序无法正确的推送/消费消息，研究后发现镜像文档只适用于客户端程序和 kafka ......
java——spring boot集成kafka——单节点示例
首先安装一个zk。然后再安装kafka： 执⾏以下命令创建名为“test”的topic，这个topic只有⼀个partition，并且备份因⼦也设置为1： 然后在kafka节点下，执行如下命令： ./kafka-topics.sh --create --zookeeper 172.16.253.35 ......
Kafka快速使用与详解
一、Kafka简介 1. 概念 Kafka是一个分布式的、基于发布/订阅的消息队列，最初由LinkedIn开发，并于2011年成为Apache项目的一部分。Kafka具有高吞吐量、可扩展性、持久性和容错性等特性，被广泛应用于大数据领域，如数据采集、数据传输、数据处理等场景。 Kafka主要由以下三个 ......
kratos中使用kafka不同group消费同一个topic的坑
参考项目地址 https://gitee.com/huoyingwhw/kratos_kafka.git 现象 像上图那样写的话，项目启动后，往topic中放入数据，只有article_group2会消费数据！ 原因 ～～～ ......
重置RabbitMQ用户密码
在/usr/sbin下执行 rabbitmqctl set_user_tags 用户名 用户权限 [root@rzk sbin]# pwd /usr/sbin [root@rzk sbin]# rabbitmqctl set_user_tags xxx administrator Setting t ......
Kafka消费者
消费者读取消息。在其他基于发布与订阅的消息系统中，消费者可能被称为订阅者 或 读者。
消费者订阅一个或多个主题，并按照消息生成的顺序读取它们。消费者通过检查消息的偏移量来区分已经读取过的消息。 ......
RabbitMQ集群搭建
1.将上一部分的搭建的rabbitmq环境的虚拟机克隆三份（详细可以参考https://www.cnblogs.com/chongchongstyle/p/17234277.html） 2.修改克隆的机器ip为134、135、136 修改ip可参考 https://www.cnblogs.com/c ......