rabbitmq kafka
rabbitmq小记
发topic代码,创建交换器,数据直接按routingKey发送到交换器中: using (var connection = factory.CreateConnection()) { using (var channel = connection.CreateModel()) { // 创建交换器 ......
kafka 磁盘扩容与数据均衡实在操作讲解
目录一、概述1)Kafka 磁盘扩容概述2)Kafka 数据均衡概述二、K8s 集群部署三、kafka on k8s 环境部署1)安装 helm2)安装 zookeeper1、添加源并下载部署包2、修改配置3、开始安装 zookeeper4、测试验证5、卸载3)安装 kafka1、添加源并下载部署包 ......
kafka入门(一):kafka消息消费
安装kafka,创建 topic: Windows安装kafka, 详情见:https://blog.csdn.net/sinat_32502451/article/details/133067851 Linux 安装kafka,详情见:https://blog.csdn.net/sinat_325 ......
kafka安装教程
检查java8 没有就安装 java -version 安装jdk1.8 yum -y install java-1.8.0-openjdk 下载kafka (网速很慢) wget https://dlcdn.apache.org/kafka/3.5.0/kafka_2.13-3.5.0.tgz 解 ......
Introduing some cores concepts within kafka
Introduction Today, we talk about some cores concepts within kafka. Apache kafka is a distributed publish-subscribe messaging system. It is originally ......
万字长文:从 C# 入门学会 RabbitMQ 消息队列编程
RabbitMQ 教程 目录RabbitMQ 教程RabbitMQ 简介安装与配置安装 RabbitMQ发布与订阅模型生产者、消费者、交换器、队列多工作队列交换器类型DirectFanoutTopic交换器绑定交换器消费者、消息属性Qos 、拒绝接收消息确认模式消息持久化消息 TTL 时间队列 TT ......
Zookeeper 在 Kafka 中的作用
Zookeeper 在 Kafka 中的作用 1、Broker注册 Broker是分布式部署并且相互之间相互独立,但是需要有一个注册系统能够将整个集群中的Broker管理起来,此时就使用到了Zookeeper。在Zookeeper上会有一个专门用来进行Broker服务器列表记录的节点: /broke ......
Kafka 集群如何实现数据同步?
哈喽大家好,我是咸鱼 最近这段时间比较忙,将近一周没更新文章,再不更新我那为数不多的粉丝量就要库库往下掉了 T﹏T 刚好最近在学 Kafka,于是决定写篇跟 Kafka 相关的文章(文中有不对的地方欢迎大家指出) 考虑到有些小伙伴可能是第一次接触 Kafka ,所以先简单介绍一下什么是 Kafka ......
kafka
一、简介 kafka是一个分布式流处理平台。有3个关键能力: 1、订阅发布记录流:类似于消息队列 或 企业消息传递系统; 2、以容错的方式存储记录流; 3、实时记录流; 二、应用 作为消息系统、存储系统、流处理器。可以建立流数据管道,可靠性的债系统或应用之间获取数据。建立流式应用传输和响应数据。 三 ......
Centos7部署zookeeper+kafka
一、Zookeeper 概述 1、Zookeeper 定义 Zookeeper是一个开源的分布式的,为分布式框架提供协调服务的Apache项目。 2、Zookeeper 工作机制 Zookeeper从设计模式角度来理解:是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据, ......
如何在 Linux 上部署 RabbitMQ
如何在 Linux 上部署 RabbitMQ 目录如何在 Linux 上部署 RabbitMQ安装 Erlang从预构建的二进制包安装从源代码编译 ErlangRabbitMQ 的安装使用 RabbitMQ Assistant 连接 RabbitMQ Assistant 是一款优秀的RabbitMQ ......
RabbitMQ安装,操作
rabbitMQ安装 安装环境 ubuntu安装erlang语言环境 apt install erlang-nox 安装rabbitmq-server wget -O- https://www.rabbitmq.com/rabbitmq-release-signing-key.asc | sudo ......
Linux安装Kafka
前言 本文Kafka演示版本依赖Zookeeper,需要先安装Zookeeper:Linux安装Zookeeper 1. 解压文件 tar -zxvf kafka_2.12-2.7.0 2. 修改配置文件,日志输出地址 vim config/server.properties log.dirs=/o ......
kafka启动报错
一、kafka启动报错: java.nio.file.FileSystemException: D:\kafka_2.12-2.1.0\kafka_2.12-2.1.0\logs\__consumer_offsets-30\00000000000000000000.timeindex.cleaned ......
docker 部署 rabbitmq集群
rabbitmq集群: pull: docker pull rabbitmq 普通模式(默认): what: 集群中各节点有相同的队列结构, 但消息只会存在于集群中的一个节点。 对于消费者来说, 若消息进入 A 节点的 Queue 中, 当从 B 节点拉取时, RabbitMQ 会将消息从 A 中取 ......
【kafka】Kafka压力测试
kafka 自带的压测工具 kafka-producer-perf-test.sh 和 kafka-consumer-perf-test.sh ./bin/kafka-producer-perf-test.sh --topic kafka-test --num-records 10000 --rec ......
xixa oraclelinux上kafka集群部署(一)----kafka安装
kafka部署前提:需要安装jdk1.7以上版本、zookeeper 官网下载:http://kafka.apache.org/quickstart kafka配置 配置server.properties文件中zookeeper配置,如果集群应该怎么配置?还需要尝试 配置kafka集群 在bin目录 ......
Kafka JNDI 注入分析(CVE-2023-25194)
Apache Kafka 是一个分布式数据流处理平台,可以实时发布、订阅、存储和处理数据流。Kafka Connect 是一种用于在 kafka 和其他系统之间可扩展、可靠的流式传输数据的工具。攻击者可以利用基于 SASL JAAS 配置和 SASL 协议的任意 Kafka 客户端,对 Kafka ... ......
Kafka入门
Kafka 定义 Kafka是一个分布式的流处理平台,它具有以下特性: 磁盘保存数据 伸缩性 术语 生产者 生产者是消息的创造者,可以指定 Topic,Partion,Key,Value,并将消息发送到Kafka集群中的Broker。 消费者 消费者负责从Kafka集群中读取消息。 需要设置偏移量 ......
RabbitMq
为啥要用rabbitmq 1,松耦合结构(解耦,异步处理,缓冲能力,伸缩性,扩展性) 2,性能是万级的 rabbitmq的生产者:rabbitmq的生产者如何保证数据安全问题: 1,发送者确认 2,失败者通知rabbitmq的消费者rabbitmq的消费者如何保证数据安全问题: 1,手动消费确认ra ......
Introducing the core concepts of Kafka
Introduction I have learnt the kafka since 5 years, I believe I learnd somthing, It is on time for improving english. So I decided to pick up my blogs ......
Spring Boot中使用RabbitMQ完成延迟功能
MQ-消息队列简单来说就是将“消息”放到“队列”中,然后慢慢处理队列中的消息。 完成延迟功能总体的思路是将消息放到队列中,为消息设置过期时间,不直接处理这个队列中的消息, 等到消息过期,将它转到另一个队列进行处理,从而完成延迟功能。 基本概念 1. 队列 队列是RabbitMQ的内部对象,用来存储消 ......
Springboot整合RabbitMQ---延迟队列
延迟队列插件地址:https://github.com/rabbitmq/rabbitmq-delayed-message-exchange/releases/tag/v3.12.0 下载后复制到D:\RabbitMQ Server\rabbitmq_server-3.10.5\plugins(路径 ......
oraclelinux上kafka集群部署(一)----zookeeper安装
安装zookeeper需要先安装jdk,至少1.7以上版本。 下载:https://zookeeper.apache.org/releases.html#download 解压:tar -zvxf apache-zookeeper-3.8.3-bin.tar.gz 配置 进入zookeeper目录下 ......
Spring Kafka: UnknownHostException: 34bcfcc207e0
参考: https://stackoverflow.com/questions/69527813/spring-kafka-unknownhostexception-34bcfcc207e0 我遇到的问题和@Adán Escobar是一样的。 在SpringBoot整合kafka的时候日志报了Spr ......
Springboot整合RabbitMQ值Direct交换机
常用的交换机有以下三种,因为消费者是从队列获取信息的,队列是绑定交换机的(一般),所以对应的消息推送/接收模式也会有以下几种: Direct Exchange 直连型交换机,根据消息携带的路由键将消息投递给对应队列。 大致流程,有一个队列绑定到一个直连交换机上,同时赋予一个路由键 routing k ......
kafka配置-代码配置篇
KafkaProducerConfig @Configuration @EnableKafka public class KafkaProducerConfig { /** * Producer Template 配置 */ @Bean(name = "kafkaTemplate") public ......
kafka配置-yml篇
spring: kafka: template: # 当使用 kafkaTemplate 的 sendDefault 方法的时候,使用的是这里配置的 topic defaultTopic: topic-1 # partition-num 和 replication-num KafkaProperti ......
基于Docker Desktop搭建Kafka集群并使用Java编程开发
一、引言 前段时间因课业要求使用Docker Desktop 部署Kafka集群并编写生产者消费者程序,折磨了我好几天,在查找大量资料后终于是把整个集群搭建完成了。现在我想要分享其中搭建的历程,希望能为大家解决问题。 二、Docker集群构建 安装环境: Windows 10 2.1 启用或关闭wi ......
Python Kafka客户端confluent-kafka学习总结
实践环境 Python 3.6.2 confluent-kafka 2.2.0 confluent-kafka简介 Confluent在GitHub上开发和维护的confluent-kafka-python,Apache Kafka®的一个python客户端,提供了一个与所有brokers>=v0. ......