rabbitmq kafka

rabbitmq小记

发topic代码,创建交换器,数据直接按routingKey发送到交换器中: using (var connection = factory.CreateConnection()) { using (var channel = connection.CreateModel()) { // 创建交换器 ......
小记 rabbitmq

kafka 磁盘扩容与数据均衡实在操作讲解

目录一、概述1)Kafka 磁盘扩容概述2)Kafka 数据均衡概述二、K8s 集群部署三、kafka on k8s 环境部署1)安装 helm2)安装 zookeeper1、添加源并下载部署包2、修改配置3、开始安装 zookeeper4、测试验证5、卸载3)安装 kafka1、添加源并下载部署包 ......
磁盘 数据 kafka

kafka入门(一):kafka消息消费

安装kafka,创建 topic: Windows安装kafka, 详情见:https://blog.csdn.net/sinat_32502451/article/details/133067851 Linux 安装kafka,详情见:https://blog.csdn.net/sinat_325 ......
kafka 消息

kafka安装教程

检查java8 没有就安装 java -version 安装jdk1.8 yum -y install java-1.8.0-openjdk 下载kafka (网速很慢) wget https://dlcdn.apache.org/kafka/3.5.0/kafka_2.13-3.5.0.tgz 解 ......
教程 kafka

Introduing some cores concepts within kafka

Introduction Today, we talk about some cores concepts within kafka. Apache kafka is a distributed publish-subscribe messaging system. It is originally ......
Introduing concepts within cores kafka

万字长文:从 C# 入门学会 RabbitMQ 消息队列编程

RabbitMQ 教程 目录RabbitMQ 教程RabbitMQ 简介安装与配置安装 RabbitMQ发布与订阅模型生产者、消费者、交换器、队列多工作队列交换器类型DirectFanoutTopic交换器绑定交换器消费者、消息属性Qos 、拒绝接收消息确认模式消息持久化消息 TTL 时间队列 TT ......
长文 队列 RabbitMQ 消息

Zookeeper 在 Kafka 中的作用

Zookeeper 在 Kafka 中的作用 1、Broker注册 Broker是分布式部署并且相互之间相互独立,但是需要有一个注册系统能够将整个集群中的Broker管理起来,此时就使用到了Zookeeper。在Zookeeper上会有一个专门用来进行Broker服务器列表记录的节点: /broke ......
Zookeeper 作用 Kafka

Kafka 集群如何实现数据同步?

哈喽大家好,我是咸鱼 最近这段时间比较忙,将近一周没更新文章,再不更新我那为数不多的粉丝量就要库库往下掉了 T﹏T 刚好最近在学 Kafka,于是决定写篇跟 Kafka 相关的文章(文中有不对的地方欢迎大家指出) 考虑到有些小伙伴可能是第一次接触 Kafka ,所以先简单介绍一下什么是 Kafka ......
集群 数据 Kafka

kafka

一、简介 kafka是一个分布式流处理平台。有3个关键能力: 1、订阅发布记录流:类似于消息队列 或 企业消息传递系统; 2、以容错的方式存储记录流; 3、实时记录流; 二、应用 作为消息系统、存储系统、流处理器。可以建立流数据管道,可靠性的债系统或应用之间获取数据。建立流式应用传输和响应数据。 三 ......
kafka

Centos7部署zookeeper+kafka

一、Zookeeper 概述 1、Zookeeper 定义 Zookeeper是一个开源的分布式的,为分布式框架提供协调服务的Apache项目。 2、Zookeeper 工作机制 Zookeeper从设计模式角度来理解:是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据, ......
zookeeper Centos7 Centos kafka

如何在 Linux 上部署 RabbitMQ

如何在 Linux 上部署 RabbitMQ 目录如何在 Linux 上部署 RabbitMQ安装 Erlang从预构建的二进制包安装从源代码编译 ErlangRabbitMQ 的安装使用 RabbitMQ Assistant 连接 RabbitMQ Assistant 是一款优秀的RabbitMQ ......
RabbitMQ Linux

RabbitMQ安装,操作

rabbitMQ安装 安装环境 ubuntu安装erlang语言环境 apt install erlang-nox 安装rabbitmq-server wget -O- https://www.rabbitmq.com/rabbitmq-release-signing-key.asc | sudo ......
RabbitMQ

Linux安装Kafka

前言 本文Kafka演示版本依赖Zookeeper,需要先安装Zookeeper:Linux安装Zookeeper 1. 解压文件 tar -zxvf kafka_2.12-2.7.0 2. 修改配置文件,日志输出地址 vim config/server.properties log.dirs=/o ......
Linux Kafka

kafka启动报错

一、kafka启动报错: java.nio.file.FileSystemException: D:\kafka_2.12-2.1.0\kafka_2.12-2.1.0\logs\__consumer_offsets-30\00000000000000000000.timeindex.cleaned ......
kafka

docker 部署 rabbitmq集群

rabbitmq集群: pull: docker pull rabbitmq 普通模式(默认): what: 集群中各节点有相同的队列结构, 但消息只会存在于集群中的一个节点。 对于消费者来说, 若消息进入 A 节点的 Queue 中, 当从 B 节点拉取时, RabbitMQ 会将消息从 A 中取 ......
集群 rabbitmq docker

【kafka】Kafka压力测试

kafka 自带的压测工具 kafka-producer-perf-test.sh 和 kafka-consumer-perf-test.sh ./bin/kafka-producer-perf-test.sh --topic kafka-test --num-records 10000 --rec ......
压力 kafka Kafka

xixa oraclelinux上kafka集群部署(一)----kafka安装

kafka部署前提:需要安装jdk1.7以上版本、zookeeper 官网下载:http://kafka.apache.org/quickstart kafka配置 配置server.properties文件中zookeeper配置,如果集群应该怎么配置?还需要尝试 配置kafka集群 在bin目录 ......
kafka 集群 oraclelinux xixa

Kafka JNDI 注入分析(CVE-2023-25194)

Apache Kafka 是一个分布式数据流处理平台,可以实时发布、订阅、存储和处理数据流。Kafka Connect 是一种用于在 kafka 和其他系统之间可扩展、可靠的流式传输数据的工具。攻击者可以利用基于 SASL JAAS 配置和 SASL 协议的任意 Kafka 客户端,对 Kafka ... ......
Kafka 25194 JNDI 2023 CVE

Kafka入门

Kafka 定义 Kafka是一个分布式的流处理平台,它具有以下特性: 磁盘保存数据 伸缩性 术语 生产者 生产者是消息的创造者,可以指定 Topic,Partion,Key,Value,并将消息发送到Kafka集群中的Broker。 消费者 消费者负责从Kafka集群中读取消息。 需要设置偏移量 ......
Kafka

RabbitMq

为啥要用rabbitmq 1,松耦合结构(解耦,异步处理,缓冲能力,伸缩性,扩展性) 2,性能是万级的 rabbitmq的生产者:rabbitmq的生产者如何保证数据安全问题: 1,发送者确认 2,失败者通知rabbitmq的消费者rabbitmq的消费者如何保证数据安全问题: 1,手动消费确认ra ......
RabbitMq

Introducing the core concepts of Kafka

Introduction I have learnt the kafka since 5 years, I believe I learnd somthing, It is on time for improving english. So I decided to pick up my blogs ......
Introducing concepts Kafka core the

Spring Boot中使用RabbitMQ完成延迟功能

MQ-消息队列简单来说就是将“消息”放到“队列”中,然后慢慢处理队列中的消息。 完成延迟功能总体的思路是将消息放到队列中,为消息设置过期时间,不直接处理这个队列中的消息, 等到消息过期,将它转到另一个队列进行处理,从而完成延迟功能。 基本概念 1. 队列 队列是RabbitMQ的内部对象,用来存储消 ......
RabbitMQ 功能 Spring Boot

Springboot整合RabbitMQ---延迟队列

延迟队列插件地址:https://github.com/rabbitmq/rabbitmq-delayed-message-exchange/releases/tag/v3.12.0 下载后复制到D:\RabbitMQ Server\rabbitmq_server-3.10.5\plugins(路径 ......
队列 Springboot RabbitMQ

oraclelinux上kafka集群部署(一)----zookeeper安装

安装zookeeper需要先安装jdk,至少1.7以上版本。 下载:https://zookeeper.apache.org/releases.html#download 解压:tar -zvxf apache-zookeeper-3.8.3-bin.tar.gz 配置 进入zookeeper目录下 ......
集群 oraclelinux zookeeper kafka

Spring Kafka: UnknownHostException: 34bcfcc207e0

参考: https://stackoverflow.com/questions/69527813/spring-kafka-unknownhostexception-34bcfcc207e0 我遇到的问题和@Adán Escobar是一样的。 在SpringBoot整合kafka的时候日志报了Spr ......
UnknownHostException Spring Kafka bcfcc 207e

Springboot整合RabbitMQ值Direct交换机

常用的交换机有以下三种,因为消费者是从队列获取信息的,队列是绑定交换机的(一般),所以对应的消息推送/接收模式也会有以下几种: Direct Exchange 直连型交换机,根据消息携带的路由键将消息投递给对应队列。 大致流程,有一个队列绑定到一个直连交换机上,同时赋予一个路由键 routing k ......
交换机 Springboot RabbitMQ Direct

kafka配置-代码配置篇

KafkaProducerConfig @Configuration @EnableKafka public class KafkaProducerConfig { /** * Producer Template 配置 */ @Bean(name = "kafkaTemplate") public ......
代码 kafka

kafka配置-yml篇

spring: kafka: template: # 当使用 kafkaTemplate 的 sendDefault 方法的时候,使用的是这里配置的 topic defaultTopic: topic-1 # partition-num 和 replication-num KafkaProperti ......
kafka yml

基于Docker Desktop搭建Kafka集群并使用Java编程开发

一、引言 前段时间因课业要求使用Docker Desktop 部署Kafka集群并编写生产者消费者程序,折磨了我好几天,在查找大量资料后终于是把整个集群搭建完成了。现在我想要分享其中搭建的历程,希望能为大家解决问题。 二、Docker集群构建 安装环境: Windows 10 2.1 启用或关闭wi ......
集群 Desktop Docker Kafka Java

Python Kafka客户端confluent-kafka学习总结

实践环境 Python 3.6.2 confluent-kafka 2.2.0 confluent-kafka简介 Confluent在GitHub上开发和维护的confluent-kafka-python,Apache Kafka®的一个python客户端,提供了一个与所有brokers>=v0. ......