kafka
kafka的基本概念
1 Broker Kafka集群包含一个或多个服务器，服务器节点称为broker。 如图，我们有2个broker，6个partition，则会均分；如果只有1个partition，那么另一个broker会闲置。 理想情况，我们希望broker数量等于partition数量，然后每个partition ......
关于 kafka 的一些经验
1. kafka 高吞吐原因 PageCache + 顺序写磁盘 (读与写) producer 请求：Server端的I/O线程统一将请求写到操作系统的 PageCache 后立即返回，当消息达到一定阈值后, Kafka 应用本身会操作系统内核会触发强制刷盘 comsumer 请求: 主要利用了 z ......
kafka-exporter
Kafka Exporter packaged by Bitnami What is Kafka Exporter? Kafka exporter for Prometheus. Overview of Kafka Exporter Trademarks: This software listing ......
kafka
Apache Kafka packaged by Bitnami What is Apache Kafka? Apache Kafka is a distributed streaming platform designed to build real-time pipelines and can ......
kafka---->kafka生产者(一)
我们将会介绍 Kafka 的消费者客户端，以及如何从 Kafka 读取消息。 kafka生产者概述 ⼀个应⽤程序在很多情况下需要往 Kafka 写⼊消息：记录⽤户的活动（⽤于审计和分析）、记录度量 指标、保存⽇志消息、记录智能家电的信息、与其他应⽤程序进⾏异步通信、缓冲即将写⼊到数据库 的数据等等。 ......
Kafka随笔
快速认识Kafka Kafka是最初由Linkedin公司开发，用作 Linkedin 的活动流（Activity Stream）和运营数据处理管道的基础。Linkedin于2010年贡献给了Apache基金会并成为顶级开源项目，官方的定义Kafka是一个高吞吐量的分布式流处理平台。Kafka由Sc ......
kafka rebalance你真的了解吗
介绍 今天主要分享一下 kafka 的 rebalance，在 kafka 中，rebalance 是一个十分重要的概念，很多时候引发的一些问题可能都是由于 rebalance 引起的，rebalance 也就是再均衡，顾名思义，再均衡就是再次负载均衡，下面会对再均衡进行一个详细的描述。 负载均衡 ......
Go接入kafka
需要借助的库 github.com/Shopify/sarama // kafka主要的库* github.com/bsm/sarama-cluster // kafka消费组 生产者 package producer import ( "fmt" "github.com/HappyTeemo756 ......
kratos中使用kafka手动ACK消息的方法
参考项目：https://gitee.com/huoyingwhw/kratos_kafka 参考视频：https://www.bilibili.com/video/BV1dM4y1m7ix/?vd_source=0bed7ecd22f81e2fed5ccaab40168b8c ......
为什么kafka效率这么高？
kafka的IO效率这么高的原因： （1）kafka是顺序写入数据的，把普通的那种随机IO变成了顺序IO，这样的话写入数据的速度就比较快 （2）kafka读取数据的时候是基于sendfile实现Zero Copy 传统的数据读取： 基于sendfile调用read函数，文件数据被copy到内核缓冲区 ......
C#实现kafka消息队列-Confluent.Kafka
一、本文是C#引用Confluent.Kafka.dll实现kafka消息队列的实际开发例子。在实际开发中遇到9094端口始终消息生产和消费超时的问题，需要对网络白名单进行配置或者直接使用9092端口。大部分Time Out情况与代码无关，跟kafka的安装配置有关。 二、、Nuget中添加引用Co ......
java——spring boot集成kafka——消费端代码实现
public class MyConsumer { private final static String TOPIC_NAME = "my-replicated-topic"; private final static String CONSUMER_GROUP_NAME = "testGroup ......
java——spring boot集成kafka——生产者端ack的设置
在同步发消息的场景下：生产者发动broker上后，ack会有 3 种不同的选择： （ 1 ）acks=0： 表示producer不需要等待任何broker确认收到消息的回复，就可以继续发送下一条消息。性能最高，但是最容易丢消息。 （ 2 ）acks=1： 至少要等待leader已经成功将数据写入本地 ......
java——spring boot集成kafka——java代码实现
引入依赖： <dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka-clients</artifactId> <version>2.4.1</version> </dependency> 1 ......
java——spring boot集成kafka——集群分区消费策略
图中Kafka集群有两个broker，每个broker中有多个partition。 ⼀个partition只能被⼀个消费组⾥的某⼀个消费者消费，从⽽保证消费顺序。 Kafka只在partition的范围内保证消息消费的局部顺序性，不能在同⼀个topic中的多个partition中保证总的消费顺序性。 ......
java——spring boot集成kafka——broker、主题、分区、副本——概念理解
一、代理商Broker 在之前我们已经为大家介绍了生产者向消息队列中投递消息，消费者从消息队列中拉取数据。 在kafka消息队列中有一个非常重要的概念就是代理Broker，大家可以想象生活中的商品代理商是做什么的？进货、存货、销货。 kafka的代理Broker也承担着同样的作用：接收消息、保存消息 ......
python 使用 kafka
python 使用 kafka 说明：关于 kafka 的启动与安装，命令行的使用，此处不做过多的解释，本篇文章主要描述 kafka 在 python 中的使用； 1. python 使用 kafka 生产者 **说明：**python 在操作 kafka 写入数据的时候，分为发送往已经存在的主题或 ......
java——spring boot集成kafka——单播与多播消息的实现
单播消息的实现： 单播消息：⼀个消费组⾥ 只会有⼀个消费者能消费到某⼀个topic中的消息。于是可以创建多个消费者，这些消费者在同⼀个消费组中。 创建一个消费者，此消费者属于消费组testGroup，获取borker为：10.31.167.10:9092中 主题为test的消息； ./kafka-c ......
wsl 中 docker-compose 搭建 kafka 集群出现的外部访问错误
在 wsl 中用 docker-compose 搭建了一台 zookeeper + 三台 broker 的 kafka 集群，使用的镜像是 bitnami/kafka，在按照镜像文档运行容器后，发现运行在宿主机里的客户端程序无法正确的推送/消费消息，研究后发现镜像文档只适用于客户端程序和 kafka ......
java——spring boot集成kafka——单节点示例
首先安装一个zk。然后再安装kafka： 执⾏以下命令创建名为“test”的topic，这个topic只有⼀个partition，并且备份因⼦也设置为1： 然后在kafka节点下，执行如下命令： ./kafka-topics.sh --create --zookeeper 172.16.253.35 ......
Kafka快速使用与详解
一、Kafka简介 1. 概念 Kafka是一个分布式的、基于发布/订阅的消息队列，最初由LinkedIn开发，并于2011年成为Apache项目的一部分。Kafka具有高吞吐量、可扩展性、持久性和容错性等特性，被广泛应用于大数据领域，如数据采集、数据传输、数据处理等场景。 Kafka主要由以下三个 ......