kafka集群
第二章 Spring Boot 整合 Kafka消息队列 生产者
系列文章目录 第一章 Kafka 配置部署及SASL_PLAINTEXT安全认证 第二章 Spring Boot 整合 Kafka消息队列 生产者 第三章 Spring Boot 整合 Kafka消息队列 消息者（待续） 前言 Kafka 是一个消息队列产品，基于Topic partitions ......
Spark版本不兼容导致Standalone集群无法连接问题
一、Spark版本不一致报错现象 当使用client模式连接Spark的standalone集群时，报错所有的spark master的节点都没有回应。 二、问题排查思路 通过client端的日志产看没有什么有价值的信息，需要看下spark端的master的日志，docker logs spark- ......
Linux 部署redis集群（三主三从）
1、由于redis是C语言编写的，安装之前需要保证有gcc的环境配置 首先使用命令，查看gcc版本，若已经存在则跳过gcc的安装：gcc -v 若不存在gcc，则使用命令安装gcc：yum install gcc-c++ 2、下载redis源文件 mkdir /usr/local/redis cd ......
ClickHouse(21)ClickHouse集成Kafka表引擎详细解析
目录Kafka表集成引擎配置Kerberos 支持虚拟列资料分享参考文章 Kafka表集成引擎 此引擎与Apache Kafka结合使用。 Kafka 特性： 发布或者订阅数据流。 容错存储机制。 处理流数据。 老版Kafka集成表引擎参数格式： Kafka(kafka_broker_list, k ......
org.springframework.kafka.listener.ListenerExecutionFailedException: Listener method could not be invoked with the incoming message
问题描述 kafka在yml文件中未开启批量消费时，程序正常运行；但一开启正常消费后，就直接报错；排查问题的过程中一直觉得是配置文件里的问题，最后发现是消费者接受的参数类型错误 问题本质 消费者开启批量消费数据后，不能用单个实体类接收参数，而应该用list 解决方法 修改消费者函数参数类型 ......
Prometheus监控k8s集群节点主机内存/CPU使用率
CPU使用率： (1 - avg(rate(node_cpu_seconds_total{mode="idle"}[5m])) by (instance)) *100 说明： container_cpu_usage_seconds_total 该容器服务针对每个CPU累计消耗的CPU时间。如果有多个 ......
ogg-kafka
环境搭建 Oracle 环境搭建 源端 OGG 依赖 Oracle 环境，可安装 Oracle instant client，如果源端和数据库在同一台服务器则不需要此小节的步骤。 下载地址：https://www.oracle.com/database/technologies/instant-cl ......
kafka 服务开机自启动
Kafka 服务开机自启动 问题： 服务器更新Linux 内核需要重启服务器，重启后kafka 服务不会自动启动， 需要人工手工启动Kafka服务 服务器类型： SUSE 12SP5 类型服务器 SUSE 12SP3 类型服务器 KYLIN10SP1 国产化操作系统服务器 解决方案： 使用syste ......
TiDB 多集群告警监控-中章-融合多集群 Grafana
author：longzhuquan 背景 随着公司XC改造步伐的前进，越来越多的业务选择 TiDB，由于各个业务之间需要物理隔离，避免不了的 TiDB 集群数量越来越多。虽然每套 TiDB 集群均有两个详细的监控 Dashboard、Grafana，但对于运维来说几十套集群的监控、告警、巡检均需消 ......
TiDB 在单机上模拟部署生产环境集群
参考地址：https://docs.pingcap.com/zh/tidb/dev/quick-start-with-tidb 前提条件 硬件要求 开始部署 TiDB 集群前，准备一台部署主机，确保其软件满足需求： 推荐安装 CentOS 7.3 及以上版本 运行环境可以支持互联网访问，用于下载 T ......
k8s集群手动更换证书过程
第一步部分老的证书 1. 生成etcd证书，更换etcd证书，重启etcd服务。2. 替换/etc/calico的证书为etcd的证书重启calico-node服务。3. 更换calico的pod的证书为新生成的calico-node和calico-kube-controllers.4. 更换k8s ......
Kafka - 面试题
Kafka是什么？它用于什么场景？答案：Kafka是一个分布式流平台，用于构建实时数据流管道和应用。它主要用于处理和传输大规模的流数据，例如日志、事件和其他类型的数据。Kafka广泛应用于大数据处理、实时流处理、消息队列等领域。 Kafka的主要组件有哪些？它们的作用是什么？答案：Kafka的主要组 ......
Kubernetes 多集群网络方案系列 1 -- Submariner 介绍
https://cloudpods.csdn.net/657811c5b8e5f01e1e449b3e.html Kubernetes 多集群网络方案系列 1 -- Submariner 介绍 本文首先介绍了 Submariner 的架构，包括 Broker、Gateway Engine、Route ......
Kubernetes 多集群网络方案系列 2 -- Submariner 监控
https://juejin.cn/post/7222575963565015096 Kubernetes 多集群网络方案系列 2 -- Submariner 监控 2023-04-16 62 阅读10分钟 Submariner 是一个用于连接 Kubernetes 集群的跨集群网络解决方案，可以实 ......
一篇文章彻底搞懂TiDB集群各种容量计算方式
背景 TiDB 集群的监控面板里面有两个非常重要、且非常常用的指标，相信用了 TiDB 的都见过： Storage capacity：集群的总容量 Current storage size：集群当前已经使用的空间大小 当你准备了一堆服务器，经过各种思考设计部署了一个 TiDB 集群，有没有想过这两个 ......
K8s 多集群实践思考和探索
https://www.cnblogs.com/vivotech/p/17684105.html 作者：vivo 互联网容器团队 - Zhang Rong 本文主要讲述了一些对于K8s多集群管理的思考，包括为什么需要多集群、多集群的优势以及现有的一些基于Kubernetes衍生出的多集群管理架构实践 ......
22-安全机制：Kubernete 如何保障集群安全？
（https://rancher.com/blog/2019/2019-01-17-101-more-kubernetes-security-best-practices/） 你好，我是正范。 Kubernetes 作为一个分布式集群的管理工具，提供了非常强大的可扩展能力，可以帮助你管理容器，实现业 ......
23-最后的防线：怎样对 Kubernete 集群进行灾备和恢复？
Kubernetes 隐藏了所有容器编排的复杂细节，让我们可以专注在应用本身，而无须过多关注如何去做部署和维护。此外，Kubernetes 还支持多副本，可以保证我们业务的高可用性。而对于集群本身而言，我们一样也要保证其高可用性，你可以参考官方文档：利用 Kubeadm 来创建高可用集群。 但是这些 ......
18-权限分析：Kubernete 集群权限管理那些事儿
你好，我是正范。 通过前面的课程学习，你已经学会了使用kubectl命令行，或者直接发送 REST 请求，以及使用各种语言的 client 库来跟 APIServer 进行交互。那么你是否知道在这其中Kubernetes 是如何对这些请求进行认证、授权的呢？这节课，我们就来一探究竟。 任何请求访问 ......
19-资源限制：如何保障你的 Kubernete 集群资源不会被打爆
前面的课时中，我们曾提到通过 HPA 控制业务的资源水位，通过 ClusterAutoscaler 自动扩充集群的资源。但如果集群资源本身就是受限的情况下，或者一时无法短时间内扩容，那么我们该如何控制集群的整体资源水位，保障集群资源不会被“打爆”？ 今天我们就来看看 Kubernetes 中都有哪些 ......
03-集群搭建：手把手教你玩转 Kubernete 集群搭建
通过上一节课的学习，我们已经对 Kubernetes 的架构有了清楚的认识。但是到现在还没有和 Kubernetes 集群真正打过交道，所以你可能有一种“不识庐山真面目”的云里雾里的感觉。那么本节课，我们就来学习如何搭建 Kubernetes 集群，开启探索 Kubernetes 的第一站。 在线 ......
【K8S系列】快速初始化⼀个最⼩集群
序言 走得最慢的人，只要不丧失目标，也比漫无目的地徘徊的人走得快。 文章标记颜色说明： 黄色：重要标题 红色：用来标记结论 绿色：用来标记一级重要 蓝色：用来标记二级重要 希望这篇文章能让你不仅有一定的收获，而且可以愉快的学习，如果有什么建议，都可以留言和我交流 写在前面 k8s作为⼀个相对⽐较复杂 ......
k8s集群Node节点管理：节点信息查看及节点label标签管理
k8s集群Node节点管理：节点信息查看及节点label标签管理 Kubernetes集群Node管理 一、查看集群信息 [root@k8s-master1 ~]# kubectl cluster-info Kubernetes control plane is running at https:/ ......
开源大数据集群部署（二）集群基础环境实施准备
作者：櫰木 环境准备 本次使用到的二进制软件包目录为：系统初始化前提是操作系统已完成安装、各个主机之间网络互通，系统常用命令已安装，本默认这些前提条件已具备，不在阐述。 1 主机环境初始化 安装centos系统完成后需要对主机进行初始化配置和验证工作，在所有主机上（hd1.dtstack.com-h ......
TiDB 多集群告警监控-初章-监控融合、自动告警处理
author:longzhuquan 背景 随着公司XC改造步伐的前进，越来越多的业务选择 TiDB，由于各个业务之间需要物理隔离，避免不了的 TiDB 集群数量越来越多。虽然每套 TiDB 集群均有两个详细的监控 Dashboard、Grafana，但对于运维来说几十套集群的监控、告警、巡检均需消 ......
移动护理系统-ZooKeeper单机和集群方式安装部署
1.1 zookeeper安装 1.下载地址 http://mirror.bit.edu.cn/apache/zookeeper/ 选择版本，我选择的是 注意：下载新版本的时候需要下载带bin的，因为有时候会报错错误: 找不到或无法加载主类 org.apache.zookeeper.server.q ......
Kafka 万字精讲｜工作五年这些你都知道吗？
本文以 Kafka 官方文档的内容为基石，结合参考文献处文章和笔者自身实践凝练而成，涵盖内容全面，详略得当。
这也是《一文搞懂》系列的第一篇技术长文，期待您的关注。 ......
中间件 ZK分布式专题与Dubbo微服务入门 5-1 集群的一些基本概念
0 课程地址 https://coding.imooc.com/lesson/201.html#mid=12714 1 重点关注 1.1 ACL命令行 getAcl:获取某个节点的acl权眼信息setAcl:设置某个节点的acl权限信息addauth:输入认证授权信息，注册时输入明文察码(登录 但是 ......
kafka入门(七)：kafka实现高吞吐量
kafka 高吞吐量 顺序写入磁盘 Kafka 使用 磁盘来存储和缓存消息。 Kafka 只能在日志文件的尾部追加新的消息，也就是 顺序写入磁盘。 顺序写入磁盘，让 Kafka 能实现更高的吞吐量。 页缓存 Kafka中大量使用页缓存，这是Kafka 实现高吞吐的重要因素之一。 页缓存，是操作系统实 ......
大数据 - 安装部署 Apache开源大数据集群
Step1：前期准备 虚拟机软件：VMware workstation 16 pro 网盘链接：https://pan.baidu.com/s/1Yd0JUqiM-N6rpQbO0RjG_w --来自百度网盘超级会员V2的分享 集群信息如下 主机名 IP 操作系统 node01 192.168.24 ......