集群docker-compose rocketmq compose
YARN集群架构
玩Hadoop的不知道YARN？这简直是天大的笑话！之前介绍Hadoop核心组件的时候（详见《Hadoop的“前世今生”》那篇博文）就曾提到过“YARN是实现了集群资源管理以及作业调度的框架”，那么本文就对YARN集群架构做进一步的介绍。 YARN集群总体上是经典的Master/Slave架构，主要 ......
Hive和Spark生产集群搭建
1.环境准备 1.1 版本选择 序号 bigdata-001 bigdata-002 bigdata-003 bigdata-004 bigdata-005 MySQL-8.0.31 mysql Datax Datax Datax Datax Datax Datax Spark-3.3.1 Spar ......
Hadoop生产集群搭建
1.环境准备 1.1 集群规划 序号 bigdata-001 bigdata-002 bigdata-003 bigdata-004 bigdata-005 IP x x x x x x xxx xxx xxx 组件 hadoop1 hadoop2 hadoop3 hadoop4 hadoop5 节 ......
rocketmq之填坑记录
2023/12/21： 问题一: 最近一段时间服务器上总是被攻击，根据阿里云的报警发现是从rocketmq的端口进入并执行的，一时之间也是难已解决，试过好几次的白名单或者添加认证都不管用，百度几次发现个好办法 那就是换版本，换掉版本无需任何操作即可无忧 需要 4.9.6 或 5.1.1 原文链接:[ ......
使用阿里云性能测试工具 JMeter 场景压测 RocketMQ 最佳实践
作者：森元 需求背景 新业务上线前，我们通常需要对系统的不同中间件进行压测，找到当前配置下中间件承受流量的上限，从而确定上游链路的限流规则，保护系统不因突发流量而崩溃。阿里云 PTS 的 JMeter 压测可以支持用户上传自定义的 JMeter 脚本，按照自定义的逻辑，借助 PTS 强大的分布式压测 ......
C++聊天集群服务器解决客户端注销登录问题
客户端如何处理注销登录问题？ 问题描述: 在客户端登录后进行注销选择，然后重新登录刚才注销的账号，直接卡死。注意这是概率发生，因为是主线程和子线程抢服务器发送的信息，只有子线程抢到才会发生卡死 问题产生原因分析： 前置条件：主线程循环等待用户输入选择（第一张图是死循环，send后立马recv ......
集群模式
一、Redis Cluster 1、Redis集群方案的演变 大规模数据存储系统都会面临的一个问题就是如何横向拓展。 当你的数据集越来越大，一主多从的模式已经无法支撑这么大量的数据存储，于是你首先考虑将多个主从模式结合在一起对外提供服务，但是这里有两个问题就是如何实现数据分片的逻辑和在哪里实现这部分 ......
docker-compose 安装
一、下载 sudo curl -L "https://github.com/docker/compose/releases/download/1.29.0/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose ......
MySQL集群
一、MySQL集群方案 1、常见MySQL集群方案 1.1、Replication 特点： 速度快 弱一致性 适用于低价值数据： 日志 新闻 帖子 1.2、PXC 特点： 速度慢 强一致性 适用于高价值数据： 订单 账户 财务 1.2.1、PXC原理 全称（Percona XtraDB Cluste ......
linux直接下载docker-compose可执行文件
地址：https://github.com/docker/compose/releases ......
Redis 主从集群搭建并使用 RedisTemplate 实现读写分离
单机版的 Redis 能够承载并发访问的能力有限，对于绝大多数的系统而言，都是读多写少，系统之所以宕机，一般都是因为并发读操作太高导致的宕机，因此搭建 Redis 主从集群，实现读写分离，是一种有效的提高并发访问能力的方案。 本篇博客介绍在一台虚拟机上，使用 docker-compose 模拟搭建一 ......
prometheus监控k8s集群信息（通过kube-state-metrics）
prometheus监控k8s集群信息（通过kube-state-metrics） 因为通过k8s集群中kubelet和apiserver自带的一些接口来获取的信息太少，当然如果只需要监控POD的cpu、内存等信息，可能使用kubelet也够了，但是更多的信息还需要其他的工具，这里使用kube-st ......
Kubernetes集群存储解决方案GlusterFS
1、工具简介 1.1、GlusterFS 是一个开源的分布式文件系统 具有强大的横向扩展能力 通过扩展能够支持数PB存储容量和处理数千客户端 将物理分布的存储资源聚集在一起，使用单一全局命名空间来管理数据 1.2、Heketi 是一个基于RESTful API的GlusterFS卷管理框架 可以方便 ......
Linux系统下kafka集群安装部署
Linux系统下kafka集群安装部署 Linux系统下kafka集群安装部署 | 系统运维 (osyunwei.com) 2023年05月01日 ⁄ kafka ⁄ 暂无评论 ⁄ 被围观 1,254次+ Kafka是由Apache软件基金会开发的一个开源流处理平台，由Scala和Java编写。 操 ......
ES集群架构
一、集群节点 一个ES集群可以有多个节点构成 一个节点就是一个ES服务实例，通过配置集群名称cluster.name加入集群 那么节点是如何通过配置相同的集群名称加入集群的呢？要搞明白这个问题，我们必须先搞清楚ES集群中节点的角色。 ES中节点有角色的区分的，通过配置文件conf/elasticse ......
集群模式
一、Redis Cluster 1、Redis集群方案的演变 大规模数据存储系统都会面临的一个问题就是如何横向拓展。 当你的数据集越来越大，一主多从的模式已经无法支撑这么大量的数据存储，于是你首先考虑将多个主从模式结合在一起对外提供服务，但是这里有两个问题就是如何实现数据分片的逻辑和在哪里实现这部分 ......
docker-compose 安装
一、下载 sudo curl -L "https://github.com/docker/compose/releases/download/1.29.0/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose ......
MySQL集群
一、MySQL集群方案 1、常见MySQL集群方案 1.1、Replication 特点： 速度快 弱一致性 适用于低价值数据： 日志 新闻 帖子 1.2、PXC 特点： 速度慢 强一致性 适用于高价值数据： 订单 账户 财务 1.2.1、PXC原理 全称（Percona XtraDB Cluste ......
day16监控体系部署管理-K8S集群层面监控-基于Prometheus的HPA自动伸缩 (7.1-7.2)
一、打造基于Prometheus的全方位监控平台 1.1 前言 官网：https://prometheus.io/docs/prometheus/latest/getting_started/ 灵活的时间序列数据库 定制各式各样的监控规则 Prometheus的开发人员和用户社区非常活跃 独立的开源 ......
M1 Docker 部署rocketmq
1、克隆镜像arm64镜像代码编译镜像，docker直接安装会报错所以选择编译 git clone https://github.com/apache/rocketmq-docker.git cd rocketmq-docker # 注意这里centos固定不要改 镜像版本可以改 sh build- ......
hadoop集群常见错误
虚拟及没有启动任何服务器查看jps会显示jps，如果没有显示任何东西 [root@slave2 ~]# jps 9647 Jps 解决方案 # 进入/tmp查看 [root@slave1 dfs]# cd /tmp [root@slave1 tmp]# ll 总用量 48 drwxr-xr-x. 2 ......
Kubernetes管理应用程序、服务常用命令、集群监视
1、如何使用Kubernetes管理应用程序 1.1 查看集群信息： kubectl cluster-info: 显示集群信息。 kubectl config view: 显示当前kubectl配置信息。 1.2 查看资源状态： kubectl get pods: 查看所有Pod的状态。 kubec ......
什么是集群,什么是负载均衡
tags: 集群 负载均衡 author: zhanglei data: 2023-11-29 什么是集群？什么又是负载均衡？你说得清楚吗？ - 知乎 (zhihu.com) ......
一文讲透消息队列RocketMQ实现消费幂等
这篇文章，我们聊聊消息队列中非常重要的最佳实践之一：消费幂等。 1 基础概念 消费幂等是指：当出现 RocketMQ 消费者对某条消息重复消费的情况时，重复消费的结果与消费一次的结果是相同的，并且多次消费并未对业务系统产生任何负面影响。 例如，在支付场景下，消费者消费扣款消息，对一笔订单执行扣款操作 ......
Docker Compose 快速搭建 Redis 单机版
Redis 是非常流行的缓存中间件，其具有功能强大和部署简单的优势，我们在 CentOS 上使用 yum 就能够在线安装 Redis。之所以要介绍使用 Docker 进行容器化部署 Redis ，主要原因是当前容器化部署是主流，而且能够保障服务器文件系统的整洁。 本篇博客主要介绍如何使用 docke ......
k8s集群安装
在三台机器上都执行如下命令操作： 1、关闭防火墙 systemctl stop firewalld systemctl disable firewalld 2、关闭 selinux sed -i 's/enforceing/disabled/' /etc/selinux/config # 永久关闭 ......
helm部署Kafka集群
1.准备文件 1.1.创建命令空间 kubectl create ns kafka 1.1.helm包拉取本地 # 添加bitnami仓库 helm repo add bitnami https://charts.bitnami.com/bitnami # 查询chart helm search r ......
kubeadm使用docker搭建k8s 1.27.2高可用集群
系统基础优化 #系统版本：Ubuntu22.04 #docker版本：20.10 #kubeadm版本：1.27.2 root@k8s-master1:~# cat /etc/sysctl.conf ################################################## ......
C++聊天集群服务器7
一、引入redis队列 在上一篇博客里我们已经为服务器配置了基于nginx的tcp负载均衡，提高了服务器的并发量，但是相应的之前也会存在一个问题，那就是多个客户端可能连接在不同的服务器，那这几个客户端如何通信呢？这就需要引入这次的内容：redis中间件，我们通过redis来作为一个中间消息转发者 ......