集群hdfs-ha hdfs ha

minio serverpool 进行集群扩容测试试用

minio 以前是推荐联邦解决集群的问题,但是现在已经废弃了,推荐通过server pool 模式进行集群的扩容处理,而且提供了比较全的命令还是比较方便的 以下是一个简单的测试:包含了两个server pool,将1的数据迁移到2中 环境准备 docker-compose 如下包含了两个server ......
集群 serverpool minio

HDFS Short-Circuit Local Reads

1、背景 在HDFS中,读取操作通常是通过DataNode。因此,当客户端要读取文件时,DataNode 会从磁盘上读取文件,然后通过TCP套接字将数据发送给客户端。如果我们的客户端和数据在同一台机器上的时候, 那么是否可以绕过DataNode,允许客户端直接读取数据呢?通过Short-Circui ......
Short-Circuit Circuit Short Local Reads

Haproxy集群

一、Haproxy简介 Haproxy 是一个使用C语言编写的自由及开放源代码软件,其提供高可用性、负载均衡,以及基于TCP和HTTP的应用程序代理。 1.1Haproxy应用分析 LVS在企业应用中抗负载能力很强,但存在不足 LVS不支持正则处理,不能实现动静分离 对于大型网站,LVS的实施配置复 ......
集群 Haproxy

基于docker-compose部署 简单nsq 集群

基于docker-compose部署 简单nsq 集群 主要目的是搭建一个测试环境,同时使用了nodejs 客户端sdk nsq 简单了解 nsqd:一个负责接收、排队、转发消息到客户端的守护进程nsqlookupd:管理拓扑信息并提供最终一致性的发现服务的守护进程nsqadmin:一套Web用户界 ......
集群 docker-compose compose docker nsq

LVS负载均衡集群——NAT地址转换模式与DR直接路由模式

一.LVS集群基本介绍 1.集群是什么 Cluster,集群、群集 由多台主机构成,但对外只表现为一个整体,只提供一个访问入口(域名或IP地址),相当于一台大型计算机。 2.集群的类型 2.1 负载均衡群集(Load Balance Cluster) 提高应用系统的响应能力、尽可能处理更多的访问请求 ......
模式 集群 路由 地址 LVS

【必须收藏】别再乱找TiDB 集群部署教程了,这篇保姆级教程来帮你!!| 博学谷狂野架构师

TiDB 基础使用 TiDB dashboard使用 TiDB Dashboard 是 TiDB 自 4.0 版本起提供的图形化界面,可用于监控及诊断 TiDB 集群。TiDB Dashboard 内置于 TiDB 的 PD 组件中,无需独立部署。 集群概况 查看集群整体 QPS 数值、执行耗时、消 ......
教程 集群 架构 保姆 TiDB

nacos集群无法正确显示服务列表问题

起因是在使用dubbo的过程中,选用的注册中心是nacos,并且使用的nacos集群。 应用启动后,在nacos控制台查看注册的服务列表,包括消费者和服务者,都无法及时刷新。刷新的唯一方式是重启nacos。 后面经过一系列排查,发现我们的nacos集群是三个节点的,这是正常的并且也是nacos推荐的 ......
集群 问题 nacos

Kubernetes集群(三)——Kuboard安装

1. 获取安装文件 curl -o kuboard-v3.yaml https://addons.kuboard.cn/kuboard/kuboard-v3-storage-class.ya 2. 安装文件自定义 mkdir -p /root/kuboard && cd /root/kuboard ......
集群 Kubernetes Kuboard

[docker]mesos集群的启动脚本

宿主机的IP地址列表 mesos-lb:192.168.253.159 mesos-marathon:192.168.253.159 mesos-master:192.168.253.159 mesos-slave:192.168.253.160 mesos-slave:192.168.253.16 ......
集群 脚本 docker mesos

Kubernetes集群(二)——nfs的存储类(storageclass)

1. 安装nfs-server 1.1. 新建虚拟机用于nfs服务开启 作为存储服务器,存储空间配置高一些。 安装nfs服务 yum install -y nfs-utils rpcbind 创建共享目录 mkdir /root/test-pv 配置nfs服务信息 vi /etc/exports 添 ......
集群 storageclass Kubernetes nfs

Kubernetes集群(一)——Sealos搭建Kubernetes集群

1. 虚拟机环境准备 test-master-1 主结点1 test-worker-1 工作节点1 采用ESXI虚拟机管理系统创建新虚拟机。 2. 安装Kuberenetes集群 2.1. 更新软件源 在主结点1、工作节点1都进行 yum update 2.2. 安装Sealos 安装下载工具 yu ......
集群 Kubernetes Sealos

解决集群环境下定时任务多次执行的办法有哪些?

只在一台服务器上部署该定时任务代码 优点:解决方法容易理解 缺点:部署麻烦,需要多套代码,且当这台服务器出问题时就没定时任务了。 在定时任务代码上加上某个特定的ip限制,仅某个ip的服务器能运行该定时任务 优点:解决方法容易理解,部署简单,不需要多套代码。 缺点:同上,只能规定一台服务器运行,发生故 ......
集群 任务 办法 环境

Rancher 系列文章-K3S 集群升级

概述 书接上回:《Rancher 系列文章-Rancher 升级》, 我们提到:将 Rancher 用 Helm 从 v2.6.3 升级到 v2.6.4. 接下来开始进行 K3S 集群的升级:将 K3S 集群从 v1.21.7+k3s1 升级到 v1.22.5+k3s2 相关信息 本次升级的 K3S ......
集群 Rancher 文章 K3S K3

GO实现Redis:GO实现Redis集群(5)

采用一致性hash算法将key分散到不同的节点,客户端可以连接到集群中任意一个节点 https://github.com/csgopher/go-redis 本文涉及以下文件: consistenthash:实现添加和选择节点方法 standalone_database:单机database cli ......
Redis 集群

Elasticsearch 学习-windows上搭建集群

Elasticsearch 学习-windows上搭建集群 3.1 相关概念 3.1.1 单机**&** 集群 单台Elasticsearch服务器提供服务,往往都有最大的负载能力,超过这个阈值,服务器性能就会大大降低甚至不可用,所以生产环境中,一般都是运行在指定服务器集群中。 ==除了负载能力,单 ......
集群 Elasticsearch windows

K8S学习笔记之卸载K8S集群

阅读目录 0x00 概述 0x01 操作 0x00 概述 有时候需要卸载已安装在本机的K8S服务和服务,本文卸载的K8S面向使用kubeadm或者二进制方法安装的,不涉及使用rpm包安装的集群; 主要使用kubeadm reset和删除指定文件的方法,卸载K8S集群。 0x01 操作 首先清理运行到 ......
集群 K8S 笔记 K8 8S

java——spring boot集成kafka——集群分区消费策略

图中Kafka集群有两个broker,每个broker中有多个partition。 ⼀个partition只能被⼀个消费组⾥的某⼀个消费者消费,从⽽保证消费顺序。 Kafka只在partition的范围内保证消息消费的局部顺序性,不能在同⼀个topic中的多个partition中保证总的消费顺序性。 ......
集群 策略 spring kafka java

Redis主从集群切换数据丢失问题如何应对?

数据丢失的情况 异步复制同步丢失 集群产生脑裂数据丢失 异步复制丢失 对于Redis主节点与从节点之间的数据复制,是异步复制的,当客户端发送写请求给master节点的时候,客户端会返回OK,然后同步到各个slave节点中。 如果此时master还没来得及同步给slave节点时发生宕机,那么maste ......
主从 集群 数据 问题 Redis

wsl 中 docker-compose 搭建 kafka 集群出现的外部访问错误

在 wsl 中用 docker-compose 搭建了一台 zookeeper + 三台 broker 的 kafka 集群,使用的镜像是 bitnami/kafka,在按照镜像文档运行容器后,发现运行在宿主机里的客户端程序无法正确的推送/消费消息,研究后发现镜像文档只适用于客户端程序和 kafka ......
集群 docker-compose 错误 compose docker

Rancher 系列文章-在腾讯云的 K3S 上安装高可用 Rancher 集群

开篇 📜 引言: 三人行必有我师焉 知识共享,天下为公 《K3s 系列文章》 《Rancher 系列文章》 方案 在腾讯云的 K3S 上安装 Rancher 方案目标 高可用 3 台 master 的 k3s 集群 高可用模式的 rancher 数据备份 rancher 数据备份到 腾讯云对象存储 ......
Rancher 集群 文章 K3S K3

部署基于etcd的coredns集群

前言 现需要为公司搭建私有DNS,私有服务器都使用私有DNS的地址,便于访问内部自定义的域名。采用CoreDNS + ETCD方案部署,coredns和etcd都以三实例运行,etcd为集群模式,使用nginx做coredns的udp负载均衡,避免单机性能问题。另使用prometheus监控core ......
集群 coredns etcd

zookeeper集群搭建

1. zookeeper介绍 ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。 ZooKeeper ......
集群 zookeeper

Nacos集群部署

一、集群部署说明 因此开源的时候推荐用户把所有服务列表放到一个vip下面,然后挂到一个域名下面 http://ip1:port/openAPI 直连ip模式,机器挂则需要修改ip才可以使用。 http://SLB:port/openAPI 挂载SLB模式(内网SLB,不可暴露到公网,以免带来安全风险 ......
集群 Nacos

RabbitMQ集群搭建

1.将上一部分的搭建的rabbitmq环境的虚拟机克隆三份(详细可以参考https://www.cnblogs.com/chongchongstyle/p/17234277.html) 2.修改克隆的机器ip为134、135、136 修改ip可参考 https://www.cnblogs.com/c ......
集群 RabbitMQ

mycat配置数据库集群

mycat配置数据库集群 所有的集群配置,都必须配置多主多从模式,即多个master节点相互之间配置主从,如,master1和slave1为第一组主从,master2和slave2为第二组主从,master1和master2互为对方的主从。 如下配置方式为两个主从模型,两个writeHost互为主从 ......
集群 数据库 数据 mycat

kafka集群原理及部署

#官方地址 https://kafka.apache.org/ #概述 Kakfa起初是由LinkedIn公司开发的一个分布式的消息系统,后成为Apache的一部分,它使用Scala编写,以可水平扩展和高吞吐率而被广泛使用。目前越来越多的开源分布式处理系统如Cloudera、Apache Storm ......
集群 原理 kafka

天梯赛练习题 L3-003 社交集群 (简单并查集)

https://pintia.cn/problem-sets/994805046380707840/exam/problems/994805053141925888 题目大意: 当你在社交网络平台注册时,一般总是被要求填写你的个人兴趣爱好,以便找到具有相同兴趣爱好的潜在的朋友。一个“社交集群”是指部 ......
天梯 练习题 集群 社交 003

高可用K8S集群中Master加入集群的时候报错:error execution phase check-etcd:解决方法

报错信息: 报错原因: 1、这个问题我找了两天没找到,最后找到网络的问题,我做的有双网卡,导致Master02和Master03服务器抢一个虚拟IP。 2、Master02先抢到这个IP,Master03就没有这个IP了,所以就会报错。 3、配置文件中指定了eth1的网卡,但在加入集群的时候,Mas ......
集群 check-etcd execution 时候 方法

Spring Cloud Alibaba系列(三)微服务配置管理和服务管理组件Nacos高可用集群的搭建

网络上Nacos的文章很多,大部分都只说到了怎么搭建单机版本,这里来说说Nacos的集群。 Nacos是Spring CLoud ALibaba重要组件,起了注册中心和配置中心作用。 首先微服务中通过以下pom.xml配置即可集成nacos,大家要尽量使用starter少自定义零碎依赖,否则版本不好 ......
集群 组件 Alibaba Spring Cloud