集群hdfs-ha hdfs ha
Linux部署redis集群
环境： redis版本：6.2.1 linux服务器：centos7.6 安装 1、redis需要进行C语言编译环境，安装gcc yun install gcc 2、切换到 /usr/local目录下创建redis目录进入redis目录中进行下载redis-6.2.1.tar.gz cd usr/l ......
Hadoop-3.3.3分布式集群的文件配置，启动hadoop历史服务和启动日志聚集
一、分布式集群的文件配置 涉及$HADOOP_HOME/etc/hadoop路径下的5个文件 workers、core-site.xml、hdfs-site.xml、mapred-site.xml、yarn-site.xml 首先修改workers 进入$HADOOP_HOME/etc/hadoop ......
虚拟机集群ssh配置免密登录
在dn节点机首先安装ssh，没有就执行以下代码 sudo apt-get install openssh-server 然后 cd ~/.ssh 如果没有该路径就执行一次 ssh localhost 然后执行以下代码，删除之前可能生成过的私钥，公钥 rm ./id_rsa* 执行以下代码，然后三次回 ......
haproxy+keepalived部署高可用k8s集群
四台机器 节点名称节点ip节点角色 基础配置 1、升级机器内核 2、将机器ip 名称写入到/etc/hosts中 3、基础环境准备 #关闭防火墙，selinux systemctl stop firewalld systemctl disable firewalld sed -i 's/enforc ......
记一次GFS集群节点系统重做数据恢复
背景： 比较倒霉，周日晚上服务器硬盘损坏更换后发现数据块损坏，系统无法正常使用只能重做系统，恢复了好多虚拟机，过程无比痛苦，目前只说一说恢复gfs。 思路： 登录gfs master节点查看peer状态，gluster peer status 发现另一个节点处于State: Peer Rejecte ......
Ubuntu 修改主机名和hosts文件并克隆虚拟机初步搭建集群
进入终端输入 sudo vim /etc/hosts 像红框里一样，添加自己虚拟机的主机名称映射 然后终端输入reboot 重启虚拟机 然后操作参考Ubuntu20虚拟机克隆以及克隆后静态IP和主机名的修改_ubuntu克隆后修改ip-CSDN博客 ......
分布式存储——ceph集群部署
一、部署结构 以x.x.x.150、x.x.x.151、x.x.x.152三台服务器搭建最基本的三节点ceph集群，服务器系统使用的是centos7版本，IP网段为x.x.x.0/24，三台服务器的名称分别为： ceph001: x.x.x.150，管理节点 ceph002: x.x.x.151，子 ......
nebula-br local-store 模式，快速搭建主备集群实践
单集群如何快速切换多集群模式？目前，NebulaGraph 集群复制有 3 种方式，如何在当中选中一种合适你的方式来搭建集群呢？ ......
关于pacemaker集群stonith:fence_azure_arm资源-SP-服务主机-密码过期的处理方法
在pacemaker中，一般都会创建一个stonith资源（Shoot The Other Node In The Head），笔者因为是在Azure平台、于是使用的为 stonith:fence_azure_arm 最近发现有一个与之关联的服务主体的密码过期了，导致状态异常，通过pcs statu ......
904-907 Prometheus自动发现机制 kube-state-metrics和metrics-server Prometheus监控Kubernetes集群 9.4-9.7
一、Prometheus自动发现机制 服务发现机制：为了实现自动将被监控目标添加到Permethus Prometheus数据源的配置分为静态配置和动态发现，常见为以下几类： static_configs：静态服务发现，即将配置直接写到配置文件或Configmap file_sd_config：文件 ......
Oracle集群升级迁移—Oracle数据库升级12C-19C
目录Oracle集群升级迁移—Oracle数据库升级12C-19C现有架构升级方式 Oracle集群升级迁移—Oracle数据库升级12C-19C 现有架构 现在的架构为一主一备，主备分别做了RAC ，数据库软件和grid infrastructure版本为12c 升级方式 升级方式如下图 ......
解决集群下mp的雪花id重复问题
雪花算法的核心能影响到id生成的几个因素： 服务器时间 workId（机器 ID 部分） datacenterId（数据标识 ID 部分） 根据源码 public void init(GlobalConfig globalConfig) { // 初始化 Sequence //这里需要同时设置wor ......
Redis集群模式incr保证原子性的原理
1.主要是redis的key会解析到固定的主机上，比如集群上有host1，host2，host3；然后key1可能会解析后发现是要发到host2上，则在host2正常的情况下（有点像kafka rebalance；consumer处理哪些分区），key1会一直在host2上进行操作； 因此在redi ......
DHorse改用fabric8的SDK与k8s集群交互
现状 在dhorse 1.4.0版本之前，一直使用k8s官方提供的sdk与k8s集群交互，官方sdk的Maven坐标如下： <dependency> <groupId>io.kubernetes</groupId> <artifactId>client-java</artifactId> <vers ......
使用 Sealos 一键部署 Kubernetes 集群
Sealos 是一款以 Kubernetes 为内核的云操作系统发行版，使用户能够像使用个人电脑一样简单地使用云。 与此同时，Sealos 还提供一套强大的工具，可以便利地管理整个 Kubernetes 集群的生命周期。 Sealos 不仅可以一键安装一个单节点的 Kubernetes 开发环境，还 ......
Hadoop三大组件（HDFS,MapReduce,Yarn）
1、HDFS HDFS是Hadoop分布式文件系统。一个HDFS集群是由一个NameNode和若干个DataNode组成的。其中NameNode作为主服务器，管理文件系统的命名空间和客户端对文件的访问操作；集群中的DataNode管理存储的数据。 2、MapReduce MapReduce是一个软件 ......
docker 部署redis哨兵模式的集群
创建网络 docker network create --subnet=172.10.0.0/16 redis 创建文件目录 [root@master app]# mkdir -p /app/redis/server/config [root@master app]# mkdir -p /app/r ......
Redis的四种模式：单机、主从、哨兵、集群简介
Redis的单机模式 单机模式就是安装一个redis，启动起来，业务调用即可。具体安装步骤和启动步骤就不赘述了，单机在很多场景也是有使用的，例如在一个并非必须保证高可用的情况下。 单机的优点： 部署简单，0成本。 成本低，没有备用节点，不需要其他的开支。 高性能，单机不需要同步数据，数据天然一致性。 ......
100 个常用 Kubernetes 诊断命令，助你轻松搞定各种 Kubernetes 集群故障
100 个常用 Kubernetes 诊断命令，助你轻松搞定各种 Kubernetes 集群故障 云原生百宝箱 奇妙的Linux世界 2023-10-30 08:13 发表于重庆 收录于合集 #Kubernetes285个 #云计算106个 #Docker208个 #开源474个 公众号关注 「奇妙 ......
Centos7系统二进制安装Kubernetes（v1.20）集群
一、环境准备 参考：https://www.cnblogs.com/Mr-Ding/p/17773745.html 二、部署ETCD集群 2.1、准备cfssl证书生成工具 cd k8s1.20二进制包/ chmod +x cfssl_linux-amd64 cfssljson_linux-amd6 ......
Ansible部署mariadb高可用集群
节点规划 主机名 IP地址 master 192.168.238.10 node1 192.168.238.11 node2 192.168.238.12 node3 192.168.238.13 准备四台虚拟机，使用CentOS-7-x86_64-DVD-2009.iso镜像 基础准备 1，安装a ......
shell 脚本一键部署 k8s 高可用集群
github地址： https://github.com/Johnny-Demo/deploy/tree/k8s-cluster 有不理解的地方可以私信我 ......
Nacos2.0.3集群搭建踩坑
Nacos2.0版本相比1.X新增了gRPC的通信方式，如果已经有Nacos集群，那么需要更改集群的配置方式，这里以Nginx为例，来介绍下如何搭建集群。 配置流程 新增端口是在配置的主端口(server.port)基础上，进行一定偏移量自动生成。 端口 与主端口的偏移量 描述 9848 1000 ......
[datax][报错解决] datax发送数据到hdfs时的一系列问题
前提 项目里有三个表需要同步到hdfs上，用datax进行全量同步，写了脚本一把梭，结果就报错了 不支持truncate写入模式 报错信息就是datax不支持truncate模式，原因是之前有的版本不支持truncate，源码有点问题，最好直接找最新的版本，没问题 不支持写入HDFS 报错IOExc ......
Docker部署Redis集群----第三节（docker-redis集群主从复制【上】实现篇）
1、redis的集群方式有哪些？ 主从复制 哨兵集群 redis-cluster集群 本节课我们主要讲解主从复制，现在大家手上是否有一台属于自己的云服务器了呢，今天我们要做的就是在云服务器上搭建我们的第一个集群主从复制。在讲之前，首先我们来了解下为什么要用集群模式以及集群模式的优点、给我们的项目带来 ......
Docker部署Redis集群----第二节（docker安装centos和指令讲解）
1、安装docker 在安装前：先讲下，因为我们是在云服务上部署的，有时候会出现短时间不操作就会断开ssh远端连接记得加个心跳： [root@instance-rttngj1u ~]# vim /etc/ssh/sshd_config 在末尾添加这两行代码 ClientAliveInterval 6 ......
Docker部署Redis集群----第一节（docker初认识）
作者：逻辑链接：https://zhuanlan.zhihu.com/p/59183420来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 1、Docker是什么？ docker是开源的应用容器引擎，我们可以理解为一个轻量级的“虚拟机”，开发者可以打包自己开发的应用或程 ......
怎么用Python写一个浏览器集群框架
这是做什么用的 框架用途 在采集大量新闻网站时，不可避免的遇到动态加载的网站，这给配模版的人增加了很大难度。本来配静态网站只需要两个技能点：xpath和正则，如果是动态网站的还得抓包，遇到加密的还得js逆向。 所以就需要用浏览器渲染这些动态网站，来减少了配模板的工作难度和技能要求。动态加载的网站在新 ......
K8s - 安装部署Kafka、Zookeeper集群教程（支持从K8s外部访问）
本文演示如何在K8s集群下部署Kafka集群，并且搭建后除了可以K8s内部访问Kafka服务，也支持从K8s集群外部访问Kafka服务。服务的集群部署通常有两种方式：一种是 StatefulSet，另一种是 Service&Deployment。本次我们使用 StatefulSet 方式搭建 Zoo ......
kube-prometheus监控k8s集群内服务
一. 测试环境 1.1 服务器IP分布 节点 IP master-vip 10.255.61.20 tmp-k8s-master1 10.255.61.21 tmp-k8s-master2 10.255.61.22 tmp-k8s-master3 10.255.61.23 tmp-k8s-node1 ......