主从 副本 集群mongodb
基于docker容器，搭建hadoop+spark+hive+hbase+Zookeeper Scala集群
1.安装Docker和Docker Compose 2.下载镜像 docker pull bde2020/hadoop-base:2.0.0-hadoop3.2.1-java8 docker pull bde2020/hadoop-namenode:2.0.0-hadoop3.2.1-java8 d ......
ETCD集群key超出200w给etcd压力太大，导致集群调度器延迟
背景： 业务在做测试的时候，突然集群不可用了，无法做出变更了，找到我们平台侧，经过排查，发现controller-manager调度器出现问题，经过查看，调度器不可使用， 处理 方案： 删除etcd集群的key 查询etcd集群中的key的数量： #etcd的命令行 etcdctl="/opt/et ......
利用kubeadm创建高可用集群
前言 本页的高可用是控制平面组件的高可用部署，同时还分为2种情况：堆叠etcd和外部etcd。使用kubeadm部署多master节点很方便，大体是3个步骤：使用init参数初始化好第一个master节点，然后其余的master节点使用join命令加入到master集群中，形成一个高可用的maste ......
使用kubeadm创建集群
前言 k8s集群在Node节点数量少的情况下，逐台去维护是可行的，但是如果Node节点数量多的情况下，再去想着我大不了一台一台来维护可能就不现实了。而且k8s的每个版本都差不多只有14个月的支持时间。可能还没稳定下来，一个新的版本已经更新了。这样一来版本升级的工作就变的会比较多一些。为了能够保证k8 ......
大规模集群的注意事项
简介 一提到大规模这三个字，就联想到数据中心机房中一排排的物理服务器，在早期还是购买物理机找托管机房的年代，很多时间都在机房中维护服务器，那声音吵得耳朵疼，现在的运维工程师幸福多了。 注意事项 集群峰值 k8s1.28版本单个集群支持5000个工作节点，每个节点Pod数量不超过110，pod总数不超 ......
jenkins安装部署、主从架构、slave镜像、K8S对接
介绍 CI/CD工具，自动化持续集成和持续部署，用于构建各种自动化任务。 官方提供了docker镜像https://hub.docker.com/r/jenkins/jenkins 使用Deployments部署镜像，然后通过暴露jenkins的8080端口（web端口）和50000端口（slave ......
MongoDB分片+副本集高可用集群的启停步骤
■■ 集群启动步骤 1、先启动各节点的 config server mongod -f ${MongoDir}/conf/config.conf 2、再启动各节点的 shard server mongod -f ${MongoDir}/conf/shard1.conf 3、再启动各节点的 mongo ......
K8S集群搭建
集群搭建的几种方式 kubeadm 通过kubeadm init、kubeadm join快速部署集群。 二进制包 下载官方编译好的二进制文件，手动部署，比较麻烦。。 第三方工具、web端 第三方提供的部署工具、web部署端。 kubeadm部署k8s集群 实验环境 master节点： IP：10. ......
掌握 Kubernetes 故障排除：有效维护集群的最佳实践和工具
Kubernetes 是一款管理容器化应用程序的强大工具。然而，与任何复杂的系统一样，使用它时也可能出错。当问题出现时， 掌握有效的故障排除技术和工具非常重要。 本文将介绍以下步骤，助您了解事件收集的入门知识： 检索最新事件 使用 Pod 模拟问题 在位于 PV 的 Pod 中存储事件 检索最新事件 ......
两台实体机器4个虚拟机节点的Hadoop集群搭建（Ubuntu版）
安装Ubuntu Linux元信息 两台机器，每台机器两台Ubuntu Ubuntu版本：ubuntu-22.04.3-desktop-amd64.iso 处理器数量2，每个处理器的核心数量2，总处理器核心数量4 单个虚拟机内存8192MB（8G），最大磁盘大小30G 参考链接 清华大学开源软件镜像 ......
Redis 主从复制
Redis有两种不同的持久化方式，Redis服务器通过持久化，把Redis内存中持久化到硬盘当中，当Redis宕机时，我们重启Redis服务器时，可以由RDB文件或AOF文件恢复内存中的数据。 不过持久化后的数据仍然只在一台机器上，因此当硬件发生故障时，比如主板或CPU坏了，这时候无法重启服务器，有 ......
Redis 集群
sentinel模式基本可以满足一般生产的需求，具备高可用性。但是当数据量过大到一台服务器存放不下的情况时，主从模式或sentinel模式就不能满足需求了，这个时候需要对存储的数据进行分片，将数据存储到多个Redis实例中。cluster模式的出现就是为了解决单机Redis容量有限的问题，将Redi ......
kubeadm部署k8s集群
一、系统环境准备 1、系统环境说明 系统环境说明 系统 角色 IP 组件 K8s版本 centos7.9 kubeadm-master1 192.168.100.41 docker,kubeadm,kubelet,kubectl v1.20.0 centos7.9 kubeadm-master1 1 ......
hadoop集群 大数据项目实战_电信用户行为分析_day04
进行HIVE环境配置 1.上传相关的包 2.对上传的包进行下载和创建软连接 3.配置相关的文件 4.分别发送给其他机子 假设你需要在所有机器执行同一个指令，则你就需要相关设置 5.在hive的onf文件中创建hive-site.xml进行相关设置 ```xml<configuration> <-- ......
卷影副本（Volume Shadow Copy）是Windows操作系统提供的一项备份和恢复功能。它允许在文件被修改或删除之前，创建文件或文件夹的副本，以便在需要时进行数据的还原和恢复。卷影副本主要有以下作用和优势
卷影副本（Volume Shadow Copy）是Windows操作系统提供的一项备份和恢复功能。它允许在文件被修改或删除之前，创建文件或文件夹的副本，以便在需要时进行数据的还原和恢复。 卷影副本主要有以下作用和优势： 数据保护和恢复能力： 卷影副本可以保护用户的数据免受意外的文件修改、删除和损坏。 ......
部署redis-cluster集群
参考： https://www.cnblogs.com/paul8339/p/11987345.html https://mikechen.cc/31360.html https://zhuanlan.zhihu.com/p/637366705 本文使用一台虚拟机部署6个不同端口的redis实例 1 ......
Oracle集群升级迁移—主机网络设置及交换机侧bond vlan划分
目录Oracle集群升级迁移—主机网络设置及交换机bond vlan划分网络规划操作系统层面的IP设置bond类型介绍设置bond1和bond0交换机侧的设置（省略） Oracle集群升级迁移—主机网络设置及交换机bond vlan划分 网络规划 按照工程师要求，配置了5个IP供集群使用。1个IP为 ......
CDH集群日志清理
CDH集群日志清理 一、查看磁盘占用情况 df -h 二、查看日志占用情况 cdh的各种组件日志一般在 /var/log 目录下，因此需要关注“/”根目录， 查看 /var/log 下使用空间较大的文件夹，并又大到小排列 cd /var/log/ du -s ./* |sort -nr 还有一个是 ......
Oracle集群升级迁移——存储及主机连接配置
目录Oracle集群升级迁移——存储及主机连接配置存储映射新LUN给Oracle新集群旧存储删除multipath.conf删除相应磁盘将主机和主机组里剔除磁盘，在从LUN、LUN组删除新建磁盘映射给Oracle数据库（映射前需要划Zone）映射完毕，刷新主机配置并修改multipath.conf文 ......
VM部署HDFS集群
上传hadoop-3.3.4.tar.gz到/export/server 解压 tar -zxvf hadoop-3.3.4.tar.gz -C /export/server/ # 快捷方式 ln -s /export/server/hadoop-3.3.4 hadoop Hadoop安装包目录结构 ......
Oracle集群升级迁移—老集群磁盘切割
目录Oracle升级迁移剔除磁盘腾出存储LUNGRID用户登录，查询ASM磁盘剔除磁盘 Oracle升级迁移 目前有两套Oracle采用ADG + RAC架构，其中备库使用的为SUSE12.4目前已EOS，文件系统BFTFS与Oracle兼容性据说也有一定的问题，决定对现有的集群进行升级，升级后服务 ......
python3 操作mongodb
库安装 pip3 install pymongo==3.12.2 from pymongo import MongoClient import pymongo # 连接 MongoDB（无账号密码） client = MongoClient(host='localhost',port=27017) ......
kubeadm安装k8s集群
kubeadm安装k8s集群 一、机器准备(所有的master和node节点需要执行) 部署k8s集群的节点按照用途可以划分为如下2类角色： master：集群的master节点，集群的初始化节点，基础配置不低于2c 4g slave：集群的slave节点，可以多台，基础配置不低于1c 2g 主机名 ......
hadoop集群 大数据项目实战_电信用户行为分析_day03
配置系统环境 Reis 1.先把之前的dump.rdb删除掉 rm -rf dump.rdb 2.把原始项目给的dump.rdb 放进来，它里面包含了需要的数据，比如端口；在这部之前必须要进行关闭端口，随后传送文件，最后重启端口 相关指令: bin/redis-server conf/redis.c ......
搭建mysql的主从服务
这里是以mysql5.7版本为例。 准备好三台mysql服务器：192.168.1.115（主），192.168.1.116（从），192.168.1.117（从） 默认端口都是3306 1.部署mysql： 首要前提：三台机器的server-id 一定得设置成不同数值。 192.168.1.115 ......
Centos7系统二进制安装Kubernetes（v1.18）集群
一、环境准备 1、集群环境 集群环境 角色 IP 组件 k8s-master01 192.168.100.31 kube-apiserver、 kube-controllermanager、 kube-scheduler、 etcd k8s-master02 192.168.100.32 kube- ......
Nacos集群搭建
Nacos安装指南（windows版本）：https://www.cnblogs.com/gfl-1112/p/17771364.htmlNacos安装指南（Linux版本）：https://www.cnblogs.com/gfl-1112/p/17771373.htmlNacos的依赖：https ......
如何查看Kubernetes集群中哪个Pod占用CPU最高？
下载Metrics Server的部署文件： wget https://github.com/kubernetes-sigs/metrics-server/releases/latest/download/components.yaml 编辑下载的components.yaml文件，以便Metric ......
MySQL主从复制无法同步删除操作吗?【转】
简介 在MySQL主从复制中，当主库执行删除操作时，从库并不会同步删除对应的数据。这是由于MySQL的复制机制决定的。为了解决这个问题，我们可以通过在主库上创建触发器来实现删除操作的同步。 解决方案概览 下面是解决方案的整体流程图： 创建触发器 首先，我们需要在主库上创建一个触发器，该触发器会在删除 ......
ZooKeeper集群版本升级
ZooKeeper集群版本升级 环境描述： 3节点的集群，当前版本为3.8.1，计划将所有节点版本升级到3.8.3。 由于过半机制，即存活的节点数量>（非>=）所有节点数量的一半，则整个集群可以正常对外提供服务。 举个例子，3个节点，最少存活2>(3/2=1.5)个节点，即允许有一个节点宕机下依旧能 ......