hadoop集群
Kubeadm安装k8s集群升级100年证书时报错:Unable to connect to the server: EOF:求解决方法.
报错信息: 使用命令时: Kubelet服务报错: 报错情况,在更新完k8s100年证书的时候,到最后重新启动kubelet服务的时候,服务是可以重新启动的,但是kubectl的命令是无法使用的,会等好长时间然后报出上面图片第一个的错误。还请各位大佬给出一些解决办法,实在是劳烦各位大佬了,自己找了好 ......
通过 docker-compose 快速部署 Hadoop 集群极简教程
前面那篇文章内容过多,可能小伙伴只是想快速部署,所以这里出了一个极简的部署教程,如果想了解详细部署过程,可以建议参考我上一篇的文章:通过 docker-compose 快速部署 Hadoop 集群详细教程 1)安装 docker # 安装yum-config-manager配置工具 yum -y i ......
Redis集群从节点无限循环同步故障
今天是清明节假日第一天,收到客户请求,我们的redis出问题了帮忙看看! 程序的报错日志提供如图 登录该套redis集群查看节点信息与集群状态 根据现场状态与监控,迅速做出判断与推理 第一时间内给出个人的建议:建议重启部分异常程序,业务全部恢复正常! 业务已经恢复了,那继续来修复这个fail的异常r ......
基于3.5.x 版本进行zookeeper 集群搭建
搭建 zk 3.5.x 版本的集群环境 本次搭建使用 3.5.7 版本的zk。 3.5.x 版本进行集群环境的搭建,本质其实和 3.4.x 是没有太大区别的。 但是 3.5.x 的集群环境支持动态的扩缩容,因此 在配置文件方面,将集群节点的配置单独抽取出来了,存放到一个 zoo.cfg.dynami ......
基于3.4.x 版本进行zookeeper 集群搭建
搭建一主二从 三个节点 zookeeper 集群环境 *** 使用 zk 的 3.4.13 的版本 *** 注意:对于 zk , 3.4 版本和3.5 版本集群环境是有一些区别的。 3.5 版本以后使用的是动态集群模式,支持集群的动态扩缩容。(可以在不重启的情况下,实现集群的扩容,缩容) 本集群搭建 ......
提升集群吞吐量与稳定性的秘诀: Dubbo 自适应负载均衡与限流策略实现解析
本文所说的“柔性服务”主要是指 consumer 端的负载均衡和 provider 端的限流两个功能。在之前的 Dubbo 版本中,负载均衡部分更多的考虑的是公平性原则,即 consumer 端尽可能平等的从 provider 中作出选择,在某些情况下表现并不够理想。而限流部分只提供了静态的限流方案... ......
HAProxy实现mycat集群的负载均衡
上文我们已经实现了mycat集群(https://www.cnblogs.com/zwh0910/p/17278863.html),现在我们来实现mycat集群的负载均衡 在前面架构中,虽然对mycat做了集群,保障了mycat的可靠性,但是,应用程序需要连接到多个mycat,显然不是很友好的,也就 ......
Hadoop报错只no such file or drector exist.
场景:在运行bin.hdfs dfs -mkdir XXXXXXXXX的命令的时候报此路径或者文件不存在。 解决办法: hadoop fs -mkdir -p /user/hadoop/ TRANSLATE with x English Arabic Hebrew Polish Bulgarian ......
java——spring boot集成kafka——kafka集群中Rebalance机制
前提是:消费者没有指明分区消费。当消费组⾥消费者和分区的关系发⽣变化,那么就会触发rebalance机制。 这个机制会重新调整消费者消费哪个分区。 在触发rebalance机制之前,消费者消费哪个分区有三种策略: 1、range:通过公示来计算某个消费者消费哪个分区2、轮询:⼤家轮着消费3、stic ......
java——spring boot集成kafka——kafka集群中controller的作用
Kafka集群中的broker在zk中创建临时序号节点,序号最⼩的节点(最先创建的节点)将作为集群的controller,负责管理整个集群中的所有分区和副本的状态: 1、当某个分区的leader副本出现故障时,由控制器负责为该分区选举新的leader副本。 2、当检测到某个分区的ISR集合发⽣变化时 ......
Elasticsearch 学习-Linux单机和集群安装
Elasticsearch 学习-Linux 单机和集群安装 3.3linux集群安装 3.3.1 软件下载 软件下载地址:https://www.elastic.co/cn/downloads/past-releases/elasticsearch-7-8-0 3.3.2 软件安装 ==1) 解压 ......
Tomcat 入门实战(4)--Tomcat 集群 Session 复制
本文主要介绍在 Tomcat 集群中如何进行 Session 复制,文中所使用到的软件版本:Centos 7.9.2009、Java 1.8.0_321、Tomcat 8.5.87。 1、快速配置 取消 conf/server.xml 文件中的以下注释来启用集群: <Cluster classNam ......
MongoDB 集群
优质博文:IT-BLOG-CN 一、高可用架构 高可用性HA(High Availability)指的是缩短因正常运维或者非预期故障而导致的停机时间,提高系统可用性。 高可用量化衡量标准: 引出一个SLA的概念。SLA是Service Level Agreement(服务等级协议)的缩写。SLA就是 ......
通过 docker-compose 快速部署 Hadoop 集群详细教程
一、概述 docker-compose 项目是docker官方的开源项目, 负责实现对docker容器集群的快速编排,来轻松高效的管理容器,定义运行多个容器。 通过docker-compose来部署应用是非常简单和快捷的。但是因为docker-compose是管理单机的,所以一般通过docker-c ......
PostgreSQL 13 pacemaker 高可用集群
环境介绍 操作系统版本 CentOS Linux release 7.8.2003 (Core) 数据库版本 psql (13.10) PCS集群版本 [root@hd-clw-select-proxysql01 ~]# rpm -qa|grep pacemaker pacemaker-libs-1 ......
mycat集群
前面我们是用一个mycat对应两个mysql集群,参考:https://www.cnblogs.com/zwh0910/p/17278041.html 但是在高并发的情况下,我们的系统也会出现性能的问题,显然是mycat,即所有的压力都压倒mycat上面,所以需要给mycat做集群。 mycat做了 ......
hadoop3.3 安装配置sqoop1.4.7
一:在hadoop3.3中安装配置sqoop1.4.7 前言: sqoop功能已经非常完善了,没有什么可以更新的了,官方停止更新维护了。因此官方集成的hadoop包停留在了2.6.0版本,在hadoop3.3.0版本会提示类版本过低错误,但纯净版sqoop有缺少必须的第三方库,所以将这两个包下载下来 ......
redis集群方案的优缺点以及原理
如果主库挂了,我们就需要运行一个新主库,比如说把一个从库切换为主库,把它当成主库。 这就涉及到三个问题: 主库真的挂了吗? 该选择哪个从库作为主库? 怎么把新主库的相关信息通知给从库和客户端呢? 这就要提到哨兵机制了。在 Redis 主从集群中,哨兵机制是实现主从库自动切换的关键机制,它有效地解决了 ......
kubernetes 集群部署rabbimq3.11.11
通过官方镜像 RabbitMQ Docker Image 和 rabbitmq-peer-discovery-k8s 插件进行集群部署。 0. 环境 kubernetes 1.24 rabbitmq3.11.11 1.命名空间 将 rabbitmq 的资源都放在 rabbitmq 命名空间内。 Na ......
Hadoop安装部署
目录 解压安装包 删除文档 修改配置文件 HDFS配置 Yarn配置 MapReduce配置 拷贝到其他机器 配置环境变量 初始化元数据目录 启动组件 启动HDFS 启动Yarn 测试MapReduce 注意事项 解压安装包 tar -zxvf hadoop-2.8.5.tar.gz -C /opt ......
CentOS7-自动化部署web集群
一、项目要求 1、创建role,通过role完成项目(可能需要多个role) 2、部署nginx调度器(node2主机) 3、部署2台lnmp服务器(node3,node4主机) 4、部署mariadb数据库(node5主机) 主要用的ansible实现自动化部署,ansible的安装教程省略,控制 ......
hadoop系列---【hadoop集群的搭建---(二)Zookeeper的安装】
#(二)Zookeeper的安装 ##1.准备三台服务器 ##2.下载安装包 下载地址:http://archive.apache.org/dist/zookeeper/ 这里我们以zookeeper-3.4.9.tar.gz版本为例,下载完后,上传到三台服务器的/app目录下。 ##3.在第一台服 ......
k8s部署redis集群(cluster模式)
参考:https://www.cnblogs.com/LiuChang-blog/p/15898005.html 一、redis集群部署(三主三从) 1.1yaml文件准备 (1) 配置文件说明 # 部署所在命名空间: redis-cluster [root@k8s-master1 ~]# cd / ......
k8s 中使用helm 安装zookeeper,kafka集群<三>
helm repo add bitnami https://charts.bitnami.com/bitnami helm repo update helm install kafka bitnami/kafka \ --set statefulset.replicaCount=1 \ --set ......
k8s 安装3节点es集群<一>
vim es.yamlapiVersion: policy/v1beta1 kind: PodDisruptionBudget metadata: name: elasticsearch-pdb spec: selector: matchLabels: app: elasticsearch maxU ......
Rabbitmq 集群常用命令集
1、常用命令如下: 查看RabbitMQ服务状态:rabbitmqctl status 启用web插件:rabbitmq-plugins enable rabbitmq_management 添加页面用户及密码:rabbitmqctl add_user admin 123456 赋予其adminis ......
ceph集群crush进阶使用
九 ceph集群crush进阶使用 9.1 ceph集群运行图 ceph集群中由mon服务器维护的五种运行图: 1. Monitor map #监视器运行图; 2. OSD map #OSD运行图; 3 . PG map #PG运行图; 4. Crush map (Controllers repli ......
MATLAB代码:分布式最优潮流 含分布式光伏的配电网集群划分和集群电压协调控制
MATLAB代码:分布式最优潮流 关键词:网络划分;分布式光伏;集群电压控制;分布式优化;有功缩减 参考文档:《含分布式光伏的配电网集群划分和集群电压协调控制》 仿真平台:MATLAB 主要内容:本文以全局电压的低成本快速控制为目标,提出基于电气距离和区域电压调节能力的集群综合性能指标和网络划分方法 ......
hadoop系列---【hadoop集群的搭建---(一)环境配置】
#Hadoop集群的搭建 ##一、集群环境配置(准备三台服务器) ###1.设置hostname,/etc/hosts #查看当前host名称 hostname #三台分别设置网络hostname,node01,node02,node03 vi /etc/sysconfig/network NETW ......