集群hdfs-ha hdfs ha
开启hdfs服务输入jps命令,只出现了jps一个进程问题的解决
# 问题描述 开启hdfs服务之后,输入jps: ![](https://img2023.cnblogs.com/blog/2808014/202308/2808014-20230823233210097-1268842357.png) 本来应该是这样的: ![](https://img2023.c ......
要搭建Redis集群高可用
一.部署 因为架构要求,只分配了两台服务器,要搭建Redis集群,为此针对两台服务器搭建了一套特殊的哨兵集群,特殊在不能无限切换, 只能抗住1-2次宕机或网络故障,1-2次故障之后,集群切换机制便不能使用,需要人工按后文的步骤修复; 1.前期准备 准备AB两台服务器部署Redis集群,选择A服务器作 ......
使用 Rancher 安装 K8s 集群
Rancher 是一个 Kubernetes 管理工具,可以用来快捷的安装、管理、使用 K8s,十分推荐小伙伴们尝试,非常好用! ......
idea安装bigdata tool 插件 HDFS客户端
在idea里面下载bigdata tool插件 使用hdfs客户端 一、下载hadoop安装包,并将文件解压 二、在idea的插件里面找到 bbigdata tool插件并进行安装 如果在idea里面下载比较慢,可以在官网下载 Big Data Tools - IntelliJ IDEs Plugi ......
ES集群设置密码
一、环境: 三台centos7服务器,一台为master节点,两台从节点。 系统版本:CentOS Linux release 7.4.1708 (Core) 软件版本:elasticsearch-6.8.0.rpm Jdk版本:jdk-8u161-linux-x64.tar.gz Kibana版本 ......
ES集群&kibana安装
一、elasticsearch介绍 Elasticsearch 是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful 风格接口,多数据源,自动搜索负载等。 Elasticsearch是一个基于Lucene的搜索服务器。它提供了一个分布式多用户能力的 ......
HDFS的文件系统操作命令
下面分享一下最近学到的HDFS的有关文件系统操作shell命令 一、创建文件夹 hadoop fs -mkdir [-p] <path> ... hdfs dfs -mkdir [-p] <path> ... #hadoop fs -mkdir -p /ijc/bigdata #hdfs fs -m ......
infinispan~使用组播的方式进行集群通讯
在 Infinispan 配置文件中切换发现协议从广播到组播,需要修改 JGroups 的配置,因为 Infinispan 使用 JGroups 来处理集群通信和发现。下面是一个示例,展示如何将配置从广播切换到组播。 首先,确保您已经有一个 Infinispan 配置文件,比如 `infinispa ......
Easysearch 跨集群复制实战
在之前的文章中,有通过网关实现容灾的案例。今天给大家介绍 Easysearch 的跨集群复制功能。该功能可在集群之间复制数据,应用场景包括但不限于以下举例: - 灾备同步:将数据同步到灾备中心,灾备中心可对外提供查询服务。 - 读写分离:单一集群读写压力都较大时,为了避免读写互相干扰造成性能降级,可 ......
HDFS集群启停命令
HDFS集群启停命令: 一键启停脚本 #启动 $HADOOP_HOME/sbin/start-dfs.sh #停用 $HADOOP_HOME/sbin/stop-dfs.sh 独立进程启程 #脚本一 hadoop-daemon.sh (start|status|stop) (namenode|sec ......
在VMware虚拟机集群上部署HDFS集群
本篇博客跟大家分享一下如何在VMware虚拟机集群上部署HDFS集群 一·、下载hadoop安装包 进入官网:https://hadoop.apache.org 下载hadoop安装包 由于Apache Hadoop是国外网址,下载安装包对于网络要求较高 二、上传压缩包,进行解压 在进行解压之前,保 ......
docker-compose快速部署elasticsearch-8.x集群+kibana
### 欢迎访问我的GitHub > 这里分类和汇总了欣宸的全部原创(含配套源码):[https://github.com/zq2599/blog_demos](https://github.com/zq2599/blog_demos) ### 本篇概览 - 前文[《Docker下elasticse ......
Hadoop部署HDFS集群 启动后只有node1有进程,node2和node3没有反应
最近有人向我询问说:为什么他的HDEF集群一键启动时只有node1进程有反应,node2和node3没有反应 我看完他的问题之后,想到了自己在部署时也遇到了同样的问题,现在来分享一下自己的解决方案 出现这种情况的主要原因是:workers文件没有配置好 解决方法: 输入:vim /export/se ......
LNMP集群架构
网站集群拆分 上一节我们是部署了单机的LNMP,再往下,要进行拆分了,无论是性能、还是安全性,都务必要拆分。 拆分的内容有 nginx集群 mysql nfs共享存储 等 拆分思路 情况1 当前的单机环境已经装好了,数据也都有了,需要拆分到多个机器 需要考虑数据迁移 情况2 初试环境直接以集群模式部 ......
ambari-hadoop集群中timeline和ams-hbase几种服务之间的调用关系
最近经常碰到ambari集群timeline server和ams-hbase 服务的一些问题,梳理了下这些服务之间的调用关系,留作笔记方便后续查阅 #1. 目前笔者用到的hadoop组件版本如下 ![](https://img2023.cnblogs.com/blog/1648386/202308 ......
集群、分布式、微服务概念和区别
概念: 集群是个物理形态,分布式是个工作方式。 1.分布式:一个业务分拆多个子业务,部署在不同的服务器上 2.集群:同一个业务,部署在多个服务器上 分布式是指将不同的业务分布在不同的地方。而集群指的是将几台服务器集中在一起,实现同一业务。 分布式中的每一个节点,都可以做集群。而集群并不一定就是分布式 ......
如何快速在 Kubernetes 集群中新建用户
如何快速在 Kubernetes 集群中新建用户 Se7en 奇妙的Linux世界 2023-08-19 11:59 发表于重庆 收录于合集 #Kubernetes274个 #云原生261个 #Docker197个 #程序员421个 公众号关注 「奇妙的 Linux 世界」设为「星标」,每天带你玩转 ......
使用 DcokerCompose 搭建 mongodb 副本集群
前面我们搭建了 mongodb 单机环境,但是在实际生产环境中,为了高可用,肯定需要搭建 mongodb 集群。mongodb 集群主要分为两种:副本集群和分片集群。其中副本集群搭建容易,是生产环境中使用最多的集群,因此很有必要掌握。 副本集群比较类似于 mysql 的主从复制,一主多从,每个节点的 ......
以二进制文件安装K8S之部署etcd高可用集群
## 概述 前提条件:已经准备好CA根证书(etcd在制作CA证书时需要CA根证书),并且把CA根证书文件`ca.key`和`ca.crt`拷贝到3个etcd节点的`/etc/kubernetes/pki`目录下。 3台主机的IP地址分别为`192.168.3.135`、`192.168.3.136 ......
以二进制文件安装K8S之部署Master高可用集群
如下以二进制文件方式部署安全的Kubernetes Master高可用集群,具体步骤如下: 1.下载Kubernetes服务的二进制文件 2.部署kube-apiserver服务 3.创建客户端CA证书 4.创建客户端连接kube-apiserver服务所需的kubeconfig配置文件 5.部署k ......
配置Redis哨兵集群所遇到的问题
配置Redis哨兵集群时日志显示+sdown slave的问题 一、配置及其环境描述(问题产生的原因是因为Redis复制中主节点对从节点的ip配置错误,从而导致哨兵无法识别从节点,进而无法进行故障转移) 1.操作系统:Linux 虚拟机:VMware Workstation 16 Pro 、WSL ......
管理和维护RHCS集群
管理和维护RHCS集群是一个非常复杂和繁琐的工作,要维护好一个RHCS集群,必须熟悉RHCS的基本运行原理,在集群管理方面,RHCS提供了两种方式:即Luci图形界面方式和命令行方式,这儿重点讲述在命令行下如何管理RHCS集群。 启动RHCS集群 RHCS集群的核心进程有cman和rgmanager ......
使用kube-bench检测Kubernetes集群安全
使用kube-bench检测Kubernetes集群安全,CIS (Center for Internet Security)简介,什么是Kube-Bench?,使用kube-bench检测不安全的设置,安装kube-bench,kube-bench检测etcd组件,kube-bench检测mast... ......
springboot redssion 单机模式/集群模式/哨兵模式连接
引入依赖: <dependency> <groupId>org.redisson</groupId> <artifactId>redisson</artifactId> <version>3.10.7</version> </dependency> <dependency> <groupId>cn. ......
CDH集群之YARN性能调优
##### CDH集群之YARN性能调优 > 本文主要讨论CDH集群的YARN调优配置,关于YARN的调优配置,主要关注CPU和内存的调优,其中CPU是指物理CPU个数乘以CPU核数,即Vcores = CPU数量*CPU核数。YARN是以container容器的形式封装资源的,task在conta ......
[kubernetes]二进制部署k8s集群-基于containerd
基于containerd和kubernetes的二进制文件,内网离线环境下部署1.26版本的集群。并且在内网部署harbor镜像仓库。 ......
集群环境的定时任务重复执行的解决方案
在开发的过程中,经常会遇到需要使用定时器的问题,比如需要定时向任务表写任务。但是项目是部署到集群环境下的,如果不做处理,就会出现定时任务重复执行的问题。问题产生的原因:由于我们项目同时部署在多台集群机器上,因此到达指定的定时时间时,多台机器上的定时器可能会同时启动,造成重复数据或者程序异常等问题。 ......
windows环境下redis集群
第一步:安装一个redis,要能正常跑起来(其实只是为了证明你会安安装而已) 第二步:几个节点就创建几个目录(要求最少3个master,如果想有一个从节点的话,那就最少6个节点),然后将redis 目录下的redis-server 及 redis.windows.conf copy到这些目录并修改配 ......
springboot2.0整合redis集群,其实好简单
配置 #redis配置 redis: cluster: nodes: - 127.0.0.1:9000 - 127.0.0.1:9001 - 127.0.0.1:9002 - 127.0.0.1:9003 - 127.0.0.1:9004 - 127.0.0.1:9005 timeout: 6000 ......