集群hdfs
helm部署Kafka集群
1.准备文件 1.1.创建命令空间 kubectl create ns kafka 1.1.helm包拉取本地 # 添加bitnami仓库 helm repo add bitnami https://charts.bitnami.com/bitnami # 查询chart helm search r ......
kubeadm使用docker搭建k8s 1.27.2高可用集群
系统基础优化 #系统版本：Ubuntu22.04 #docker版本：20.10 #kubeadm版本：1.27.2 root@k8s-master1:~# cat /etc/sysctl.conf ################################################## ......
C++聊天集群服务器7
一、引入redis队列 在上一篇博客里我们已经为服务器配置了基于nginx的tcp负载均衡，提高了服务器的并发量，但是相应的之前也会存在一个问题，那就是多个客户端可能连接在不同的服务器，那这几个客户端如何通信呢？这就需要引入这次的内容：redis中间件，我们通过redis来作为一个中间消息转发者 ......
SQL Server 2019 非域&非集群环境创建Always On “只读扩展”
SQLServer 2019开始支持“read-scale for an Always On availability group”，中文翻译的很别扭，是"读取缩放"，繁体版翻译为“读取级别”，其特点不依赖于windows的cluster集群以及域，简化了搭建操作步骤和前置条件，与传统的availa ......
Storm 集群的搭建及其Java编程进行简单统计计算
一、Storm集群构建 编写storm 与 zookeeper的yml文件 storm yml文件的编写 具体如下： version: '2' services: zookeeper1: image: registry.aliyuncs.com/denverdino/zookeeper:3.4.8 ......
MongoDB中的分布式集群架构
MongoDB 中的分布式集群架构 前言 Replica Set 副本集模式 副本集写和读的特性 Sharding 分片模式 分片的优势 MongoDB 分片的组件 分片键 chunk 是什么 分片的算法 哈希分片 范围分片 总结 参考 MongoDB 中的分布式集群架构 前言 前面我们了解了 Mo ......
JDK&HDFS安装
一、 环境 操作系统：CentOS 7.9 64位 JDK版本：8 HADOOP版本：3.3.0 二、 安装包： 2.1 JDK百度网盘地址及提取码： 地址：https://pan.baidu.com/s/1sbgLPROfd9e_valSfv0YAQ 提取码：4qps 2.2 HADOOP百度网盘 ......
Redis集群
集群 由于数据量过大，单个Master复制集难以承担，因此需要对多个复制集进行集群，形成水平扩展每个复制集只负责存储整个数据集 的一部分，这就是Redis的集群，其作用是提供在多个Redis节点间共享数据的程序集。 Redis集群是一个提供在多个Redis节点间共享数据的数据集 Redis集群可以支 ......
Redis集群
1.描述 集群，即是Redis Cluster。其由多个redis节点组成，redis数据保存在这些节点中。这些节点分为主节点和从节点：只有主节点负责读写请求和集群信息的维护，从节点只负责主节点数据和状态的复制。 2.作用 数据分区：redis集群是将数据分散存到多个节点中的。具体存到哪个节点是根绝 ......
LVS负载均衡集群
LVS Cluster，集群，群集 有多台主机构成，对外只表现为一个整体，只提供一个访问入口（域名或IP地址），相当于一台大型计算机 特点：由堕胎主机构成，都干同一件事，对外展现为一个整体 集群分类 根据集群针对的目标差异，可分为三种类型 负载均衡集群 (LB) 提高系统响应效率，处理更多的访问请求 ......
docker部署redis主从集群
1、创建数据目录（logs目录要给权限，要不然会报错） mkdir -pv /data/redis/(data,logs} chmod 777 /data/redis/logs 2、redis.conf 配置文件 -—-主从配置 master 节点配置 cd /data/redis vim redi ......
prometheus监控k8s集群信息（通过kubelet）
prometheus监控k8s集群信息（通过kubelet） 一、创建prometheus访问k8s权限账户（在k8s集群中操作）。 1、在k8s集群中创建服务账户 vim prometheus-sa.yaml apiVersion: v1 kind: ServiceAccount metadata ......
RocketMQ集群监控平台 rocketmq-console【转】
Run with docker Pull from docker hub(rocketmq-dashboard) docker pull apacherocketmq/rocketmq-dashboard:latest Run it (use your own rocketmq.namesrv.ad ......
创建一个Redis集群的启动命令并启动
第一步：进入到存放集群的目录里 cd /opt/cluster 如下图[红线圈中的目录]： 第二步：在此目录创建sh文件[示例为start.sh]，并打开编辑 vim start.sh 第三步： 在文件中，写入要执行的所有Redis端口命令 `redis-server /opt/cluster/60 ......
超算集群提交CFDEM作业（Slurm作业脚本）
CFDEM Coupling 官方Tutorial中包含了快捷运行算例的脚本，因此提交超算只需将Slurm（PBS）作业脚本中加入执行CFDEM命令即可。 此处利用了Tutorial中parCFDDEMrun.sh脚本。 完整的CFDEM算例目录中应包含CFD/、DEM/、SlurmRun.sh、p ......
安装NETDATA集群监控面板
安装NETDATA集群监控面板 介绍 官方链接 演示网页：https://my-netdata.io/ 官方首页：http://netdata.cloud/ 文档地址：http://docs.netdata.cloud github地址：https://github.com/netdata/netd ......
SAP-APP-服务器组-pacemaker集群的基础环境的安装部署-001
1、安装 pacemaker 相关的软件及可能会用到的软件，两台主机都需要安装 [root@app01 qq-5201351]# yum install nmap-ncat -y [root@app01 qq-5201351]# yum install pcs -y [root@app01 qq-5 ......
kubeadm安装k8s集群
1.机器准备 部署k8s集群的节点按照用途可以划分为如下2类角色： master：集群的master节点，集群的初始化节点，基础配置不低于2c 4g slave：集群的slave节点，可以多台，基础配置不低于1c 2g 这里教程是基于非高可用版本的k8s集群，高可用是指有多个k8s-master主节 ......
教你使用Prometheus-Operator进行K8s集群监控
本文分享自华为云社区《Promethues-operator入门使用指导》，作者：可以交个朋友。 一、 背景 在非operator配置的普罗中我们监控k8s集群都是通过配置configmap进行服务发现和指标拉取。切换到prometheus-operator难免会有些使用问题。不少用户已经习惯底层配 ......
prometheus监控k8s集群node节点/linux操作系统
prometheus监控k8s集群node节点/linux操作系统 一、监控linux操作系统 1、下载二进制包 wget https://github.com/prometheus/node_exporter/releases/download/v1.7.0/node_exporter-1.7.0 ......
Kafka集群搭建、注意事项及示例
1. 安装Zookeeper： Kafka依赖于Zookeeper来进行集群协调。确保安装了Zookeeper，并配置好。 2.下载和解压Kafka： 从官方网站下载Kafka，并解压到所需的目录。 3.配置Kafka： 修改Kafka的配置文件以适应集群环境。主要修改server.properti ......
centos7搭建kubernetes-v1.25.1集群（Containerd作为运行时）
集群配置 节点名称内存硬盘处理器内核总数ip master 6GB 40GB 6 192.168.67.166 node1 6GB 40GB 6 192.168.67.167 node2 6GB 40GB 6 192.168.67.168 一、所有节点更改镜像源 curl -o /etc/yum.r ......
elasticsearch安装-集群
下载安装包 国内镜像，速度非常快 https://mirrors.huaweicloud.com/elasticsearch/ https://mirrors.huaweicloud.com/kibana/ wget https://mirrors.huaweicloud.com/elasticse ......
数据库集群主键为什么不用uuid
主键用数字还是UUID？ UUID 是通用唯一识别码的缩写，其目的是让分布式系统中的所有元素，都能有唯一的辨识信息，而不需要通过中央控制端来做辨识信息的指定。在数据库集群中，为了避免每个MySQL各自生成的主键产生重复，所以有人考虑采用UUID方式。 使用UUID的好处 使用UUID，分布式生成主键 ......
DataX vs 腾讯云COS对象存储 -> StarRocks集群
本文将介绍使用DataX读出Cos的Orc文件往StarRocks里面写。 需求: 需要将腾讯云cos上84TB的数据, 同步到StarRocks某个大表。正常每个分区数据量20~30亿，600GB。 工具：DataX插件：hdfsreader、starrockswriter对象存储COS：非融合 ......
HDFS 机架感知
互联网公司的 Hadoop 集群一般都会比较大，几百台服务器会分布在不同的机架上，甚至在不同的机房。出于保证数据安全性和数据传输的高效性的平衡考虑，HDFS希望不同节点之间的通信能够尽量发生在同一个机架之内，而不是跨机架和跨机房。同时，NameNode 在分配 Block 的存储位置的时候，会尽可能 ......
docker swarm 部署一主两从的redis集群
docker-compose文件准备 docker-compose-redis-cluster.yml version: '3.8' services: redis-master: image: redis command: redis-server --requirepass your_passw ......
超算集群安装OpenFOAM-LIGGGHTS-CFDEM(普通用户权限-以CSU HPC CentOS7.9为例)
普通用户权限超算集群安装OpenFOAM-LIGGGHTS-CFDEM，由于缺少root权限，无法根据CFDEM官方instruction进行安装。 本文以CSU超算平台为例，利用普通用户权限进行编译安装。文章修正了已有教程中部分问题，特别感谢希望先生与记得小蘋初见教程。 1. 安装必要依赖包 此部 ......
Ranther管理K8S集群
什么是Ranther Rancher 是一个 Kubernetes 管理工具，让你能在任何地方和任何提供商上部署和运行集群。 Rancher 可以创建来自 Kubernetes 托管服务提供商的集群，创建节点并安装 Kubernetes，或者导入在任何地方运行的现有 Kubernetes 集群。 R ......