集群hdfs-ha hdfs ha
redis集群搭建注意事项
官方教程:https://redis.io/docs/management/scaling/ 其他参考: https://note.youdao.com/ynoteshare/index.html?id=174eaa7104ce961f8012d521d8155bd9&type=note&_time ......
Redis主从及哨兵及集群相关介绍
主从模式 为了避免单点故障 和 读写不分离,Redis 提供了复制(replication)功能,master数据库中的数据更新后,会自动将更新的数据同步到其他slave数据库上。 优点: 主从结构具有读写分离,提高效率、数据备份,提供多个副本等优点。 不足: 大的不足就是主从模式不具备自动容错和恢 ......
hadoop HA高可用集群搭建
首先是四项配置 core-site.xml <?xml version="1.0" encoding="UTF-8"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> <!-- Licensed under the Apach ......
使用 Terraform 创建K8S集群
使用Terraform创建Kubernetes(K8S)集群是一个强大的自动化过程,它可以让您轻松地部署和管理K8S环境。以下是一般步骤以及示例Terraform配置文件的概述,用于创建K8S集群。 ......
k8s 监控(二)监控集群组件和 pod
原文链接:https://juejin.cn/post/6844903921207492621 在上一篇文章中,我们已经在 k8s 中安装了 Prometheus,并且收集了它自身的监控指标。而在这篇文章,我们将收集 k8s 所有组件和 pod 的监控指标。 在这之前需要先修改下之前监控 Prome ......
kubernetes集群搭建2023
参考: https://zhuanlan.zhihu.com/p/627310856(比较详细的一篇k8s集群部署文章) https://www.cnblogs.com/libruce/p/17477374.html 或者 https://zhuanlan.zhihu.com/p/590652259 ......
Kafka 集群副本数量调整
Kafka 创建时未指定多个副本或者副本数量过少,都可以在后期手动添加,另外如果副本过多也可以减少,当前调整基于 Kafka 的版本是 2.5.1,但是估计 2.1 ~ 2.5 应该都是兼容的。 下面先来操作一下 Topic 副本减少的过程,首先查看 Kafka Topic 的详情: # 新版本的 ......
Hadoop集群搭建(完全分布式)
一,Hadoop集群简介 1.1 Hadoop集群整体概述 Hadoop集群包括两个集群:HDFS集群、YARN集群 两个集群逻辑上分离、通常物理上在一起 两个集群都是标准的主从架构集群 Hadoop两种集群内容: 逻辑上分离,物理上合并的理解: 逻辑上分离:两个集群互相之间没有依赖、互不影响 物理 ......
视频监控/视频汇聚/安防视频监控平台EasyCVR配置集群后有一台显示离线是什么原因?
开源EasyDarwin视频监控TSINGSEE青犀视频平台EasyCVR能在复杂的网络环境中,将分散的各类视频资源进行统一汇聚、整合、集中管理,在视频监控播放上,TSINGSEE青犀视频安防监控汇聚平台可支持1、4、9、16个画面窗口播放,可同时播放多路视频流,也能支持视频定时轮播。视频监控汇聚平 ......
视频监控/视频汇聚/安防视频监控平台EasyCVR配置集群后有一台显示离线是什么原因?
服务器时间获取的还是utc时区的时间;因为数据库的时间戳获取的就是utc时间,判断与跟现场数据库获取的时间戳有关 ......
kafka集群搭建
应用场景 削峰填谷:就像小米卖手机搞饥饿营销,打开他的官网首页就需要排队,把用户的请求存放到消息队列,后端的服务器过一段时间在去处理异步解耦:京东用户下订单,双十11的时候订单量很大,而后端数据库是没有那么大的处理能力,先把订单放在消息队列,然后让数据库链接消息队列kafka慢慢的把数据写入到数据库 ......
etcd 集群安装
1.环境准备 下载安装包:https://github.com/etcd-io/etcd/releases/ 这里下载的安装包为:etcd-v3.5.9-linux-amd64.tar.gz,即我们当前安装的 etcd 版本为:3.5.9 这里有 3 个节点,分别为: 10.23.0.21 ec1 ......
kubepi加入集群,生成token
防丢失 https://www.cnblogs.com/Chinori/p/17506348.html kubectl create sa kubepi-user --namespace kube-systemkubectl create clusterrolebinding kubepi-user ......
ZooKeeper集群搭建
ZooKeeper 是一个分布式服务框架,它主要是用来解决分布式应用中经常遇到的一些数据管理问题,如:命名服务、状态同步、配置中心、集群管理等。 消费者模型 0 生产者启动 1 生产者注册至 zookeeper(生产者的代码启动) 2 消费者启动并订阅频道(消费者往那个频道注册的就会到那个频道去找, ......
Consul 集群安装
1.介绍 Consul 是一款服务网络平台,主要实现服务注册、服务发现、服务网格、服务网关、安全网络以及配置管理等多类服务,非常适合做为微服务架构的底层网络平台。 配置中心其实就是一个 KV 存储,我们如果做配置中心的话其实主要就是用 KV 存储部分,但是为了以后的可扩展性,我们可能会使用各种服务网 ......
JMeter 分布式集群远程压测及搭建常见问题
1、JMeter可以在以下场景下使用分布式远程压测: 性能测试:JMeter可以模拟大量用户并发访问,进行性能测试。当需要模拟成千上万的用户请求时,单台机器可能无法承受如此大的负载,此时可以使用分布式远程压测来将测试负载分发到多台机器上,提高测试的效率和准确性。 稳定性测试:在一段时间内持续发送请求 ......
Redis搭建集群架构
使用docker搭建 6.x 版本以后的镜像 docker 支持部署集群模式,由于 Redis 要求集群至少要有三个主节点,因此本次测试搭建了三主三从的 Redis 集群。 不基于 Host 网络模式 配置docker-compose.yml文件 version: "3" networks: red ......
ceph(四)ceph集群管理、pg常见状态总结
1. ceph常见管理命令总结 1.1 只显示存储池 ceph osd pool ls 示例 $ ceph osd pool ls device_health_metrics mypool myrbd1 rbd-data1 1.2 列出存储池并显示id ceph osd lspools 示例 $ c ......
rabbitmq集群搭建-镜像模式
rabbitmq简介 RabbitMQ 采用 Erlang 语言开发,Erlang 语言由 Ericson 设计,Erlang 在分布式编程和故障恢复方面表现出色,电信领域被广泛使用。 Broker: 接收和分发消息的应用,RabbitMQ Server 就是Message Broker,一个Bro ......
在操作过程中遇到Attempting to operate on hdfs namenode as root报错
在操作过程中遇到Attempting to operate on hdfs namenode as root报错 HDFS格式化后启动dfs出现以下错误: [root@hadoop101 sbin]# start-dfs.sh Starting namenodes on [hadoop101] ER ......
elasticsearch 集群搭建
elasticsearch 集群搭建 elasticsearch.yml cluster.name: bigdata node.name: node-1 path.data: /usr/local/las/data/elasticsearch path.logs: /usr/local/las/lo ......
MySQL 双主集群搭建
MySQL 双主集群搭建 参考文档: 图文结合带你搞懂MySQL日志之relay log(中继日志) - GreatSQL - 博客园 (cnblogs.com) 一个月后,我们又从 MySQL 双主切换成了主 - 从! (baidu.com) MySQL 简介 MySQL是一个关系型数据库管理系统 ......
redis Cluster(主从集群)
redis Cluster(主从集群) Redis的主从同步机制 得分点 psync,全量复制、部分复制 标准回答 Redis主从同步是指任意数量的从节点(slave node)都可以从主节点上(master node)同步数据。而除了多个 slave 可以连接到同一个 master 之外,slav ......
关于hdfs删除数据之后9870报错进入safe mode
1.运行 fsck 命令:首先,运行 Hadoop 的 fsck 命令来检查文件系统的完整性并标记出已删除的文件。在终端或命令提示符中执行以下命令: hdfs fsck / -files -blocks -locations -delete 上述命令会运行 fsck 并删除标记为已删除的文件。这将清 ......
Docker 部署 redis 网络集群
Docker 部署 redis 网络集群 ## 1. 创建网卡 docker network create redis --subnet 172.38.0.0/16 # 2. 通过脚本创建六个redis配置 for port in $(seq 1 6); \ do \ mkdir -p /mydat ......
rockerMQ双主双从集群搭建
总体架构 集群工作流程 启动NameServer,NameServer起来后监听端口,等待Broker、Producer、Consumer连上来,相当于一个路由控制中心。 Broker启动,跟所有的NameServer保持长连接,定时发送心跳包。心跳包中包含当前Broker信息(IP+端口等)以及存 ......
ceph(一)基于ceph-deploy部署ceph集群
1.梳理ceph的组件关系 1.1 ceph介绍 Ceph是一个开源的分布式存储系统,同时支持对象存储、块设备、文件系统。 ceph支持EB(1EB=1,000,000,00OGB)级别的数据存储, ceph把每一个待管理的数据流(文件等数据)切分为一到多个固定大小(默认4兆)的对象数据,并以其为原 ......
PostgreSQL高可用集群项目实战之Repmgr
一、风哥PG-DBA培训18:PostgreSQL高可用集群项目实战之Repmgr 课程目标: 本课程由风哥发布的基于PostgreSQL数据库的系列课程,本课程属于PostgreSQL主从复制与高可用集群阶段之PostgreSQL高可用集群项目实战之Repmgr,学完本课程可以掌握Repmgr运行 ......
PostgreSQL高可用集群项目实战之Patroni
一、风哥PG-DBA培训19:PostgreSQL高可用集群项目实战之Patroni 课程目标: 本课程由风哥发布的基于PostgreSQL数据库的系列课程,本课程属于PostgreSQL主从复制与高可用集群阶段之PostgreSQL高可用集群项目实战之Patroni,学完本课程可以掌握Patron ......
PostgreSQL负载均衡分发与双主HA架构
一、风哥PG-DBA培训16:PostgreSQL负载均衡分发与双主HA架构 本课程由风哥发布的基于PostgreSQL数据库的系列课程,本课程属于PostgreSQL主从复制与高可用集群阶段之PostgreSQL负载均衡分发与双主HA架构,学完本课程可以掌握PostgreSQL高可用负载均衡解决方 ......