集群kubernetes skywalking helm

Springboot+ElasticJob-Lite实现集群任务调度

前言 ElasticJob-Lite是集群环境下应用(比如SpringCloud微服务)任务调度的解决方案。 集群部署的时候,一个定时任务会有多个进程执行,如果不进行任何处理,会导致任务触发的时候每个进程重复执行一次。 解决办法有两种:一种是加锁,保证同时只有一个进程执行任务,比如用分布式锁,或者用 ......

K8s集群搭建问题

警告Cgroup Driver不一致 节点加入集群会警告 docker 和 kubelet 的 Cgroup Driver 不一致,但是暂未发现影响,如图: 解决办法:修改 docker 的 Cgroup Driver 为 systemd vim /etc/docker/daemon.json 加下 ......
集群 问题 K8s K8 8s

在Linux内网搭建K8s集群

前言 本文讲述在Linux内网搭建K8s集群详细步骤,解决搭建过程中的问题。 脚本基本可以不修改直接使用。 准备工作 需要Linux CentOS 7.x 两台及以上,本文用的 7.6。 主机要求有2个核心及以上。 安装步骤多个节点可以并行操作,默认所有操作各节点都要执行,某些操作仅主/工作节点执行 ......
集群 Linux K8s K8 8s

2021-12-30-k8s集群进行删除并添加node节点

layout: post cid: 7 title: k8s集群进行删除并添加node节点 slug: 7 date: 2021/12/30 16:58:32 updated: 2021/12/30 16:58:32 status: publish author: cby categories: 默 ......
节点 集群 2021 node k8s

在Linux搭建Zookeeper集群

前言 本文讲述在多台 Linux 服务器搭建 ZooKeeper 集群的具体步骤,共 4 个节点(1 主 2 从 1 观察者)。 ZooKeeper使用的端口:【2181】对 client 提供服务;【3888】选举 leader;【2888】集群内通讯。 准备工作 ZooKeeper需要1.7及以 ......
集群 Zookeeper Linux

在Linux搭建Kafka集群

前言 以kafka_2.13-2.8.0版本做示例,安装架构图如下所示,4台服务器,4个节点的Zookeeper集群(1主2从1观察)以及3个Kafka服务。 准备工作 准备多台服务器来搭建集群环境 Kafka需要Zookeeper做分布式协调,所以得先准备好Zookeeper集群。可以参考 在Li ......
集群 Linux Kafka

在Linux部署Redis主从和哨兵集群实现高可用

前言 本文主要讲述在 Linux 系统中配置和部署 Redis 主从集群和哨兵,实现高可用和自动故障迁移。 准备工作 参考 Redis 单机部署 安装 3 个 Redis 服务作一主二从,本文准备了 6380(主)、6381(从) 和 6382(从)。 参考 Redis 单机部署 安装 3 个 Re ......
主从 哨兵 集群 Linux Redis

在Linux部署Redis Cluster集群

前言 本文讲述在 Linux 系统部署 Redis Cluster 实现数据分片的具体步骤。 请参考 Redis 单机部署 下载编译。 Redis Cluster是什么? Redis Cluster 是官方提供的一种用数据分片来实现横向扩容的解决方案,由一个或多个 Redis 服务组成一个无主集群。 ......
集群 Cluster Linux Redis

在Linux部署Etcd集群

前言 目前解决分布式系统下数据强一致性的主要算法理论是Paxos和Raft,偏向CAP定理一致性(Consistency)、可用性(Availability)、分区容错性(Partition tolerance)中的CP。 Raft在容错和性能方面和Paxos相当,不同之处在于它将问题分解成相对独立 ......
集群 Linux Etcd

Redis——(主从复制、哨兵模式、集群)的部署及搭建

重点: 主从复制:主从复制是高可用redis的基础,主从复制主要实现了数据的多机备份,以及对于读操作的负载均衡和简单的故障恢复。 哨兵和集群都是在主从复制基础上实现高可用的。 缺点:故障恢复无法自动化,写操作无法负载均衡,存储能力受到单机的限制。 哨兵:在主从复制的基础上,哨兵实现了自动化的故障恢复 ......
主从 哨兵 集群 模式 Redis

四、kubernetes-存储抽象

1.先搭建nfs服务器 2.每台节点都挂载nfs目录文件夹 服务器原生方式挂载,将 /usr/share/nginx/html挂载到nfs文件夹下 apiVersion: apps/v1 kind: Deployment metadata: labels: app: nginx-pv-demo na ......
kubernetes

01. Jenkins - 安装说明(War / Kubernetes)

CI/CD 日常运维中常常听到 CI/CD 这个词,它其实包含整个研发生命周期的三个阶段: CI,Continuous integration,持续集成 CD,Continuous delivery,持续交付 CD,Continuous deployment,持续部署 大致的流程图如下: 而对于 K ......
Kubernetes Jenkins War 01

Docker 下 RedisCluster 分片集群搭建

1. Cluster 分片集群 1.1 Cluster 集群的结构和作用 redis 哨兵模式虽然提供了 redis⾼可⽤、高并发读的解决方案,但是在海量数据应用场景下,仍然存在海量数据存储问题和高并发写的问题。当只有⼀个 Master 对外提供服务时,如果数据量特别⼤,内存占⽤问题严重,数据的高并 ......
集群 RedisCluster Docker

MySQL AutoIncrement--PXC集群批量插入操作获取自增ID异常问题

问题描述 由于MySQL PXC集群的所有节点均可读写,因此当PXC集群中节点增加和减少时,PXC集群会自动调整集群各节点的自增ID步长,避免不同集群节点生成相同自增ID值产生冲突。 当PXC集群中读节点数量发生变化时,客户端执行BatchInsert方法可能返回错误的自增ID值。 问题原因 由于M ......
集群 AutoIncrement 问题 MySQL PXC

oracle之安装data gaurd集群

#################### 开启归档日志: shutdown immediate; startup mount; alter database archivelog; alter database open; archive log list # 更改归档目录路径log_archive ......
集群 oracle gaurd data

1、Clickhouse 单节点与集群部署

一、单节点部署 1.1、修改文件描述符 vim /etc/security/limits.conf * soft nofile 65536 * hard nofile 65536 * soft nproc 131072 * hard nproc 131072 vim /etc/security/li ......
节点 集群 Clickhouse

redis cluster 集群畅谈三 之 水平扩容、slave自动化迁移【转】

上一篇 redis cluster 集群畅谈二 , 主要讲解 实验多master写入、读写分离、实验自动故障切换(高可用性),那么本篇我们就来聊了聊redis cluster 水平扩容以及自动化 slave 迁移。 redis repliction 主从架构,一主多从更多的是为了提高 读QPS 。而 ......
集群 水平 cluster redis slave

redis主从复制、哨兵和集群

redis主从复制、哨兵和集群 一、redis持久化 1.1持久化的功能 Redis是内存数据库,数据都是存储在内存中,为了避免服务器断电等原因导致Redis进程异常退出后数据的永久丢失,需要定期将Redis中的数据以某种形式(数据或命令)从内存保存到硬盘; 当下次Redis重启时,利用持久化文件实 ......
主从 哨兵 集群 redis

kubeadm安装kubernetes

kubeadm安装kubernetes kubeadm 是官方社区推出的一个用于快速部署 kubernetes 集群的工具。 这个工具能通过两条指令完成一个 kubernetes 集群的部署: $ kubeadm init 创建一个master节点 $ kubeadm join 将一个 Node 节 ......
kubernetes kubeadm

ELK+kafka集群部署

前言 业务层可以直接写入到kafka队列中,不用担心elasticsearch的写入效率问题。 消息系统主要功能 1、解耦 允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束 2、冗余 消息队列把数据进行持久化直到它们已经被完全处理,通过这一方式规避了数据丢失风险。许多消息队列所采 ......
集群 kafka ELK

A0--集群基础环境

文件下载: ansible_v2.9.9 flink-1.16.0 hadoop-3.1.3 hive-3.1.3 kafka_2.13-3.3.1 python-3.8.10 spark-3.2.1 tools.tgz zookeeper-3.6.3 一、安装并配置ansible自动化工具 1)上 ......
集群 环境 基础 A0

hdfs集群的扩容和缩容

1、背景 当我们的hadoop集群运行了一段时间之后,原有的数据节点的容量已经不能满足我们的存储了,这个时候就需要往集群中增加新的数据节点。此时我们就需要动态的对hdfs集群进行扩容操作(节点服役)。 2、集群黑白名单 在hdfs集群中是存在黑名单和白名单的。 黑名单: 该文件包含不允许连接到nam ......
集群 hdfs

docker 部署mongoDB集群与读写分离

一.生成key文件 需要注意集群中所有机器都需要用同一个文件,否则会出现验证失败的情况 # 生成key openssl rand -base64 756 > /data/volume/mongodb/configdb/mongo.key # 设置访问权限 chmod 400 /data/volume ......
集群 mongoDB docker

4、kubernetes的pod定义(非常重要)

1 apiVersion: v1 #必选,版本号,例如v1 2 kind: Pod #必选,资源类型,例如 Pod 3 metadata: #必选,元数据 4 name: string #必选,Pod名称namespace: string #Pod所属的命名空间,默认为"default" 5 lab ......
kubernetes pod

Redis哨兵和cluster集群

1、什么是哨兵模式哨兵模式:可以自动切换解决单点故障,但是不能负载均衡,存储能力受限制。 哨兵核心功能:在主从复制的基础上,实现了主节点的自动故障转移 2、哨兵的作用监控:监控主节点和从节点是否在正常运行 故障自动转移:当主节点不能正常工作时,哨兵会开始自动故障转移操作,它会将失效主节点的其中一个从 ......
哨兵 集群 cluster Redis

决战圣地玛丽乔亚Day47----Redis集群

4.Redis Cluster 集群模式 如果单机吞吐量过大,我们可以横向和纵向进行扩展,横向就是加节点(scale out),纵向就是加配置(scale up)。 如果加配置,治标不治本,单机局限性和持久化问题无法解决(如轮式RDB快照还是AOF指令) 横向扩展更容易扩展,可以解决很多问题,包括单 ......
集群 Redis Day 47

3、kubernetes各种port

K8s中nodePort、port、targetPort、hostPort介绍 1、nodeport 外部流量访问k8s集群中service入口的一个方式(还有一种是loadbalancer) nodeIP:nodePort 提供给外部流量访问k8s集群中service一个入口 比如外部用户要访问k ......
kubernetes port

实战篇:使用rook在k8s上搭建ceph集群

写在开篇 “ 上一次,我发了一篇:《理论篇:让我们一起鲁克鲁克——rook(开源存储编排)》。这次,来一篇实战,使用rook在k8s上把ceph集群搞起来。后续,还会陆续分享如何对接k8s(作为k8s的后端存储)、以及分享一些在生产上的实践经验。 ” 环境规划 | 主机名 | IP | 角色 | 数 ......
集群 实战 rook ceph k8s

2、kubernetes资源管理

四、资源管理介绍 k8s本质上是一个集群系统,用户可以在集群中部署各种服务,部署服务(其实就是在k8s集群中运行一个个容器,并将指定的程序跑在容器中) k8s的最小管理单元是pod不是容器,所以只能将容器放在pod中,而k8s一般不会直接管理pod,而是通过pod控制器来管理的pod的 pod可以提 ......
kubernetes 资源管理 资源

1h玩转kubernetes

学习k8s就跟学习office三件套上,95%的人只会5%,而5%的知识可以干95%的事情,所以不要觉的k8s难 1 kubernetes 1 什么是kubernetes Kubernetes 是一个可移植、可扩展的开源平台,一个分布式资源调度进行容器编排云原生的操作系统,用于管理容器化的工作负载和 ......
kubernetes