集群docker-compose rocketmq compose
DataX vs 腾讯云COS对象存储 -> StarRocks集群
本文将介绍使用DataX读出Cos的Orc文件往StarRocks里面写。 需求: 需要将腾讯云cos上84TB的数据, 同步到StarRocks某个大表。正常每个分区数据量20~30亿，600GB。 工具：DataX插件：hdfsreader、starrockswriter对象存储COS：非融合 ......
docker swarm 部署一主两从的redis集群
docker-compose文件准备 docker-compose-redis-cluster.yml version: '3.8' services: redis-master: image: redis command: redis-server --requirepass your_passw ......
超算集群安装OpenFOAM-LIGGGHTS-CFDEM(普通用户权限-以CSU HPC CentOS7.9为例)
普通用户权限超算集群安装OpenFOAM-LIGGGHTS-CFDEM，由于缺少root权限，无法根据CFDEM官方instruction进行安装。 本文以CSU超算平台为例，利用普通用户权限进行编译安装。文章修正了已有教程中部分问题，特别感谢希望先生与记得小蘋初见教程。 1. 安装必要依赖包 此部 ......
Ranther管理K8S集群
什么是Ranther Rancher 是一个 Kubernetes 管理工具，让你能在任何地方和任何提供商上部署和运行集群。 Rancher 可以创建来自 Kubernetes 托管服务提供商的集群，创建节点并安装 Kubernetes，或者导入在任何地方运行的现有 Kubernetes 集群。 R ......
通过 docker-compose 快速部署 EFAK 保姆级教程
目录一、概述二、开始编排部署 EFAK1）部署 docker2）部署 docker-compose3）创建自定义docker网络4）创建 MySQL 挂载目录5）编排 docker-compose.yaml 部署 一、概述 EFAK（Eagle For Apache Kafka，以前称为 Kafka ......
C++聊天集群服务器6
一、客户端开发 代码如下： #include "json.hpp" #include <iostream> #include <thread> #include <string> #include <vector> #include <chrono> #include <ctime> #includ ......
PostgreSQL - Start a container with docker compose file
Docker compose file: services: postgres: image: postgres:16-alpine environment: - POSTGRES_USER=root - POSTGRES_PASSWORD=aaa - POSTGRES_DB=zimple_bank ......
基于Docker容器搭建hadoop完全分布式集群环境
简介 物理机：windows10 宿主机：Centos7虚拟机，需要安装Docker服务 hadoop集群节点：3个centos7的容器，hadoop1、hadoop2、hadoop3 组件： 容器镜像：Centos7 Docker CE 24.0.7 JDK1.8.0_181 Hadoop3.1. ......
kubeadm更新k8s集群证书(1.23.14版本)
1、更新证书 [root@k8s-master01 kubernetes-1.23.14-0]# kubeadm certs renew all --config=kubeadm-config.yaml certificate embedded in the kubeconfig file for ......
kubeadm续期k8s集群证书
1、备份 mkdir /opt/2023-12-09-k8s-backup cp -a /etc/kubernetes /opt/2023-12-09-k8s-backup cp -a /var/lib/etcd /opt/2023-12-09-k8s-backupcp -a /root/.kube ......
k8s:通过 kubectl 插件 Kubepug 实现集群升级检查(废弃API资源检查)
背景:k8s 的版本迭代很快，虽然主要版本一直没有变化，但是次要版本一直在迭代，2022年一年就发布了三个次要版本，同时不同的次要版本之间 API 资源一直在变化，有新加入的，也有废弃删除的。不同版本的 api 资源版本也有不同，往往不是向下兼容的，比如在低版本中 API 资源版本为 v1beta1 ......
C#连接RocketMQ发送消息
public static void CreateMessage(string content, string serverHost, string strTopic, string strkey, string strTag) { try { //mq对象 using (var mq = new ......
kafka集群双活-数据迁移
一、集群搭建（kafka使用自带的zookeeper） 前提：必须要有java环境 1、下载地址： http://kafka.apache.org/downloads 2、安装目录 /app/kafka tar -zxvf kafka_2.12-3.6.1.tgz 建立数据和日志存储目录 mkdir ......
redis集群双活-数据迁移
一、redis双活 1、集群搭建 （一主两从） Redis-Sentinel是redis官方推荐的高可用性解决方案，sentinel哨兵是特殊的redis服务，不提供读写服务，主要用来监控redis实例节点，当用redis作master-slave的高可用时，如果master本身宕机，redis本身 ......
nginx搭建SRS-HLS分发集群
1、NGINX Edge Cluster NGINX边缘集群，本质上就是带有缓存的反向代理，也就是NGNIX Proxy with Cache。 只需要配置NGINX的缓存策略就可以，不需要额外插件，NGINX本身就支持： 在/etc/nginx/conf.d下新建： vi ngins-srs-ca ......
将 .NET Aspire AppHost 部署到 Kubernetes 集群
使用Aspirate可以将Aspire程序部署到Kubernetes 集群 工具安装 dotnet tool install -g aspirate --prerelease 注意：Aspirate 正在开发中，该软件包将作为预览版进行版本控制，--prelease 选项将获得最新的预览版。 容器注 ......
十一、RabbitMQ集群
一、clustering 1、使用集群的原因 2、搭建步骤 2.1 搭建架构图 2.2 操作步骤 2.3 实战部分操作演示 二、镜像队列 1、使用镜像的原因 2、搭建步骤 2.1 操作步骤 2.2 实战步骤 三、Haproxy+Keepalive实现高可用负载均衡 1、整体架构图 2、Haproxy ......
docker compose 一键部署kafka
一. 新建文件docker-compose.yml version: "3.8" services: zookeeper: restart: always image: 'bitnami/zookeeper:3.8.3' ports: - '2181:2181' environment: - ALL ......
Redis集群
Redis Sentinel： 什么是 Sentinel？ 有什么用？ Sentinel 如何检测节点是否下线？主观下线与客观下线的区别? Sentinel 是如何实现故障转移的？ 为什么建议部署多个 sentinel 节点（哨兵集群）？ Sentinel 如何选择出新的 master（选举机制）? ......
vSAN集群添加宿主机报错问题处理
背景： 1、新增宿主机到vsan集群，服务器网口只有4个，所以规划vsan和管理关联到标准交换机（vsan的适配器MTU-9000、管理的适配器MTU-1500）--使用两个网口、vmotion和业务vlan关联到分布式交换机 使用两个网口；2、在往vsan集群添加宿主机的时候，新的宿主机HA状态一 ......
docker-compose运行的容器 curl No route to host
# 信任docker0 网卡firewall-cmd --permanent --zone=trusted --change-interface=docker0 && firewall-cmd --reload docker network inspect csrpmed_default#找出默认网 ......
BeeGFS部署高可用集群
BeeGFS 高可用集群搭建 参考文档：https://aws.amazon.com/cn/blogs/china/how-to-build-beegfs-on-aws-system/ 目标状态查询 元数据 targets > beegfs-ctl --listtargets --nodetype= ......
docker创建mysql集群
一、创建mysql的节点目录 # 创建第一个节点 mkdir /home/mysql-cluster/node1 cd /home/mysql-cluster/node1 mkdir conf data files log # 创建第二个节点 mkdir /home/mysql-cluster/no ......
Kafka集群调优+能力探底
一、前言 我们需要对4个规格的kafka能力进行探底，即其可以承载的最大吞吐；4个规格对应的单节点的配置如下： 标准版： 2C4G 铂金版： 4C8G 专业版： 8C16G 企业版： 16C32G 另外，一般来讲，在同配置下，kafka的读性能是要优于写性能的，写操作时，数据要从网卡拷贝至堆内存，然 ......
StackGres 数据库平台工程，使用 Citus + Patroni 创建生产级高可用分布式 PostgreSQL 分片集群
系列 StackGres, 可私有部署的云原生数据库平台工程 StackGres 数据库平台工程功能介绍与快速上手 StackGres 1.6 数据库平台工程集群配置管理(K8S Pods/PostgreSQL/PgBouncer) StackGres 1.6 数据库平台工程，集群高可用(Patro ......
4、虚拟机单机、集群的克隆、删除脚本（以初始化好的虚拟机为模板）
摘自：https://blog.51cto.com/mfc001/6408229 虚拟机克隆、删除脚本 [root@ubunt ~]# cat clone.sh #!/bin/bash # #. /etc/init.d/functions （如果是ubuntu，注释此行） Red="\e[1;31m ......
使用Slurm集群进行分布式图计算：对Github网络影响力的系统分析
本文在华为云弹性云服务器集群中部署Slurm作业调度系统，并运行针对Github协作网络影响力分析的分布式图计算应用程序。 ......
聊聊部署在不同K8S集群上的服务如何利用nginx-ingress进行灰度发布
前言 之前有篇文章聊聊如何利用springcloud gateway实现简易版灰度路由,里面的主人公又有一个需求，他们有个服务是没经过网关的，而是直接通过nginx-ingress暴露出去，现在这个服务也想做灰度，他知道在同个集群如何利用nginx-ingress进行灰度发布，但是现在这个服务是部署 ......
公网搭建Kubernetes集群
由于本次软分大作业采用一台华为云服务器和两台阿里云服务器，两者之间内网不互通，无法搭建内网k8s集群，不得已才在公网搭建。 公网搭建会出各种问题，有条件的话还是建议在内网搭建。 一个很详细的教程：https://zhuanlan.zhihu.com/p/627310856 一、服务器配置 主机名 i ......