分布式 集群hdfs
LVS负载均衡集群——NAT地址转换模式与DR直接路由模式
一.LVS集群基本介绍 1.集群是什么 Cluster，集群、群集 由多台主机构成，但对外只表现为一个整体，只提供一个访问入口（域名或IP地址），相当于一台大型计算机。 2.集群的类型 2.1 负载均衡群集（Load Balance Cluster) 提高应用系统的响应能力、尽可能处理更多的访问请求 ......
【必须收藏】别再乱找TiDB 集群部署教程了，这篇保姆级教程来帮你！！| 博学谷狂野架构师
TiDB 基础使用 TiDB dashboard使用 TiDB Dashboard 是 TiDB 自 4.0 版本起提供的图形化界面，可用于监控及诊断 TiDB 集群。TiDB Dashboard 内置于 TiDB 的 PD 组件中，无需独立部署。 集群概况 查看集群整体 QPS 数值、执行耗时、消 ......
nacos集群无法正确显示服务列表问题
起因是在使用dubbo的过程中，选用的注册中心是nacos，并且使用的nacos集群。 应用启动后，在nacos控制台查看注册的服务列表，包括消费者和服务者，都无法及时刷新。刷新的唯一方式是重启nacos。 后面经过一系列排查，发现我们的nacos集群是三个节点的，这是正常的并且也是nacos推荐的 ......
Kubernetes集群（三）——Kuboard安装
1. 获取安装文件 curl -o kuboard-v3.yaml https://addons.kuboard.cn/kuboard/kuboard-v3-storage-class.ya 2. 安装文件自定义 mkdir -p /root/kuboard && cd /root/kuboard ......
分布式微电网能源交易算法matlab源代码 孤岛微电网之间的能源交易问题，提出了一种分布式算法
分布式微电网能源交易算法matlab源代码， 代码按照高水平文章复现，保证正确 孤岛微电网之间的能源交易问题，提出了一种分布式算法。 这个问题由几个通过任意拓扑交换能量流的岛屿微网格组成。 提出了一种基于次梯度的开销最小化算法，该算法在实际迭代次数有限的情况下收敛到最优解 几个微电网通过交换能量相互 ......
MATLAB代码：基于分布式ADMM算法的考虑碳排放交易的电力系统优化调度研究
MATLAB代码：基于分布式ADMM算法的考虑碳排放交易的电力系统优化调度研究 关键词：分布式调度 ADMM算法 交替方向乘子法 碳排放 最优潮流 仿真平台：MATLAB+CPLEX GUROBI平台 主要内容：代码主要做的是一个考虑碳排放交易的最优潮流问题，首先，代码的工作是分布式调度，因此首先对 ......
[docker]mesos集群的启动脚本
宿主机的IP地址列表 mesos-lb:192.168.253.159 mesos-marathon:192.168.253.159 mesos-master:192.168.253.159 mesos-slave:192.168.253.160 mesos-slave:192.168.253.16 ......
Kubernetes集群（二）——nfs的存储类（storageclass）
1. 安装nfs-server 1.1. 新建虚拟机用于nfs服务开启 作为存储服务器，存储空间配置高一些。 安装nfs服务 yum install -y nfs-utils rpcbind 创建共享目录 mkdir /root/test-pv 配置nfs服务信息 vi /etc/exports 添 ......
分布式环境下，如何实现session共享
为什么会出现这种session共享的解决方案？ 随着互联网公司的项目在微服务和分布式的环境下进行的搭建，导致一个项目可能分别部署在几个甚至很多的服务器集群下，此时就会出现一个问题： 当用户进行一个session会话的时候，比如一个用户去登录项目，一般的大公司的项目都是有Nginx进行反向代理的， N ......
Kubernetes集群（一）——Sealos搭建Kubernetes集群
1. 虚拟机环境准备 test-master-1 主结点1 test-worker-1 工作节点1 采用ESXI虚拟机管理系统创建新虚拟机。 2. 安装Kuberenetes集群 2.1. 更新软件源 在主结点1、工作节点1都进行 yum update 2.2. 安装Sealos 安装下载工具 yu ......
解决集群环境下定时任务多次执行的办法有哪些？
只在一台服务器上部署该定时任务代码 优点：解决方法容易理解 缺点：部署麻烦，需要多套代码，且当这台服务器出问题时就没定时任务了。 在定时任务代码上加上某个特定的ip限制，仅某个ip的服务器能运行该定时任务 优点：解决方法容易理解，部署简单，不需要多套代码。 缺点：同上，只能规定一台服务器运行，发生故 ......
Rancher 系列文章-K3S 集群升级
概述 书接上回：《Rancher 系列文章-Rancher 升级》, 我们提到：将 Rancher 用 Helm 从 v2.6.3 升级到 v2.6.4. 接下来开始进行 K3S 集群的升级：将 K3S 集群从 v1.21.7+k3s1 升级到 v1.22.5+k3s2 相关信息 本次升级的 K3S ......
GO实现Redis：GO实现Redis集群（5）
采用一致性hash算法将key分散到不同的节点，客户端可以连接到集群中任意一个节点 https://github.com/csgopher/go-redis 本文涉及以下文件： consistenthash：实现添加和选择节点方法 standalone_database：单机database cli ......
分布式任务调度框架之Elastic-Job
1、前言 1.1、什么是任务调度? 我们可以先思考一下下面业务场景的解决方案： 某电商系统需要在每天上午 10点，下午3点，晚上8点发放一批优惠券。 某银行系统需要在信用卡到期还款日的前三天进行短信提醒。 某财务系统需要在每天凌晨 0:10结算前一天的财务数据，统计汇总。 12306 会根据车次的不 ......
Elasticsearch 学习-windows上搭建集群
Elasticsearch 学习-windows上搭建集群 3.1 相关概念 3.1.1 单机**&** 集群 单台Elasticsearch服务器提供服务，往往都有最大的负载能力，超过这个阈值，服务器性能就会大大降低甚至不可用，所以生产环境中，一般都是运行在指定服务器集群中。 ==除了负载能力，单 ......
分布式技术原理与算法解析 02 - 分布式计算
分布式计算模式之MR MapReduce就是将复杂的、难以直接解决的大问题，分割为规模较小的、可直接解决的小问题。这些子问题相互独立且和原问题形式相同，可递归地求解，然后将子问题的答案合并。核心步骤为 1.分解原问题 2.求解子问题 3.合并解 工作原理 Map对应分，Reduce对应合。主要包括3 ......
K8S学习笔记之卸载K8S集群
阅读目录 0x00 概述 0x01 操作 0x00 概述 有时候需要卸载已安装在本机的K8S服务和服务，本文卸载的K8S面向使用kubeadm或者二进制方法安装的，不涉及使用rpm包安装的集群； 主要使用kubeadm reset和删除指定文件的方法，卸载K8S集群。 0x01 操作 首先清理运行到 ......
java——spring boot集成kafka——集群分区消费策略
图中Kafka集群有两个broker，每个broker中有多个partition。 ⼀个partition只能被⼀个消费组⾥的某⼀个消费者消费，从⽽保证消费顺序。 Kafka只在partition的范围内保证消息消费的局部顺序性，不能在同⼀个topic中的多个partition中保证总的消费顺序性。 ......
C#/.NET Core跨平台分布式微服务/DDD领域驱动架构设计VIP实战
阿笨NET课程详情 腾讯课堂官网 https://abennet.ke.qq.com/ ......
分布式技术原理与算法解析 02 - 分布式资源管理与负载调度
分布式体系结构之集中式结构 集中式结构就是由一台或多台机器组成中央服务器，所有数据存储于此，所有业务也先由其处理。多节点与中央服务器连接，并将自己信息汇报给中央服务器，由中央服务器同一进行资源和任务调度。特点是部署结构简单，中央节点无需考虑对任务的多节点部署，节点服务器间无需通信和协作，只要与中央服 ......
分布式技术原理与算法解析 01 - 分布式协调与同步
关于 电商系统：最看重吞吐量，为了更多的处理用户访问和订单业务 IoT：最看重资源占用率，在某些设备上资源都是KB级的 电信业务：最看重响应时间、完成时间、可用性，保证通话质量 HPC：最看重加速比，这种计算特带是耗时长 大数据：最看重加速比，处理时间较HPC短，但也到达小时级 云计算：最看重操作耗 ......
Redis主从集群切换数据丢失问题如何应对？
数据丢失的情况 异步复制同步丢失 集群产生脑裂数据丢失 异步复制丢失 对于Redis主节点与从节点之间的数据复制，是异步复制的，当客户端发送写请求给master节点的时候，客户端会返回OK，然后同步到各个slave节点中。 如果此时master还没来得及同步给slave节点时发生宕机，那么maste ......
二项分布与泊松分布
二项分布 基本概念 n次伯努利实验正好出现k次成功的概率为： $$b(k;n,p) = \binom{n}{k}p^kq^{n-k},k=0,1,2,...,n$$ 其他性质上篇已经讲了，这里说新的。 首先是中心项与最可能成功次数。$b(k;n,p)$最大的项被称之为中心项，对应的k称为最可能成功次 ......
wsl 中 docker-compose 搭建 kafka 集群出现的外部访问错误
在 wsl 中用 docker-compose 搭建了一台 zookeeper + 三台 broker 的 kafka 集群，使用的镜像是 bitnami/kafka，在按照镜像文档运行容器后，发现运行在宿主机里的客户端程序无法正确的推送/消费消息，研究后发现镜像文档只适用于客户端程序和 kafka ......
Rancher 系列文章-在腾讯云的 K3S 上安装高可用 Rancher 集群
开篇 📜 引言： 三人行必有我师焉 知识共享，天下为公 《K3s 系列文章》 《Rancher 系列文章》 方案 在腾讯云的 K3S 上安装 Rancher 方案目标 高可用 3 台 master 的 k3s 集群 高可用模式的 rancher 数据备份 rancher 数据备份到 腾讯云对象存储 ......
部署基于etcd的coredns集群
前言 现需要为公司搭建私有DNS，私有服务器都使用私有DNS的地址，便于访问内部自定义的域名。采用CoreDNS + ETCD方案部署，coredns和etcd都以三实例运行，etcd为集群模式，使用nginx做coredns的udp负载均衡，避免单机性能问题。另使用prometheus监控core ......
全站抓取与分布式增量抓取
scrapy的crawlspider爬虫 学习目标： 了解 crawlspider的作用 应用 crawlspider爬虫创建的方法 应用 crawlspider中rules的使用 1、crawlspider是什么 回顾之前的代码中，我们有很大一部分时间在寻找下一页的url地址或者是内容的url地址 ......
zookeeper集群搭建
1. zookeeper介绍 ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，是Google的Chubby一个开源的实现，是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件，提供的功能包括：配置维护、域名服务、分布式同步、组服务等。 ZooKeeper ......
.NET+Consul+Ocelot实现微服务分布式部署
一、ConSul和Ocelot Consul：是一个服务网格解决方案，提供了一个功能齐全的控制平面，具有服务发现、配置和分段功能。这些功能中的每一项都可以根据需要单独使用，也可以一起使用来构建一个完整的服务网格。Consul需要一个数据平面，并支持代理和原生集成模型。Consul提供了一个简单的内置 ......