分布式 集群hdfs
Redis缓存高可用集群
在redis3.0以前的版本要实现集群一般是借助哨兵sentinel工具来监控master节点的状态，如果master节点异常，则会做主从切换，将某一台slave作为master，哨兵的配置略微复杂，并且性能和高可用性等各方面表现一般。 ......
SonarQube(CE)版集群环境下的高可用性实践
摘要：本文将详细介绍SonarQube的落地场景，集群环境（CE）下的高可用性（HA）最佳实践，包括部署策略、负载均衡、数据同步等方面的内容，以帮助您更好地构建一个健壮、高性能的代码质量分析系统 一、为什么是SonarQubeSonarQube是一个广泛使用的开源的代码质量分析工具，它可以帮助开发团 ......
Moebius数据库多活集群
背景 数据库是信息化的基石，支撑着整个业务系统，发挥着非常重要的作用，被喻为“IT的心脏”。因此，让数据库安全、稳定、高效地运行已经成为IT管理者必须要面对的问题。数据库在底层架构层面需要满足以下几点建设要求： 安全和可靠：不能因为服务器的软硬件故障导致数据丢失和业务中断； 容灾：多数据中心间的数据 ......
分布式计算技术（上）：经典计算框架MapReduce、Spark 解析
当一个计算任务过于复杂不能被一台服务器独立完成的时候，我们就需要分布式计算。分布式计算技术将一个大型任务切分为多个更小的任务，用多台计算机通过网络组装起来后，将每个小任务交给一些服务器来独立完成，最终完成这个复杂的计算任务。本篇我们介绍两个经典的计算框架MapReduce和Spark。 — MapR ......
分布式存储技术（下）：宽表存储与全文搜索引擎的架构原理、特性、优缺点解析
对于写密集型应用，每天写入量巨大，数据增长量无法预估，且对性能和可靠性要求非常高，普通关系型数据库无法满足其需求。对于全文搜索和数据分析这类对查询性能要求极高的场景也是如此。为了进一步满足上面两类场景的需求，有了宽表存储和搜索引擎技术，本文将对他们的架构、原理、优缺点做介绍。 — 宽表存储 — 宽表 ......
k8s集群搭建及相关问题解决
原文链接：https://juejin.cn/post/7011425524790591519 环境准备 三台机器： master：192.168.0.1 node1：192.168.0.2 node2：192.168.0.3 基础环境设置 [1] 设置3台机器hostname基于主机名通信：/et ......
linux系统下Hadoop集群环境搭建
1、前言 基于redhat7.6系统搭建全分布式Hadoop3.3.5集群环境（模拟三台机，1主角色，2从角色）。 2、安装虚拟机 参考：https://www.cnblogs.com/jpxjx/p/16800831.html 3、虚拟机安装redhat7.6 参考：https://www.cnb ......
基于k8s的web集群项目
准备5台linux机器 系统是centos7.9 2核/4G的配置 1.k8s的部署安装 1.1.准备环境： 先给每台服务器起好名字，使用固定的ip地址，防止后面因为ip地址的变化，导致整个集群异常(每台机器) master 192.168.18.139 node1 192.168.18.138 n ......
分片集群之 添加删除节点
redis cluster 节点加入集群 环境说明：3主3从 集群模式 redis version 5.0.14 模拟集群中一个实例长期离线(比如虚拟机损坏、pod损坏)，重启一个实例从新接入到当前集群 第一步 停止pod,模拟损坏环境 docker rm -f 6380 随后查询集群节点状态，发现 ......
ZooKeeper分布式应用程序协调服务
目录 一.ZooKeeper基本介绍 1.ZooKeeper是什么？ 2.ZooKeeper的工作机制 3.ZooKeeper的特点 4.ZooKeeper的数据结构 5.ZooKeeper的应用场景 5.1 统一命名服务 5.2 统一配置管理 5.3 统一集群管理 5.4 服务器动态上下线 5.5 ......
Zookeeper集群
一、Zookeeper概述 1. Zookeeper定义及工作机制 定义：Zookeeper是一个开源的分布式的，为分布式框架提供协调服务的Apache项目。 工作机制：Zookeeper从设计模式角度来理解：是一个基于观察者模式设计的分布式服务管理框架，它负责存储和管理大家都关心的数据，然后接受观 ......
Zookeeper分布式服务协调组件
Zookeeper分布式服务协调组件 1.简介 Zookeeper是一个分布式服务协调组件，是Hadoop、Hbase、Kafka重要的依赖组件，为分布式应用提供一致性服务的组件。 Zookeeper是Hadoop、HBase、Kafka的重要依赖组件。 Zookeeper主要包含文件系统以及通知机 ......
爬虫最后一天,爬取到的数据存到mysql中，爬虫和下载中间件、加代理、cookie、header、selenium、随机生成uersagent、去重规则源码分析(布隆过滤器)、scrapy-redis实现分布式爬虫、扩展去重规则
==爬到的数据存到mysql中== class FirstscrapyMySqlPipeline: def open_spider(self, spider): print('我开了') self.conn = pymysql.connect( user='root', password="", h ......
分布式事务相关
###1.有遇到分布式事务？ 在RPC远程调用过程中，A调用B服务的接口后，A接口报错，无法回滚B接口的事务，最终造成A事务回滚，B事务没有回滚。 注：在单体架构中，如果存在多数据源，每个数据源都有自己独立的事务管理器，那么这时也会存在多数据源事务管理分布式事务的问题。解决方案：jta+Atomik ......
Hadoop与Hadoop集群介绍
1、什么是Hadoop 狭义上Hadoop指的是Apache软件基金会的一款开源软件。用java语言实现，开源。允许用户使用简单的编程模型实现跨机器集群对海量数据进行分布式计算处理 广义上Hadoop指的是围绕Hadoop打造的大数据生态圈。 2、Hadoop核心组件 Hadoop HDFS（分布式 ......
[zookeeper] 集群搭建及启动后查询服务器状态异常解决
一、集群搭建 1、每台服务器上部署zookeeper 1、将zookeeper压缩包解压到指定位置，在zookeeper解压后目录下创建数据目录zkData 2、在zkData下创建myid文件，内容写上数字，代表该zookeeper的唯一id 3、修改conf目录下的zoo_sample.cfg为 ......
分布式消息系统RocketMQ
一、RocketMQ简介 Apache RocketMQ是一个采用Java语言开发的分布式的消息系统，由阿里巴巴团队开发，与2016年底贡献给Apache，成为了Apache的一个顶级项目。 在阿里内部，RocketMQ 很好地服务了 集 团大大小小上千个应用，在每年的双十一当天，更有不可思议的万亿 ......
Nginx 集群搭建
Nginx 集群搭建 https://huaweicloud.csdn.net/63560e7dd3efff3090b591dc.html?spm=1001.2101.3001.6650.14&utm_medium=distribute.pc_relevant.none-task-blog-2%7E ......
正太分布数据排序后分段数据的方差与标准差
clc close num=46000; step=23000; n=num/step; arr=randn(num,1) * 8.239027791394347 + 70; std(arr) mean(arr) arr_s=sort(arr); s=zeros(step,n); std_arr=z ......
R语言GARCH族模型：正态分布、t、GED分布EGARCH、TGARCH的VaR分析股票指数|附代码数据
全文链接：http://tecdat.cn/?p=31023 最近我们被客户要求撰写关于GARCH的研究报告，包括一些图形和统计输出。 如何构建合适的模型以恰当的方法对风险进行测量是当前金融研究领域的一个热门话题 VaR方法作为当前业内比较流行的测量金融风险的方法,具有简洁,明了的特点,而且相对于方 ......
极值分析：分块极大值BLOCK-MAXIMA、阈值超额法、广义帕累托分布GPD拟合降雨数据时间序列|附代码数据
全文链接：http://tecdat.cn/?p=25348 最近我们被客户要求撰写关于极值分析的研究报告，包括一些图形和统计输出。 你们可能知道，实际极值分析有两种常用方法：分块极大值Block-maxima、阈值超额法threshold excess 今天，我们将分别介绍这两种方法。 分块极大值 ......
centos7 mongodb4.4分片集群部署
#创建mongo相应的目录 mkdir -pv /data/app/mongodb/conf mkdir -pv /data/app/mongodb/{configset,shared1,shared2,shared3}/log mkdir -pv /data/mongodb/{configset, ......
Proxmox VE Ceph 集群部署
1、集群安装 参考：https://www.cnblogs.com/a120608yby/p/17295938.html 2、业务及管理网络创建 参考：https://www.cnblogs.com/a120608yby/p/17140953.html 3、Ceph网络创建 # 配置ceph多网卡绑 ......
和 chatgpt 聊了一会儿分布式锁 redis/zookeeper distributed lock
前言 最近的 chatGPT 很火爆，听说取代程序员指日可待。 于是和 TA 聊了一会儿分布式锁，我的感受是，超过大部分程序员的水平。 Q1: 谈一谈 java 通过 redis 实现分布式 锁 chatGPT: Java通过Redis实现分布式锁，是在多个Java应用程序之间实现同步的一种方式。通 ......
非关系数据库型--Redis集群和哨兵
redis集群和高可用 redis主从复制 主从复制特点 一个master可以有多个slave 一个slave只能有一个master 数据流向是单向的，master到slave 主从复制实现 建议redis master和slave开启持久化，设置相同连接密码，slave提升为maste ......
基于MATLAB的分布式mimo性能仿真,分析能量效率和频谱效率
1.算法描述 基于matlab的协作mimo分布式空时编码技术的仿真,包括规则LDPC级联D-STBC,ML,ZF,DFE均衡,Fincke-Pohst-MAP算法检测。将规则LDPC加入这个协作MIMO的D-STBC里，即是将LDPC码与D-STBC级联，发送端用LDPC编码发送到协作节点，然后协 ......
微服务 - 集群化 · 服务注册 · 健康检测 · 服务发现 · 负载均衡
微服务集群化、Consul、服务注册、健康检测、服务发现、K/V存储、Datacenter、负载均衡方式、熔断与降级、Snapshot集群备份、命令行方式注册服务、API 方式注册服务、引用类库方式注册服务、服务发现测试 ......
计算两个概率分布之间的距离(Hellinger距离)
Hellinger距离 介绍 Hellinger距离是一种用于度量概率分布之间相似度的指标。 在统计学和信息论领域中，它被广泛应用于分类、聚类、图像识别、文本分类等方面。 Hellinger距离又称为Bhattacharyya距离的平方根，它是两个概率分布之间的欧几里德距离的一半，其取值范围在0到1 ......
Redis三主三从集群
Redis-Cluster采用无中心结构，每个节点保存数据和整个集群状态,每个节点都和其他所有节点连接。一组Redis Cluster是由多个Redis实例组成，官方推荐使用6实例，其中3个为主节点，3个为从节点。一旦有主节点发生故障的时候，Redis Cluster可以选举出对应的从节点成为新的主 ......