分布式 集群hdfs
06-redis的cluster集群
一、介绍 Redis 集群是一个可以在多个 Redis 节点之间进行数据共享的设施（installation）。 Redis 集群不支持那些需要同时处理多个键的 Redis 命令， 因为执行这些命令需要在多个 Redis 节点之间移动数据， 并且在高负载的情况下， 这些命令将降低 Redis 集群的 ......
EMQX集群的创建和使用
EMQX的安装 Ubuntu 本页将指导您如何在 Ubuntu 系统中下载安装并启动 EMQX。 通过 Apt 源安装 EMQX 支持通过 Apt 源安装，免除了用户需要手动处理依赖关系和更新软件包等的困扰，具有更加方便、安全和易用等优点。如希望通过 Apt 源安装 EMQX，可参考如下步骤。 1. ......
Logstash：如何连接到带有 HTTPS 访问的集群
https://blog.csdn.net/UbuntuTouch/article/details/126868040 前段时间，有一个开发者在评论区问了一个问题：如何运用 Logstash 采集数据，并写入到带有 HTTPS 的 Elasticsearch 集群中。我们知道，在 Elasticse ......
minio集群的部署【nginx+minio]
1、 配置MinIO集群配置本地解析在/etc/hosts中配置 vim /etc/hosts #添加以下内容，每台MinIO节点都需要配置 192.168.5.1 minio-1 192.168.5.2 minio-2 192.168.5.3 minio-3 192.168.5.4 minio-4 ......
分布式架构的高性能与可用性
分布式架构是一种将系统拆分为多个独立的组件或服务，并在不同的计算节点上部署这些组件或服务的架构方式。它可以提供高性能和可用性的好处。下面我将详细介绍分布式架构在高性能和可用性方面的优势。 高性能 横向扩展：分布式架构可以通过增加计算节点来实现横向扩展，从而提高系统的处理能力和吞吐量。当系统负载增加时 ......
GaussDB(DWS)中的分布式死锁问题实践
出现分布式死锁现象后，如果没有外部干预，通常是一方等待锁超时报错后，事务回滚清理持有锁资源，另一方可继续执行。 ......
GlusterFS集群安装
GlusterFS集群安装 GlusterFS 参考链接：https://zhuanlan.zhihu.com/p/586419358 安装环境准备 服务器编号 OS IP GFS1 CentOS7.9-2009 192.168.1.15 GFS2 CentOS7.9-2009 192.168.1. ......
使用 PostgreSQL 16.1 + Citus 12.1 作为多个微服务的分布式 Sharding 存储后端
在本教程中，我们将使用 PostgreSQL 16.1 + Citus 12.1 作为多个微服务的存储后端，演示此类集群的样例设置和基本操作。 Citus 12.1 实验环境设置 Docker 快速启动 Citus 分布式集群 docker-compose.yml version: "3" serv ......
如何通过port-forward命令在本地访问 k8s 集群服务
公众号「架构成长指南」，专注于生产实践、云原生、分布式系统、大数据技术分享 概述 在我们访问k8s中的pod服务时，一般通过node port映射pod端口进行访问，还有一种是通过ingress或者istio通过域名方式来访问，虽然两种方式能满足我们需求，但是如果针对临时访问，配置起来还是有点复杂和 ......
R语言布朗运动模拟股市、物种进化树状图、二项分布可视化
全文链接：http://tecdat.cn/?p=32393 原文出处：拓端数据部落公众号 本文模拟了在连续和离散时间布朗演化一些简单的方法。布朗运动的数学模型（也称为随机游动）也可以用来描述许多现象以及微小颗粒的随机运动， 如股市的波动和在化石中的物理特性的演变。 布朗运动是随机模式，即改变了从一 ......
分布式协议详解
目录1. 分布式理论1.1 拜占庭将军问题1.2 CAP理论1.3 BASE理论2. 分布式算法协议3. 分布式事务协议3.1 2PC3.2 3PC3.3 TCC3.4 本地事务表3.5 MQ事务消息3.6 最大努力通知 1. 分布式理论 1.1 拜占庭将军问题 1.2 CAP理论 1.3 BASE ......
hdfs报错：There are 0 datanode(s) running and 0 node(s) are excluded in this operation
namenode的日志还是打印There are 0 datanode(s) running and 0 node(s) are excluded in this operation.吗 报错信息如下所示。其中，【X】是当前正在运行的DataNode数量，【Y】是被排除在此操作之外的DataNode ......
Redis分布式锁
1.分布式锁的方案 分类 方案 原理 优点 缺点 基于数据库 mysql数据库表的唯一索引 1.表创建唯一索引2.加锁：执行insert语句，成功则加锁成功，失败则加锁失败3.解锁：执行delete语句 完全利用DB实现，实现简单 1.锁无超时自动失效机制，有死锁风险2.不支持锁冲入，不支持阻塞等待 ......
分布式系统 9种实现接口幂等性方案
在开发订单系统时，我们常遇见支付问题，既用户购买商品后支付，支付扣款成功，但是返回结果的时候网络异常，此时钱已经扣了，用户再次点击按钮，此时会进行第二次扣款，返回结果成功，用户查询余额发现多扣钱了，流水记录也变成了两条。 在以前的单应用系统中，我们只需要把数据操作放入事务中即可，发生错误立即回滚，但 ......
Redis分布式锁实现方案
2023.12.25 今天和宝宝复盘吵架，宝宝明明错了还不承认，希望她以后能有长进。 Redis的几种数据类型 String 最多存储 512M数据 List set Sorted Set 有序集合 Hashs 哈希 Redis的几种内存淘汰策略 noeviction 内存满了就报错，并执行扩充可用 ......
【国际会议| IEEE出版】首届并行计算与分布式系统国际会议 （PCDS2024）
首届并行计算与分布式系统国际会议（PCDS2024）将于2024年9月21-22日在新加坡及线上同步举办。PCDS旨在为研究人员、学者和行业专业人士提供交流平台，让他们聚在一起讨论并行计算与分布式系统领域的最新进展。 PCDS2024诚邀国内外高校、科研机构专家、学者，企业界人士及其他相关人员参会交 ......
看看 Asp.net core Webapi 项目如何优雅地使用分布式缓存
前言 缓存是提升程序性能必不可少的方法，Asp.net core 支持多级缓存配置，主要有客户端缓存、服务器端缓存，内存缓存和分布式缓存等。其中客户端缓和服务器端缓存在使用上都有比较大的限制，而内存缓和分布式缓存则比较灵活。 分布式缓存是一种用于存储和管理数据的技术，它将数据存储在多个节点上，以实现 ......
Windows电脑上的多开器与分布式存储系统的关系
当今，随着信息技术的不断发展，人们对于计算机性能和存储需求的要求也越来越高。在Windows电脑上，多开器与分布式存储系统之间存在着密切的关系，二者共同构建了一个高效、可靠的计算环境。 首先，让我们来了解一下多开器的概念。多开器是一种软件工具，可以让用户在单台计算机上同时启动多个相同或不同的程序实例 ......
mysql集群模式分析
集群的好处 高可用性：故障检测及迁移，多节点备份。 可伸缩性：新增数据库节点便利，方便扩容。 负载均衡：切换某服务访问某节点，分摊单个节点的数据库压力。 集群要考虑的风险 网络分裂：群集还可能由于网络故障而拆分为多个部分，每部分内的节点相互连接，但各部分之间的节点失去连接。 脑裂：导致数据库节点彼此 ......
Redis 分片集群搭建并使用 RedisTemplate 实现读写分离
上篇博客介绍了 Redis 哨兵集群的搭建，虽然已经解决了 master 在宕机后，与 slave 之间会自动切换的问题，但是其承载的数据量天花板仍然是单机的最大内存容量，无法承载更多的数据量。 本篇博客介绍 Redis 分片集群的搭建，集群内部拥有多个 master 节点，每个 master 存放 ......
Hadoop集群迁移(元数据及HDFS数据）
1.背景 老集群采用的腾讯emr集群，使用过程中磁盘扩容成本费用高且开源组件兼容性存在问题，因此决定采用自建hadoop集群，需要将emr的元数据和hdfs基础数据迁移过来。 EMR版本：3.1.2 自建Hadoop版本：3.1.3 2.集群迁移步骤 2.1 数据迁移 nohup hadoop di ......
集群和服务器的区别
001、服务器（server） 01、服务器是一台独立的计算机或计算机系统（物理设备）， 也可以是虚拟机或容器等虚拟化技术创建的逻辑实体， 用于提供特定的服务或功能。 02、服务器负责处理客户端的请求，并提供所需的服务，如网站托管、数据库存储、文件共享等。 03、服务器通常作为单个实体运行，具有自己 ......
VMware搭建集群环境
集群地址分配 名称 IP 子网掩码 网关 DNS flink01 192.168.22.211 255.255.255.0 192.168.22.2 114.114.114.114 flink02 192.168.22.212 255.255.255.0 192.168.22.2 114.114.1 ......
Redis 哨兵集群搭建并使用 RedisTemplate 实现读写分离
上篇博客介绍的 Redis 主从集群搭建，有一个缺点就是 master 和 slave 的角色是固定的，不会发生变化。一旦 master 节点宕机，那么集群就只能提供读服务，无法提供写服务。本篇博客介绍 Redis 哨兵集群的搭建，可以监控 Redis 集群的 master 和 slave 节点，最 ......
TDSQL集群扩容DB节点
具体步骤见百度云盘：https://pan.baidu.com/s/1zMrjhckI2I4O1G1RzC09uQ 提取码：h5mm。本文档适用于TDSQL(MYSQL版)和TDSQL(PG版)。内容如下： 一、以下步骤在新增机器上面执行：1、检查audit服务（Mysql版本特有）：systemc ......
短视频app开发，集群容错策略的代码分析
短视频app开发，集群容错策略的代码分析 1 Failover Failover故障转移策略作为默认策略，当短视频app开发中的消费发生异常时通过负载均衡策略再选择一个生产者节点进行调用，直到达到重试次数。即使业务代码没有显示重试，也有可能多次执行消费逻辑从而造成重复数据： public class ......
fugue 分布式计算通用接口
fugue提供了通用方便分布式计算的接口，可以高效的访问大数据项目，提供了python，pandas，sql 等模式如下图 从上图可以看出fugue 提供了一个语义层，我们的计算任务可以运行在ray，dask，spark，以及duckdb 中 参考架构 可以看出fugue 提供了不少方便的能力，比如 ......
YARN集群中应用程序的执行流程
Hello，各位“极客”好，上一篇文章中介绍了YARN集群架构的基本内容，那么，在YARN集群中应用程序的执行流程是怎样的呢？这个问题很重要，就要好好说道说道了...... 客户端提交应用程序（可以是MapReduce程序、Spark程序等）到ResourceManager。 ResourceMan ......
k8s集群搭建-2
一、前面做过k8s的集群搭建主要是1.24版本一下的，1.24版本后"弃用docker"改用CRI了。所以这里就之前的集群安装做一下补充。 老版集群地址：https://www.cnblogs.com/ll409546297/p/16718681.html 二、k8s版本选择：docker-ce:2 ......
SAP-DB-服务器组-003-pacemaker集群-在AWS平台里-创建及配置-SAPHanaTopology资源及SAPHana及VIP
关于基础环境的安装，还是可以参考笔者另一篇文章，APP的部分 《SAP-APP-服务器组-001-pacemaker集群的基础环境的安装部署》 https://www.cnblogs.com/5201351/p/17899446.html 1、DB需要多安装 resource-agents-sap- ......