分布式 集群hadoop
云计算技术与应用 之 实验六-分布式文件系统算法—MapReduce
实验六-分布式文件系统算法—MapReduce 一、实验目的 掌握 MapReduce 算法的设计与实现。 二、实验原理和内容 1.原理： MapReduce 的核心思想是“分而治之”，也就是把一个大的数据集拆分成多 个小数据集在多台机器上并行处理。 一个大的 MapReduce 作业，首先会被拆分 ......
云计算技术与应用 之 实验 5-分布式文件系统并行编程— Producer-Consumer 模式
实验 5-分布式文件系统并行编程—Producer-Consumer 模式 一、实验目的 掌握并行编程 Producer-Consumer 模式的设计与实现。 二、实验原理和内容 原理： 系统有两类进程协作：Master 进程和 Worker 进程。Master 负责接收和分 配任务，Worker ......
云计算技术与应用 之 实验 4-分布式文件系统并行编程— Master-Worker 模式
实验 4-分布式文件系统并行编程—Master-Worker 模式 一、实验目的 掌握并行编程 Master-Worker 模式的设计与实现。 二、实验原理和内容 原理： 系统有两类进程协作：Master 进程和 Worker 进程。Master 负责接收和分 配任务，Worker 负责处理子任务。 ......
使用 Sealos 一键部署 Kubernetes 集群
Sealos 是一款以 Kubernetes 为内核的云操作系统发行版，使用户能够像使用个人电脑一样简单地使用云。 与此同时，Sealos 还提供一套强大的工具，可以便利地管理整个 Kubernetes 集群的生命周期。 Sealos 不仅可以一键安装一个单节点的 Kubernetes 开发环境，还 ......
开启安全功能 ES 集群就安全了吗？
背景 经常跟 ES 打交道的朋友都知道，现在主流的 ES 集群安全方案是：RBAC + TLS for Internal + HTTPS 。 作为终端用户一般只需要关心用户名和密码就行了。作为管理和运维 ES 的人员来说，可能希望 ES 能提供密码策略来强制密码强度和密码使用周期。遗憾的是 ES 对 ......
建设本地私有集群kubesphere+kubernetes高可用集群服务器
一、资源需求主机名 cpu(vCPUs) 内存(GB) 磁盘 ipk8s-master01 8 32 40G+500G 192.168.1.180k8s-master02 8 32 40G+500G 192.168.1.53k8s-master03 8 32 40G+500G 192.168.1.1 ......
Docker+SEATA+Nacos+SpringBoot实现分布式事务
Docker+SEATA+Nacos+SpringBoot实现分布式事务 1. 服务端 示例SEATA版本：1.6.1 1.1. 配置的创建 docker pull seataio/seata-server:1.6.1 # 这里的运行只是为了获取里面的配置，将配置拿出来到宿主机后进行配置再删除容器再 ......
Config：Spring Cloud分布式配置组件
Config：Spring Cloud分布式配置组件 问题总结 Spring Cloud Config? Spring Cloud Config工作原理？ Spring Cloud Config 的特点？ Config+Bus 实现配置的动态刷新？ 问题答案 Spring Cloud Config ......
[go 面试] 为并发加锁：保障数据一致性（分布式锁）
原创 TimLiu 爱发白日梦的后端 2023-12-01 08:01 发表于广东 爱发白日梦的后端 专注 Go 语言领域的发展，学习成为更牛逼的架构师，日常分享 Go 语言、架构、软件工具的使用。 159篇原创内容 公众号 在单机程序中，当多个线程或协程同时修改全局变量时，为了保障数据一致性，我们 ......
履机乘变，轻舟便楫：源启分布式PaaS深度赋能企业级技术平台建设
导语 源启分布式PaaS平台围绕应用视角为用户提供应用运行的全生命周期管控能力，提供注册中心、服务路由、网关、服务治理等中间件技术支持，实现应用之间的联通，解决客户多厂商产品不兼容、产品组合不可选择、孤岛效应等问题，满足企业级应用集成需要，实现降本增效。 在《洞若观火，明察秋毫：源启一体化监控平台构 ......
云原生周刊：2024 扩展 K8s 集群指南 | 2024.1.2
开源项目推荐 Jib Jib 无需 Docker 守护进程，也无需深入掌握 Docker 最佳实践，即可为您的 Java 应用程序构建优化的 Docker 和 OCI 映像。它可作为 Maven 和 Gradle 的插件以及 Java 库使用。 Docketeer Docketeer 提供了一个简单 ......
尚硅谷-xsync集群分发脚本
1.安装 rsync远程同步工具 apt install -y rsync 2.配置host映射【略】 vi /etc/hosts 3.配置SSH免密登录 使用SSH远程登陆Linux 4.编写xsync集群分发脚本 vi /usr/bin/xsync #! /bin/bash #1 获取输入参数个 ......
中间件 ZK分布式专题与Dubbo微服务入门 1-3 分布式系统的瓶颈以及zk的相关特性
0 课程地址 https://coding.imooc.com/lesson/201.html#mid=12661 1 重点关注 1.1 zk的相关特性 2 课程内容 2.1 zk的相关特性 一致性:数据一致性，数据按照顺序分批入库原子性:事务要么成功要么失败，不会局部化 单一视图:客户端连接集群中 ......
如何使用Redisson实现分布式锁？
在分布式系统中，当多个线程（或进程）同时操作同一个资源时，为了保证数据一致性问题，所以就需要一种机制来确保在同一时间只有一个线程（或进程）能够对资源进行修改，这就是分布式锁的作用。 分布式锁是一种在分布式环境下的锁实现，它允许在多个进程或服务器之间协调对共享资源的访问或操作。分布式锁的关键特性是它能 ......
Zookeeper集群一键启停脚本
1.创建脚本 vi /bin/zk.sh #!/bin/bash if [ $# -lt 1 ] then echo "No Args Input..." exit ; fi case $1 in "start"){ for i in hadoop102 hadoop103 hadoop104 do ......
什么是正态分布?
正态分布（Normal distribution），又名高斯分布（Gaussian distribution），简称正态曲线（Normal curve），是统计学中一种常见的连续概率分布，在许多自然现象中都十分常见。正态分布曲线呈钟形，两头低而中间高，左右对称。正态分布曲线的均值、中位数和众数都重合 ......
分布式ID生成
王富贵 (lmlx66.top) 为什么要用分布式 ID 随着业务数据量的增长，存储在数据库中的数据越来越多，当索引占用的空间超出可用内存大小后，就会通过磁盘索引来查找数据，这样就会极大的降低数据查询速度。如何解决这样的问题呢？一般我们首先通过分库分表来解决，分库分表后就无法使用数据库自增 ID 来 ......
redis集群搭建
集群的目的：解决redis的高可用及高并发 搭建流程： 搭建三主三备集群 1、配置文件修改 2、启动6个服务： 3、集群启动命令（启动前记得开放阿里云端口7001/7006和17001/17006）： redis-cli --cluster create 101.201.100.200:7001 1 ......
ZooKeeper 3.9.1 集群模式安装
准备三台集群节点 1.下载ZooKeeper 3.9.1 https://dlcdn.apache.org/zookeeper/zookeeper-3.9.1/apache-zookeeper-3.9.1-bin.tar.gz 2.安装JDK Linux 安装Openjdk 3.解压 mkdir / ......
论文精读—多智能体算法在无人机集群的运用
导：“在阅读一篇论文后，要对这几个方面有清晰的认识，动机、创新点和实验设计，外加自己对这篇论文有什么想法” 论文解读：本文组织如下:第二节介绍了相关工作，第三节介绍了大规模搜索场景和系统模型，第四节详细介绍了基于marl的无人机群搜索方法，第五节讨论了仿真设置和实验结果，第六节总结了本文。 建模思考 ......
Irwin-Hall 分布
Irwin-Hall 分布 对于 \(n\) 个均匀分布于 \([0,1]\) 的连续随机变量 \(X_1,X_2,\dots,X_n\)，其和的随机变量 \(X\) 满足： \[P(X\le x)=\sum _{k=0}^{\lfloor x\rfloor}(-1)^k\binom nk\frac ......
关于正态分布
目录1.正态分布是什么2.正态分布有什么用途3.如何确定数据服从正态分布 本文简单介绍正态分布的基本概念和用途。 1.正态分布是什么 正态分布，也称为高斯分布，是由德国数学家卡尔·弗里德里希·高斯在研究测量误差时提出的。他发现许多自然现象和统计数据，如人的身高、考试成绩等，其分布形状都呈现出一种特定 ......
分布式系统Dubbo
一、简介 1.Dubbo介绍 Dubbo 是一个高性能的分布式服务框架，由阿里巴巴开发并开源，于2018年捐献给了Apache基金会。它提供了服务治理、负载均衡、容错机制、分布式调用等功能，旨在简化分布式应用开发，提高应用的可扩展性和可维护性。 Dubbo 主要包括以下核心功能： 远程调用： 提供高 ......
Hadoop HA部署
实现Hadoop高可用性部署 Hadoop High Availability（HA）是一种设计模式，用于确保在Hadoop分布式文件系统（HDFS）和资源管理器（ResourceManager）等关键组件中发生故障时，系统能够继续提供服务。HA的目标是减小单点故障对系统可用性的影响，使Hadoop ......
【云原生 | Kubernetes 系列】—K8S部署RocketMQ集群（双主双从+同步模式）
【云原生 | Kubernetes 系列】—K8S部署RocketMQ集群（双主双从+同步模式） 版权 本文为云录原创文章，转载无需和我联系，但请注明来自云录 https://www.yunzhuan.site rocketMQ高可用有很多种方式，比如：单机部署，多主集群，双主双从同步部署，双主双从 ......
Linux安装zookeeper(伪集群)
环境: 系统: Alibaba Cloud Linux 3 (Soaring Falcon) jdk: jdk8 1.下载安装包 zookeeper官网: https://zookeeper.apache.org/releases.html 找到对应版本,这里以稳定版 3.8.3 为例,在节点上下载 ......
分布式架构的监控与指标
为什么需要监控系统 分布式系统需要监控系统的原因有很多，以下是其中一些重要的原因： 确保系统可用性和稳定性：监控系统可以帮助您持续监测系统的性能和可用性。当分布式系统的某些部分出现故障或性能瓶颈时，监控系统可以立即发出警报，以便您能够快速采取行动解决问题，确保系统的稳定性和可用性。 识别和解决性能问 ......
Docker部署系列之Docker Compose安装Redis三主三从集群
总结/朱季谦 在日常开发或者编程当中，经常需要用到redis集群，若是按照传统的方式，一个机器一个机器搭建，难免过于繁琐，故而可以通过dock er-compose编排方式，快速搭建。我在搭建过程当中，将操作记录下来，方便以后需要搭建三主三从节点时，可以基于以前的成功经验，快速搭建起来。 一、环境准 ......
性能测试-JMeter分布式测试及其详细步骤
性能测试概要 性能测试是软件测试中的一种，它可以衡量系统的稳定性、扩展性、可靠性、速度和资源使用。它可以发现性能瓶颈，确保能满足业务需求。很多系统都需要做性能测试，如Web应用、数据库和操作系统等。 性能测试种类非常多，有些概念也很相近： Load Testing Baseline Testing ......