分布式 集群hdfs
CentOS7下搭建LVS_DR集群
环境：CentOS7.9 2009 nginx 1.20.1 1.利用ipvsadm添加虚拟服务 VIP ：192.168.137.200：82 -s ：负载均衡算法采用加权轮询 -p ： 持久化时间20s 2.在虚拟服务中添加真实服务地址 RIP ：192.168.137.13:82 192.16 ......
分布式kv存储系统之etcd集群管理
leader选举过程是这样的；首先candidate向集群其他候选节点（condidate角色的节点）发送投票信息（Request Vote），默认是投票给自己；各候选节点相互收到另外的节点的投票信息，会对比日志是否比自己的更新，如果比自己的更新，则将自己的选票投给目的候选人，并回复一个包含自己最新... ......
Docker-compose 容器集群
一、Docker-compose 简介 Docker-Compose项目是Docker官方的开源项目，负责实现对Docker容器集群的快速编排。 Docker-Compose将所管理的容器分为三层，分别是 工程（project），服务（service）以及容器（container）。Docker-C ......
分布式锁
一、什么是分布式锁？为什么需要分布式锁 锁，是用来保证线程或进程同步的工具，用于控制对共享资源的访问。 分布式锁也是锁的一种。普通的锁（例如Java中的Synchronized和ReentrantLock）无法用在多个进程中，此时就需要分布式锁来控制分布式系统对共享资源的访问。 在Java开发的分布 ......
python自动下载pdf文件—可分布下载=.= 一个demo
代码如下： import io import requests def download_pdf(save_path,pdf_name,pdf_url): send_headers = { "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64 ......
终于有人把openGauss3.0.0分布式原理讲透了，openGauss X ShardingSphere分布式原理和部署
本文为原理精讲，部署文章链接如下 https://www.cnblogs.com/opengauss/p/17364285.html 一、opengauss 的背景和行业现状 2022 年，七大 openGauss 商业版发布，是基于 openGauss3.0 推出商业发行版 目前海量数据库 Vas ......
从分布式共识算法到区块链共识机制
英文原文链接：https://medium.com/datadriveninvestor/from-distributed-consensus-algorithms-to-the-blockchain-consensus-mechanism-75ee036abb65 From Distributed ......
分布式共识如何工作？
英文原文链接：https://medium.com/s/story/lets-take-a-crack-at-understanding-distributed-consensus-dad23d0dc95 How Does Distributed Consensus Work? 区块链技术关键突破概 ......
分布式事务
分布式理论 CAP理论 在一个分布式系统中，一致性（Consistency）、可用性（Availability）、分区容错性（Partition tolerance），这三个要素最多只能同时实现两点，不可能三者兼顾。由于P(分区容错）是必选项，所以只能在AP或者CP中选择。 一致性（Consiste ......
为什么要使用分布式锁（通过redis实现）
如果需要使用到缓存机制，那就存在着这三个问题： * 1、缓存穿透问题：（全部访问redis中不存在的信息），解决方式：在redis中将数据库中没有的数据暂时赋值为null * 2、缓存雪崩问题：（redis中的key在同一时间大幅度的过期），解决方式：在redis中存入数据的时候，传入一个随机值作为 ......
Irwin-Hall 分布学习笔记
定理：Irwin-Hall 分布 对于 $n$ 个在 $[0,1]$ 内均匀分布的实数随机变量，它们的和不超过一个实数 $z$ 的概率为： $$ F(z)=\sum\limits_{k=0}^{\lfloor z\rfloor} (-1)^k\binom{n}{k}\frac{(z-k)^n}{n! ......
云原生第一周--ubuntu2204使用containerd容器和kubeadm工具部署单master k8s集群
1 Kubernetes介绍 Kubernetes 是一个可移植、可扩展的开源平台，用于管理容器化的工作负载和服务，可促进声明式配置和自动化。 Kubernetes 拥有一个庞大且快速增长的生态，其服务、支持和工具的使用范围相当广泛。 Kubernetes它能做什么 服务发现和负载均衡 Kubern ......
云原生第二周--使用kubeasz部署多master的k8s集群
1 k8s集群介绍 1.1 k8s单master架构 [ ] 单master节点的架构，通常只用于测试环境，生产环境绝对不允许；这是因为k8s集群master的节点是单点，一旦master节点宕机，将导致整个集群不可用；其次单master节点apiServer是性能瓶颈；从上图我们就可以看到，mas ......
Kubernetes从入门到精通 集群测试
1 创建一个nginx服务 kubectl create deployment nginx --image=nginx:1.14-alpine 2 暴露端口 kubectl expose deploy nginx --port=80 --target-port=80 --type=NodePort ......
openGauss单机+主从集群部署_万能场景安装_搭建_适用所有场景_openGauss3.0.0_openGauss课程
一、opengauss 的背景和行业现状 2022 年，七大 openGauss 商业版发布，是基于 openGauss3.0 推出商业发行版 目前海量数据库 Vastbase 表现最佳，一直是 TOP 1 作者认为之所以海量数据库 Vastbase 目前无法被同行超越，和各家研发实力和技术背景有关 ......
redis分布式锁
加锁 1 判断锁是否被占用,没有则获取锁(hset/hincrby)并设置过期时间(expire) 2 如果锁被占用,则判断是否是当前线程占用,如果是则重入(hincrby)并重置过期时间 3 否则获取锁失败 释放锁 1 判断自己的锁是否存在(hexists),不存在返回nil 2 如果存在则减1( ......
分布式调度XXL-JOB
#1. Spring提供的定时任务调度SpringTask Spring3.0以后自主开发的定时任务工具，spring task，可以将它比作一个轻量级的Quartz，而且使用起来很简单，除spring相关的包外不需要额外的包，而且支持注解和配置文件两种形式。 视频教程：https://www.bi ......
使用nginx搭建3台Tomcat集群
#配置上游服务器 upstream tomcats { server 192.168.206.129:8080; server 192.168.206.130:8080; server 192.168.206.131:8080; } server { listen 612; server_name ......
Hadoop集群运行
1. 实验一：hadoop 集群运行 实验任务一：配置 Hadoop 格式化 步骤一：NameNode 格式化 [root@master ~]# su - hadoop [hadoop@master ~]$ cd /usr/local/src/hadoop/ 结果： [hadoop@master ~ ......
Hadoop全分布配置
1.实验一：hadoop 全分布配置 1.1. 实验目的 完成本实验，您应该能够： 掌握 hadoop 全分布的配置 掌握 hadoop 全分布的安装 掌握 hadoop 配置文件的参数意义 1.2. 实验要求 熟悉 hadoop 全分布的安装 了解 hadoop 配置文件的意义 1.3. 实验环境 ......
Kubernetes从入门到精通 集群安装
kubernetes集群安装 一 准备集群镜像从阿里云镜像仓库拉镜像 标签改名 # 在安装kubernetes集群之前，必须要提前准备好集群需要的镜像，所需镜像可以通过下面命令查看 [root@master ~]# kubeadm config images list # 下载镜像 # 此镜像kub ......
文章学习：TPRE：分布式门限代理重加密
学习文章：TPRE：分布式门限代理重加密 前言 成方金科新技术实验室与隐语团队合作，构建了“基于国密的分布式门限代理重加密算法TPRE”，为用户提供了一种安全、高效、自主可控的数据共享和授权管理方案。在数据隐私保护和数据安全共享方面具有广泛的应用前景。 ⚠️：该算法由成方金科密码学研究员张曙光（知乎 ......
Kubernetes从入门到精通 集群安装准备工作
一、准备环境 master01 192.168.117.100 docker，kubectl，kubeadm，kubelet node01 192.168.117.101 docker，kubectl，kubeadm，kubelet node02 192.168.117.102 docker，kub ......
openGauss分布式安装_搭建_快速部署openGauss3.0.0分布式（openGauss课程）
一、opengauss 的背景和行业现状 2022 年，七大 openGauss 商业版发布，是基于 openGauss3.0 推出商业发行版 目前海量数据库 Vastbase 表现最佳，一直是 TOP 1 作者认为之所以海量数据库 Vastbase 目前无法被同行超越，和各家研发实力和技术背景有关 ......
二、分布式基础概念--谷粒商城
1.微服务服务架构风格，就像是把一个单独的应用程序开发为一套小服务，每个小服务运行在自己的进程中，并使用轻量级机制通信，通常是HTTP API。这些服务围绕业务能力来构建，并通过完全自动化部署机制来独立部署。这些服务使用不同的编程语言书写，以及不同数据存储技术，并保持最低限度的集中式管理简而言之：拒 ......
SequoiaDB分布式数据库2023.4月刊
本月看点速览 赋能产业升级，荣获新睿之星 聚焦金融，进一步探索非结构化数据价值释放 再获肯定，入选2023年中国最佳信创厂商入围名单 青杉计划2023已开启，一起攀登更高的“杉” 赋能产业升级，荣获新睿之星 4月18日，2023年第九届广州国际投资年会在广州白云国际会议中心成功举办。会中，南沙为涵盖 ......
Cloud集群模式XXL-job开启自动注册执行器
在微服务架构下，传统的spring task、Quartz已经不再推荐使用， 在数据与业务增长的同时，定时任务处理数据是避免不了的，抛开单节点不谈，集群服务如果想要执行以往的定时任务最简单粗暴的方式就是使用分布式锁来保证唯一性，但是由于不可控原因，可能在执行任务期间所以压力集中到其中一个节点，所以这 ......
Cobar使用文档（可用作MySQL大型集群解决方案）
Cobar使用文档（可用作MySQL大型集群解决方案） 2014-06-17 1514举报 简介： 原文：http://blog.csdn.net/shagoo/article/details/8191346 项目已经迁移到Git上面，地址为：https://github.com/alibaba/c ......
.NET开源分布式锁DistributedLock
一、线程锁和分布式锁 线程锁通常在单个进程中使用，以防止多个线程同时访问共享资源。 在我们.NET中常见的线程锁有： 自旋锁：当线程尝试获取锁时，它会重复执行一些简单的指令，直到锁可用 互斥锁: Mutex，可以跨进程使用。Mutex 类定义了一个互斥体对象，可以使用 WaitOne() 方法等待对 ......