分布式
分布式限流——基于Redis的Lua脚本限流实现
分布式限流 当你的应用分布式部署出现对等端（peer）时，单机的限流往往不能满足对下游保护的作用，因为它仅仅是jvm内存层面的流量控制。这个时候自然而然会想到用一些跨JVM的分布式中间件控制在单位时间窗口内的请求是否通行，本文我们将探讨如何借助Redis实现分布式限流。 1 固定窗口限流 前文已经介 ......
分布式代码执行分析
SparkContext对象的构建 以及 Spark程序的退出, 由 Driver 负责执行 具体的数据处理步骤, 由Executor在执行. 其实简单来说就是: 非数据处理的部分由Driver工作 数据处理的部分(干活)由Executor工作 要知道: Executor不仅仅是一个, 视集群规模, ......
.net core分布式定时任务调度系统
分布式任务调度平台XXL-JOB与.net core分布式定时任务调度系统 .net core分布式定时任务调度系统前端：java web 后端：.net core3.1数据库：mysql，sqlserver 来源 银柱网 http://www.liyinzhu.com ......
分布式缓存的实现和使用
1.前言 什么是分布式缓存？ 分布式缓存是指将缓存数据存储在多个节点（通常是不同的计算机或服务器）上，以提高系统性能和可伸缩性。这种缓存方式允许应用程序通过从缓存中读取数据而不是从数据库或其他存储中读取来提高读取操作的速度。分布式缓存通常用于大规模的分布式系统，其中需要快速的数据访问，而传统的数据库 ......
开源：Taurus.DTC 微服务分布式事务框架，支持 .Net 和 .Net Core 双系列版本
在经过1年多的深思，十几年的框架编写技术沉淀下，花了近一个月的时间，终于又为 .Net 及 .Net Core 的微服务系列框架贡献当中的一个重要组件。原本的设计是作为 Taurus.Mvc 微服务系列中的一个插件，单独内部集成使用，后来想了想，还是在设计中独立了出来，支持在任意 Mvc 框架中使用... ......
Java中单体应用锁的局限性&分布式锁
互联网系统架构的演进 在互联网系统发展之初，系统比较简单，消耗资源小，用户访问量也比较少，我们只部署一个Tomcat应用就可以满足需求。系统架构图如下: 一个Tomcat可以看作是一个JVM进程，当大量的请求并发到达系统时，所有的请求都落在这唯一的一个Tomcat上，如果某些请求方法是需要加锁的，比 ......
一键构建分布式云原生平台
http://wed.xjx100.cn/news/90673.html 目录 专栏导读 一、分布式云原生平台 1、应用无所不能 2、运行无处不在 3、服务千行白业 二、分布式云原生平台关键要素 1、统一应用管理 2、统一流量自治 3、统一数据管理 4、统一运维 三、多云多集群已经广泛应用 四、分布 ......
中间件 ZK分布式专题与Dubbo微服务入门 5-1 集群的一些基本概念
0 课程地址 https://coding.imooc.com/lesson/201.html#mid=12714 1 重点关注 1.1 ACL命令行 getAcl:获取某个节点的acl权眼信息setAcl:设置某个节点的acl权限信息addauth:输入认证授权信息，注册时输入明文察码(登录 但是 ......
redis分布式锁学习
redis分布式锁 原理是通过setnx命令 setnx key value 如果key不存在 则设置value,如果存在则不做操作 jedis clientId = uuid; 1、stringRedisTemplate.opsForValue.setIfAbsent(lockKey,client ......
分布式机器学习的故事：Docker改变世界
分布式机器学习的故事：Docker改变世界 Docker最近很火。Docker实现了“集装箱”——一种介于“软件包”和“虚拟机”之间的概念——并被寄予厚望，以期革新Internet服务以及其他大数据处理系统的开发、测试、和部署流程。 为了使用Docker，需要了解不少工具及其设计思路；而这些工具的文 ......
中间件 ZK分布式专题与Dubbo微服务入门 4-8 权限acl详解，acl的构成-scheme与id
0 课程地址 https://coding.imooc.com/lesson/201.html#mid=12704 1 重点关注 1.1 权限的构成 权限字符串缩写 crdwa CREATE:创建子节点 READ:获取节点/子节点 WRITE:设置节点数据 DELETE:删除子节点 ADMIN:设置 ......
中间件 ZK分布式专题与Dubbo微服务入门 4-9 acl的构成-permissions
0 课程地址 https://coding.imooc.com/lesson/201.html#mid=12705 1 重点关注 1.1 权限的构成 权限字符串缩写 crdwa CREATE:创建子节点 READ:获取节点/子节点 WRITE:设置节点数据 DELETE:删除子节点 ADMIN:设置 ......
中间件 ZK分布式专题与Dubbo微服务入门 4-6 子节点watcher事件
0 课程地址 https://coding.imooc.com/lesson/201.html#mid=12702 1 重点关注 1.1 子节点如何添加watch stat /imooc watch 不存在的节点，可以用该命令，多用于新增 get /imooc watch 修改删除节点，子节点增删等 ......
作业2 分布式文件系统HDFS
一. 单选题（共10题，20分） 1. (单选题, 2分)分布式文件系统指的是什么？ A. 把文件分布存储到多个计算机节点上，成千上万的计算机节点构成计算机集群 B.用于在Hadoop与传统数据库之间进行数据传递 C. 一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统 D. 一种高吞吐 ......
作业3 分布式数据库HBase
一. 单选题（共7题，14分） 1. (单选题, 2分)下列选项中，关于HBase和BigTable的底层技术对应关系，哪个是错误的？ A. GFS与HDFS相对应 B. MapReduce与Hadoop MapReduce相对应 C. GFS与Zookeeper相对应 D. Chubby与Zook ......
中间件 ZK分布式专题与Dubbo微服务入门 4-5 set与delete命令的使用
0 课程地址 https://coding.imooc.com/lesson/201.html#mid=12701 1 重点关注 1.1 如何添加watch stat /imooc watch 不存在的节点，可以用该命令，多用于新增 get /imooc watch 修改删除节点等，可以用该命令 z ......
面试官：分布式锁最终解决方案是RedLock吗？为什么？
RedLock 是 Redis 分布式锁的一种实现方案，由 Redis 的作者 Salvatore Sanfilippo 提出。 RedLock 算法旨在解决单个 Redis 实例作为分布式锁时可能出现的单点故障问题，通过在多个独立运行的 Redis 实例上同时获取锁的方式来提高锁服务的可用性和安全 ......
中间件 ZK分布式专题与Dubbo微服务入门 4-3 set与delete命令的使用
0 课程地址 https://coding.imooc.com/lesson/201.html#mid=12699 1 重点关注 1.1 zk常用命令行 修改 不带版本号 启动zk服务端和客户端（必须启动客户端，不然set和get命令没有） ./zkServer.sh start ./zkCli.s ......
MySQL - 分布式部署&主从复制&读写分离
Step1：基础环境准备 虚拟机环境：VMware workstation 服务器信息： 主机名 IP 操作系统 node01 192.168.1.131 CentOS Linux release 7.9.2009 (Core) node02 192.168.1.132 CentOS Linux r ......
使用docker搭建deepspeed多机多卡分布式微调大模型环境
前置环境：两台可以互通的centos服务器（服务器1、服务器2），docker，NVIDIA驱动 docker创建overlay共享网络 1）选用服务器1作为manage节点进行初始化，执行docker swarm init Swarm initialized: current node (ly4d ......
中间件 ZK分布式专题与Dubbo微服务入门 4-2 session的基本原理与create命令的使用
0 课程地址 https://coding.imooc.com/lesson/201.html#mid=12697 1 重点关注 1.1 watcher常用使用场景 集群中统一资源配置 2 课程内容 3 Coding ......
分布式事务管理
南航航班号sno，日期sdate，国航航班号zno，日期zdate，姓名uname，身份证号uid，用户账号uno，电商账号bno 根代理ROOT begin transcation; input(sno, sdate, zno, zdate, uname, uid, uno, bno)； EXEC ......
中间件 ZK分布式专题与Dubbo微服务入门 4-7 watcher常用使用场景
0 课程地址 https://coding.imooc.com/lesson/201.html#mid=12703 1 重点关注 1.1 watcher常用使用场景 集群中统一资源配置 2 课程内容 3 Coding ......
中间件 ZK分布式专题与Dubbo微服务入门 4-4 理解watcher机制
0 课程地址 https://coding.imooc.com/lesson/201.html#mid=12700 1 重点关注 1.1 理解watcher机制 针对每个节点的操作，都会有一个监督者 wathcer 当监控的某个对象 ( znode) 发生了变化，则触发watcher事件 zk中的w ......
分布式架构设计思路和要点
分布式架构设计 设计分布式架构时，需要考虑以下几个关键思路和要点： 弹性和可伸缩性：分布式架构应具备弹性和可伸缩性，能够根据负载情况自动调整资源分配。这可以通过采用水平扩展和自动化调度等技术实现。 容错和高可用性：分布式系统应具备容错和高可用性能力，即使部分组件或节点发生故障，整个系统仍能正常运行。 ......
分布式锁
分布式锁 在多线程环境中，如果多个线程同时访问共享资源（例如商品库存、外卖订单），会发生数据竞争，可能会导致出现脏数据或者系统问题，威胁到程序的正常运行。 为什么需要分布式锁? 举个例子，假设现在有 100 个用户参与某个限时秒杀活动，每位用户限购 1 件商品，且商品的数量只有 3 个。如果不对共享 ......
太强了！全新一代分布式任务调度与计算框架！
PowerJob（原 OhMyScheduler） —— 全新一代分布式调度与计算框架，能让您轻松完成作业的调度与繁杂任务的分布式计算。 ......
分布式存储ceph——（6）ceph osd故障硬盘更换
故障状态： 实施更换步骤： （1）关闭ceph集群数据迁移： osd硬盘故障，状态变为down。在经过mod osd down out interval 设定的时间间隔后，ceph将其标记为out，并开始进行数据迁移恢复。为了降低ceph进行数据恢复或scrub等操作对性能的影响，可以先将其暂时关闭 ......
分布式存储ceph——（5）ceph 添加/删除osd
一、添加osd： 当前ceph集群中有如下osd，现在准备新添加osd： （1）选择一个osd节点，添加好新的硬盘： （2）显示osd节点中的硬盘，并重置新的osd硬盘： 列出节点磁盘：ceph-deploy disk list rab1 擦净节点磁盘：ceph-deploy disk zap ra ......
分布式存储ceph——（4）ceph常用命令
1、查看ceph集群配置信息 1 ceph daemon /var/run/ceph/ceph-mon.$(hostname -s).asok config show 2、在部署节点修改了ceph.conf文件，将新配置推送至全部的ceph节点 1 ceph-deploy --overwrite-c ......