分布式
爬虫最后一天,爬取到的数据存到mysql中，爬虫和下载中间件、加代理、cookie、header、selenium、随机生成uersagent、去重规则源码分析(布隆过滤器)、scrapy-redis实现分布式爬虫、扩展去重规则
==爬到的数据存到mysql中== class FirstscrapyMySqlPipeline: def open_spider(self, spider): print('我开了') self.conn = pymysql.connect( user='root', password="", h ......
分布式事务相关
###1.有遇到分布式事务？ 在RPC远程调用过程中，A调用B服务的接口后，A接口报错，无法回滚B接口的事务，最终造成A事务回滚，B事务没有回滚。 注：在单体架构中，如果存在多数据源，每个数据源都有自己独立的事务管理器，那么这时也会存在多数据源事务管理分布式事务的问题。解决方案：jta+Atomik ......
分布式消息系统RocketMQ
一、RocketMQ简介 Apache RocketMQ是一个采用Java语言开发的分布式的消息系统，由阿里巴巴团队开发，与2016年底贡献给Apache，成为了Apache的一个顶级项目。 在阿里内部，RocketMQ 很好地服务了 集 团大大小小上千个应用，在每年的双十一当天，更有不可思议的万亿 ......
和 chatgpt 聊了一会儿分布式锁 redis/zookeeper distributed lock
前言 最近的 chatGPT 很火爆，听说取代程序员指日可待。 于是和 TA 聊了一会儿分布式锁，我的感受是，超过大部分程序员的水平。 Q1: 谈一谈 java 通过 redis 实现分布式 锁 chatGPT: Java通过Redis实现分布式锁，是在多个Java应用程序之间实现同步的一种方式。通 ......
基于MATLAB的分布式mimo性能仿真,分析能量效率和频谱效率
1.算法描述 基于matlab的协作mimo分布式空时编码技术的仿真,包括规则LDPC级联D-STBC,ML,ZF,DFE均衡,Fincke-Pohst-MAP算法检测。将规则LDPC加入这个协作MIMO的D-STBC里，即是将LDPC码与D-STBC级联，发送端用LDPC编码发送到协作节点，然后协 ......
含分布式电源的33节点配电网matlab模型图，支持matlab2021a版及以上版本运行
含分布式电源的33节点配电网matlab模型图，支持matlab2021a版及以上版本运行，分布式电源可自行修改输出功率以及调整接入配电网节点的位置，联系可附含分布式电源的33节点配电网潮流计算程序以及节点电压图YID:1860675346223268 ......
分布式存储技术（上）：HDFS 与 Ceph的架构原理、特性、优缺点解析
面对企业级数据量，单机容量太小，无法存储海量的数据，这时候就需要用到多台机器存储，并统一管理分布在集群上的文件，这样就形成了分布式文件系统。HDFS是Hadoop下的分布式文件系统技术，Ceph是能处理海量非结构化数据存储的对象存储技术，本文将对他们的架构原理、特性和优缺点做介绍。 — 分布式文件系 ......
MATLAB代码：分布式最优潮流 含分布式光伏的配电网集群划分和集群电压协调控制
MATLAB代码：分布式最优潮流 关键词：网络划分；分布式光伏；集群电压控制；分布式优化；有功缩减 参考文档：《含分布式光伏的配电网集群划分和集群电压协调控制》 仿真平台：MATLAB 主要内容：本文以全局电压的低成本快速控制为目标，提出基于电气距离和区域电压调节能力的集群综合性能指标和网络划分方法 ......
配电网分布式电源和储能选址定容 以配电网总成本最低为目标函数，其中包括年运行成本
配电网分布式电源和储能选址定容 以配电网总成本最低为目标函数，其中包括年运行成本，设备维护折损成本、环境成本；以系统潮流运行为约束条件，采用粒子群算法求解，实现光伏、风电、储能设备的规划。YID:4980674139963843 ......
Rabbit-分布式事务实例 20230406
一、生产、消费者 流程 1、生产者(下单后生产 务必成功) 派单队列:order_platonn_queue 交换机:order_exchange_name 绑交换机路由键:orderRoutingKey 生产者=>采用confirm，确认应答机制 Ack模式:成功 失败则重试 2、消费者(plat ......
分布式技术剖析
随着企业数字化进程的进一步深入，企业为了解决大数据的“4个V”问题，往往需要构建多个不同技术栈的大数据平台，其中不乏会使用到分布式相关的存储、计算、资源管理技术。分布式系统的出现解决了单机系统无法解决的成本、效率和高可用问题。那么什么是分布式技术？如何发展至今？主要包括哪几方面的技术？本文将对分布式 ......
Hadoop完全分布式集群搭建
0 准备工作 首先需要准备三台虚拟机，这里准备的是hadoop1，hadoop1，hadoop3，虚拟机机要求如下： 配置了静态IP。 关闭了防火墙的。 虚拟机下载安装：https://www.cnblogs.com/lgjb/p/17292698.html 1 配置ssh免密登录 配置ssh免密登 ......
分布式与微服务之间的关系
根据设计期的架构思想和运行期的不同结构分为： 面向服务的架构 分布式服务架构 微服务架构 1、面向服务架构。以业务服务的角度和服务总线的方式，一般是webservice与ESB，考虑系统架构和企业IT治理； 2、分布式服务架构。基于去中心化的分布式服务框架与技术，考虑系统架构和服务治理； 3、微服务 ......
新一代分布式任务调度框架
本文已经收录到Github仓库，该仓库包含计算机基础、Java基础、多线程、JVM、数据库、Redis、Spring、Mybatis、SpringMVC、SpringBoot、分布式、微服务、设计模式、架构、校招社招分享等核心知识点，欢迎star~ Github地址 如果访问不了Github，可以访 ......
GFS分布式文件系统
GFS分布式文件系统 1．GlusterFS简介 GlusterFS (Gluster File System) 是一个开源的分布式文件系统，主要由 Z RESEARCH 公司负责开发。GlusterFS 是 Scale-Out 存储解决方案 Gluster 的核心，具有强大的横向扩展能力， 通过扩 ......
DFS分布式文件系统
一、GFS文件系统概述 1．GlusterFS简介GlusterFS 是一个开源的分布式文件系统。由存储服务器、客户端以及NFS/Samba 存储网关（可选，根据需要选择使用）组成。没有元数据服务器组件，这有助于提升整个系统的性能、可靠性和稳定性。MFS传统的分布式文件系统大多通过元服务器来存储元数 ......
2PC 3PC TCC等多种分布式事务解决方案分析对比
前言 本文分析多种分布式事务的解决方案2PC、3PC TCC、可靠消息服务、最大努力通知，事务消息等。讲述其执行流程、优缺点、适用场景以及引文具体实战例子。 名词解释 TM(transaction manager) 事务协调者 RM(resource manager) 资源管理者/事务参与者/业务服 ......
Springboot整合Seata实现分布式事务
前言 Seata 是一款开源的分布式事务解决方案，致力于提供高性能和简单易用的分布式事务服务。Seata 将为用户提供了 AT、TCC、SAGA 和 XA 事务模式，为用户打造一站式的分布式解决方案。 Seata 配置非常灵活，支持多种注册中心、配置来源（配置中心）和持久化方式。本文选择 eurek ......
Springboot整合TX-LCN实现分布式事务
前言 TX-LCN 是一款国产分布式事务协调框架，框架其本身并不操作事务，而是基于对事务的协调从而达到事务一致性的效果。 本文讲解如何使用 Springboot 作为基础，来配置使用 TX-LCN。 需要 MySQL 和 Redis。 名词解释 TM (Tx-Manager / Transactio ......
GFS分布式文件系统
一、文件系统简介1.1文件系统的组成接口：文件系统接口功能模块（管理、存储的工具）：对对象管理里的软件集合对象及属性：（使用此文件系统的消费者）1.2文件系统的作用从系统角度来看，文件系统时对文件存储设备的空间进行组织和分配，负责文件存储并对存入的文件进行保护和检索的系统主要负责为用户建立文件、存入 ......
GFS分布式文件系统
一、文件系统简介1.1文件系统的组成接口：文件系统接口功能模块（管理、存储的工具）：对对象管理里的软件集合对象及属性：（使用此文件系统的消费者）1.2文件系统的作用从系统角度来看，文件系统时对文件存储设备的空间进行组织和分配，负责文件存储并对存入的文件进行保护和检索的系统主要负责为用户建立文件、存入 ......
GFS分布式文件系统
一、GlusterFS 概述 1.1 GlusterFS简介 GlusterFS是一个开源的分布式文件系统。 由存储服务器、客户端以及NFS/Samba存储网关(可选，根据需要选择使用)组成。 没有元数据服务器组件，这有助于提升整个系统的性能、可靠性和稳定性。 传统的分布式文件系统大多通过元服务器来 ......
分布式锁和事务
###1.分布式锁的实现方式？ 1.基于数据库实现 -mysql行锁 2.基于zookeeper -CP模式 3.基于Redis setnx实现 -AP模式 4.Redis框架 Redission，RedisLock 要求：保证一致性 zk实现分布式锁 保证可用性 redis实现分布式锁 2.Zoo ......
jmeter分布式测试安装部署步骤
一、下载linux版本的jdk 注：下载的jdk和jmeter要与window的jdk和jmeter一致 下载地址：https://www.oracle.com/java/technologies/downloads/#java11 二、在虚拟机中使用su root 超级管理员的账号进行操作，在/u ......
Redis 使用Redisson+Rlock实现分布式锁
使用setnx+Lua脚本实现分布式锁会有一个问题：如果操作共享资源的时间大于过期时间，就会出现锁提前过期的问题，进而导致分布式锁直接失效。如果锁的超时时间设置过长，又会影响到性能。 如果操作共享资源的操作还未完成，锁过期时间能够自己续期就好了 对这个问题 Redisson 提供了现成的解决方案。 ......
Jmeter搭建分布式压测环境
最近在做性能测试，本来以为一台压力机就够啦，但是在压测一个查询接口的时候，当TPS达到500多的时候就开始报错，经过定位是压力机出现啦瓶颈，于是决定对压力机做一下分布式，经过调试环境部署成功，再次压测时候问题解决。下面记录一下部署分布式环境的过程。 使用的工具及版本： JDK：1.8.0_211 J ......
分布式系统——分布式ID方案
分布式ID介绍 在分布式系统中，我们经常需要生成全局唯一的标识符，例如订单号，用户id，消息id等。这些标识符通常被称为分布式id。分布式id有以下几个常见的要求： 全局唯一：不同的节点或服务不能生成重复的id。 高性能：生成id的速度要快，不能成为系统的瓶颈。 低延迟：生成id的过程要尽可能简单， ......
分布式系统——并发条件下如何保证缓存与DB数据一致性
什么是数据一致性 我们常说的数据一致性指的是在程序运行过程中本地缓存、分布式缓存、数据库三者之间的数据一致性 常见的本地缓存有 hashmap、currenthashmap、guava cache、caffeine 分布式缓存常见的有 redis、memcache 常见数据不一致常见有： 本地缓存与 ......
分布式系统——基于Redis的分布式锁的实现
分布式锁的介绍 分布式锁是分布式系统中用于协调多个进程或线程之间并发访问共享资源的一种机制。在分布式系统中，由于各个节点之间的通信存在延迟、故障等问题，可能会导致数据的不一致性。为了保证数据的一致性，需要使用分布式锁来协调各个节点的并发访问。 在分布式系统中，多个节点同时访问共享资源可能会导致以下问 ......