分布式 体系
Redis分布式锁篇
18、什么是分布式锁？ 概述：在分布式系统中，多个线程访问共享数据就会出现数据安全性的问题。而由于jdk中的锁要求多个线程在同一个jvm中，因此在分布式系统中无法使 用jdk中的锁保证数据的安全性，那么此时就需要使用分布式锁。 作用：可以保证在分布式系统中多个线程访问共享数据时数据的安全性 举例： ......
分布式事务解决方案
参考：https://blog.csdn.net/a745233700/article/details/122402303 一、2PC： 2PC，两阶段提交，将事务的提交过程分为资源准备和资源提交两个阶段，并且由事务协调者来协调所有事务参与者，如果准备阶段所有事务参与者都预留资源成功，则进行第二阶段 ......
最强分布式搜索引擎——ElasticSearch
最强分布式搜索引擎——ElasticSearch 本篇我们将会介绍到一种特殊的类似数据库存储机制的搜索引擎工具——ES elasticsearch是一款非常强大的开源搜索引擎，具备非常多强大功能，可以帮助我们从海量数据中快速找到需要的内容 我们会从下面几个角度来讲解ElasticSearch： ES ......
伯努利分布及衍生分布、随机游走
伯努利实验 伯努利实验概念及性质 定义：事件域为：$\mathcal F = { \varnothing ,A,\bar A,\Omega }$，只两种可能结果的试验称为伯努利实验。 现考虑重复n次独立试验的伯努利实验（这里每个$A$概率不变），这种实验称之为n重伯努利实验，记为$E^n$。 其样本 ......
分布式版本控制系统——Git 常用指令
分布式版本控制系统——Git 常用指令 一、Git优缺点 缺点：占用磁盘空间较大 优点：版本切换时非常快，因为每个版本都是完整的文件快照，切换版本时直接恢复目标版本的快照即可 特点：空间换时间 二、GIt中的三个区域 使用Git管理的项目，拥有三个区域，分别是工作区、暂存区、Git仓库 三、中的三种 ......
计算机网络体系结构
OSI七层模型与TCP/IP四层模型 计算机网络体系结构 OSI最大贡献就是精确定义了：服务、协议和接口，与面向对象程序设计思想十分吻合。TCP/IP模型没有明显区分它们。 TCP/IP模式是对已有协议的描述，不适用于任何其他非TCP/IP协议栈。 TCP/IP在设计时考虑了多种异构网络的互联问题， ......
分布式锁
参考：https://www.cnblogs.com/wangyingshuo/p/14510524.html 介绍 多线程环境下控制对共享资源的访问以保证数据一致性。 特点：跨进程、跨服务、跨服务器 互斥性 ——任意时刻，只有一个客户持有锁 超时释放——持有锁超时，可以释放，防止死锁 可重入——一 ......
云原生K8S精选的分布式可靠的键值存储etcd原理和实践
今天再下一个Go语言编写分布式键值存储的云原生组件ectd，了解其定义理、应用场景和特性，熟悉其整体架构和常用术语，进一步研究其读写和日志复制的原理，最后完整部署单示例和多实例集群和介绍一些常见命令。 ......
JMeter+Jenkins分布式压测持续集成
Jenkins job配置 参数化构建 运行分布式shell脚本：sh ... 生成测试报告 配置生成html测试报告，需要安装插件 HTML Publisher JMeter 性能脚本 编写jmeter脚本/自定义Java脚本，脚本参数化，并且可带参数命令行执行 自定义Java脚本 jmeter脚 ......
docker搭建普罗米修斯监控体系(prometheus)
prometheus:普罗米修斯适用于监控docker容器，可以监控的对象有虚拟机、数据库、队列等。 普罗米修斯监控原理：主节点负责拉取并汇总各应用节点监控数据，各应用节点负责监控数据，grafana为普罗米修斯提供丰富的图形化界面展示，两者结合使用 1）主节点服务：prometheus,不负责监控 ......
7-springboot-多数据源事务管理-jta+atomikos的分布式事务
jta+atomikos的分布式事务 <!--jta+atomikos分布式事务--><dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-jta-atomikos</arti ......
Kubernetes集群Kubernetes实战与源码剖析体系进阶
Kubernetes集群Kubernetes实战与源码剖析体系进阶 学习路线指南 欢迎大家来到jiangxl~的《Kubernetes集群方方面面进阶之路》专栏，本文给大家详细列出Kubernetes集群方方面面每一章节文章指南，大家可以根据自己的需求阅读想要学习的文章。 本专栏涵盖Kubernet ......
爬取的数据，存到mysql中、爬虫和下载中间件、加代理，cookie，header，加入selenium、去重规则源码分析（布隆过滤器）、scrapy-redis实现分布式爬虫
# 1 scrapy架构 -爬虫：写的一个个类 -引擎： -调度器：排队，去重 -下载器 -pipline -下载中间件 -爬虫中间件 # 2 命令 -scrapy startproject 项目名 -scrapy gensipder 爬虫名 网址 -scrapy crawl 爬虫名字 -run.p ......
0 爬取的数据，存到mysql中 、1 爬虫和下载中间件、 2 加代理，cookie，header，加入selenium、3 去重规则源码分析（布隆过滤器） 、4 scrapy-redis实现分布式爬虫
0 爬取的数据，存到mysql中 # 存到mysql中 class FirstscrapyMySqlPipeline: def open_spider(self, spider): print('我开了') self.conn = pymysql.connect( user='root', pass ......
质量体系描述
质量体系是指企业或组织内部的一些列规则、标准和流程，勇于确保其产品或服务达到一定的质量标准。它包括质量管理的各个方面，如质量策划、质量控制、质量保证、质量改进等。 质量依稀一般由一些列文件、程序、标准和指南等构成，其中最为重要的是质量手册、程序文件和记录文件。 质量体系的建立和实施可以提高产品和服务 ......
Solon2 接口开发: 分布式 Api Gateway 开发预览
建议使用专业的分布式网关产品，比如： nginx apisix [推荐] k8s ingress controller 等... 对 Solon 来讲，只有 Gateway：它调用本地接口时，则为本地网关；调用远程接口时，则为分布式网关。 1、一个简单的分布式接口网关效果预览 基于上一节的 ApiG ......
分布式锁的实现
多线程对同一资源的竞争，需要用到锁，例如Java自带的Synchronized、ReentrantLock。但只能用于单机系统中，如果涉及到分布式环境（多机器）的资源竞争，则需要分布式锁。分布式锁的主要作用： 保证数据的正确性： 比如：秒杀的时候防止商品超卖，表单重复提交，接口幂等性。 避免重复处理 ......
django 使用django-bootstrap4插件时，使表单呈2列或其他列分布时的写法
前言 django 使用django-bootstrap4插件时，使表单呈2列或其他列分布时的写法。 在django-bootstrap4中没有内置的方法设置表单内容成几列分布，这里采用bootstrap4的栅格布局实现效果 具体操作 forms.py class RegisterForm(User ......
分布式理论
一、分布式理论 1.CAP理论 CAP理论是说对于分布式数据存储，最多只能同时满足一致性（C，Consistency）、可用性（A， Availability）、分区容忍性（P，Partition Tolerance）中的两者。 1.一致性 是指对于每一次读操作，都能够读到最新写入的数据，且每个节点 ......
构建高效的容量保障体系
转载：https://www.cnblogs.com/imyalost/p/16991100.html 之前写过性能测试体系建设、质量保障机制构建的文章，最近重读有一些新的感触。 性能测试体系建设的内容偏向技术实践，质量保障机制构建的文章又类似方法论，中间存在一定Gap。 或者说在方法论和技术实践之 ......
传统企业，如何构建性能测试技术体系
转载：https://www.cnblogs.com/imyalost/category/848600.html 之前有朋友介绍，帮一家知名的美妆零售企业，做过一次技术咨询，给我的个人感触还是比较大的。 可能是我在互联网企业工作的比较久，已经习惯了尝试新鲜技术和方法，通过快速的工程实践去落地解决问题 ......
第一章 计算机组成及体系结构
1、数据表示 R进制转换为10进制要用按权展开法 当除到这个余数小于R为止，所有的余数从下往上倒着写 十进制有十个基数0~9，逢十进一 二进制有两个基数0~1，逢二进一 八进制有八个基数0~7，逢八进一 八进制基数的表示范围是 0（000）~7（111），所以每三位二进制代表一位八进制 原码：一共八 ......
C++ 迪利克雷（Dirichlet）分布
遇到一个要使用 dirichlet 分布的情形，发现 C++ 标准库中没有现成的。查阅维基百科发现，虽然它挺复杂，但是它跟 Gamma 分布有如下关系： 设有 K 个相互独立且分别满足 Gamma 分布的分布： $$Y_1 \sim Gamma(\alpha_1, \theta), ..., Y_K ......
分布式协议与算法实战 - 分布式算法 gossip QuorumNWR PBFT ZAB
Gossip 二阶段提交协议和Raft需要大部分节点能够工作，在极端情况，如只有一个节点能正常运行，这些方法就不适用了。根据Base理论要实现最终一致性。 Gossip协议利用一种随机、带有传染性的方式，将信息传播到网络中，并在一定时间内使所有节点数据一致。 直接邮寄（Direct Mail）：直接 ......
docker-selenium分布式环境搭建（基于selenium的grid分布式框架）
说明：docker-selenium分布式是基于selenium的grid分布式框架进行搭建 以下是docker-selenium分布式网络拓扑图： 从图中可以看出： 1）docker-selenium可以用作浏览器兼容性测试； 2）docker-selenium分布式，可以提高测试用例的执行效率， ......
Redis实现分布式锁
Redis实现分布式锁 前言 分布式锁的实现有三种方式 数据库乐观锁 基于Redis的分布式锁 基于Zookeeper的分布式锁 分布式锁满足的条件 为了确保分布式锁可用，我们至少要保证锁的实现同时满足以下几个条件 互斥性：在任意时刻只有一个客户端能持有锁 不会死锁：即使有一个客户端在持有锁的期间发 ......
分布式ID生成-雪花算法(Snowflake)
1 描述 使用原生Java方式生成雪花算法, 雪花算法是推特公司开源的生成唯一ID的算法, 性能更高，可以避免对第三方依赖的使用, 减少耦合 1）能满足高并发分布式系统环境下ID不重复 2）基于时间戳，可以保证基本有序递增，即按照时间趋势递增（有些业务场景对这个有要求） 3）算法本身不依赖第三方的库 ......