分布式 理论
Redis之分布式锁
前言 日常开发中，秒杀下单、抢红包等等业务场景，都需要用到分布式锁。而Redis非常适合作为分布式锁使用。 什么是分布式锁 方案一：SETNX + EXPIRE 方案二：SETNX + value值是（系统时间+过期时间） 方案三：使用Lua脚本(包含SETNX + EXPIRE两条指令) 方案四： ......
分布式核心
1. CAP理论 cap理论是分布式系统的理论基石 Consistency (一致性)： “all nodes see the same data at the same time”,即更新操作成功并返回客户端后，所有节点在同一时间的数据完全一致，这就是分布式的一致性。一致性的问题在并发系统中不可避 ......
Hadoop学习(一) 搭建伪分布式集群
文章结构 1.准备工作 1.1 配置IP 1.2 关闭防火墙 1.3 修改主机名并与IP绑定 1.4 创建新用户 1.5 配置免密匙 2.安装并配置Hadoop伪分布式集群 2.1 安装Java 2.2 安装配置Hadoop伪分布式集群 1.准备工作 1.1 配置IP 首先进入该路径下 cd /et ......
Apache Kylin4 分布式的分析型数据仓库
https://kylin.apache.org/cn/docs/index.html Apache Kylin4 概述 欢迎来到 Apache Kylin™ Analytical Data Warehouse for Big Data Apache Kylin™是一个开源的、分布式的分析型数据仓库 ......
独立同分布
"独立同分布" 是统计学和机器学习中一个重要的概念。让我们更详细地探讨这个概念的含义： 独立性（Independence）： 独立性的意义： 当我们说随机变量是独立的时，意味着一个随机变量的取值不会提供关于另一个随机变量取值的任何信息。换句话说，知道一个随机变量的取值并不会改变对另一个随机变量的预测 ......
SignalR 分布式部署
分布式部署意味着有多台SignalR服务器，一台服务器有多个客户端连接。 SignalR 要求对于某一个特定连接的所有HTTP 请求都需要被一个相同服务进程处理，当SignalR 运行在一个服务场时（多个服务器），则必须使用“粘性会话”（服务器开启）或者”跳过协商“（用websocket） 问题：某 ......
一、如何构建一个可靠的分布式系统？
构师如何才能让一系列来自不同开发者、不同厂商、不同版本、不同语言、质量也良莠不齐的软件模块，在不同的物理硬件和拓扑结构随时变动的网络环境中，依然能保证可靠的运行质量。 我一直认为，技术人员的成长是有“捷径”的，做技术不仅要去看、去读、去想、去用，更要去写、去说。 把自己“认为掌握了的”知识给叙述出来 ......
分布式应用服务的拆分
需求落地分布式应用服务 将需求转化为分布式应用服务的过程可以按照以下步骤进行： 理解需求：首先，你需要仔细阅读和理解业务需求。与相关的利益相关者（如业务分析师、产品经理等）进行沟通，确保你对需求的理解是准确的。 设计架构：根据需求，设计一个适合的分布式应用架构。这包括确定应用的组件和模块，以及它们之 ......
性能理论-软件性能的基本指标（三）
性能测试指标细分为业务指标、资源指标、应用指标、前端指标。 业务指标 并发用户数、TPS（系统每秒处理事务数）、成功率、响应时间 资源指标 CPU 资源利用率、内存利用率、I/O 应用指标 空闲线程数、数据库连接数、GC/FULL GC 次数、函数耗时等。 前端指标 页面加载时间，网络时间（DNS， ......
性能理论-软件性能测试的目标（五）
软件性能测试的目标是验证软件系统是否能够达到用户提出的性能指标，同时发现软件系统中存在的性能瓶颈，优化软件，最终起到优化系统的目的。 软件性能测试包括以下几个方面的内容。 评估系统的能力 测试中得到的负荷和响应时间数据可以被用于验证所计划的模型的能力，并帮助作出决策。 识别体系中的弱点 受控的负荷可 ......
性能理论-软件性能测试方法论（四）
软件性能测试方法论 性能测试方法主要包括 SEI 负载测试计划过程和 RBI 方法。 1. SEI 负载测试计划过程 SEI 负载测试计划过程（SEI Load Testing Planning Process）是一个关注于负载测试计划的方法，其目标是产生清晰、易理解、可验证的负载测试计划。SEI ......
性能理论-性能测试类型（二）
性能测试类型 对于性能测试的分类，业界有很多标准，而对每个类型的诠释也有一些差别。 从狭义来看，性能测试主要用于描述常规的性能测试，是指通过模拟生产运行的业务压力或用户使用场景来测试系统的性能是否满足生产性能的要求。 从广义来看，性能测试则是压力测试、负载测试、强度测试、容量测试、大数据量测试、基准 ......
Redisson分布式锁的实现
分布式锁 在多线程环境下，如果多个线程同时访问共享资源（数据库），往往会发生数据竞争。要想在某一线程访问资源时，令其他线程阻塞等待，就需要使用分布式锁，确保共享资源同时只有一个线程访问。 实现思路： 向Redis中插入同一key： A插入key，如果成功则获取到锁，B再来插入式发现key已经存在了， ......
云原生雪花改进型分布式id服务
1，概述 一个基于雪花改进型分布式id基础服务 demo地址：http://uid.activeclub.site/web/v1/uuid/get 1.1，入参样例： 请求路径：GET http://{url}:{port}/web/uuid/get 入参说明： 类目 字段名 说明 url 对外暴露 ......
GJK算法理论
原理 GJK算法的核心就是闵可夫斯基差，即若两个多边形相交，则它们的闵可夫斯基差必然包括原点。 闵可夫斯基差 用多边形A的所有点，减去多边形B中所有的点得到的一个点集合（是点之间两两相减后得到的集合，而不是做集合的差集）。A–B = {a–b∣a ∈ A, b ∈ B} 在碰撞检测中，不会用到完整的 ......
【交换机、路由器、双码流、分布式、VKM的基本概念学习】
分布式节点： 分布式就是把传统的音视频设备矩阵切换器、拼接处理器、录播系统、KVM切换器、中央控制系统等这些设备的功能打包成一个等于X功能的节点，然后每个信号输入输出的区域，布置一个这样的X节点，在通过一条网线接到交换机，实现上述的各种功能。 可视化： 可视化是利用图像传输和处理技术，让用户能够直观 ......
HarmonyOS分布式文件系统开发指导
分布式文件系统概述 分布式文件系统（hmdfs，HarmonyOS Distributed File System）提供跨设备的文件访问能力，适用于如下场景： ● 两台设备组网，用户可以利用一台设备上的编辑软件编辑另外一台设备上的文档。 ● 平板保存的音乐，车载系统直接可见并可播放。 ● 户外拍摄的 ......
scrapy解析数据、配置文件、整站爬取cnblogs=》爬取详情=》数据传递、持久化、爬虫中间件和下载中间件、scrapy继承selenium、源码去重规则（布隆过滤器）、分布式爬虫
scrapy解析数据 ##### 运行爬虫 scrapy crawl cnblogs ##### 可以项目目录下写个main.py from scrapy.cmdline import execute execute(['scrapy','crawl','cnblogs','--nolog']) # ......
简单理解分布式存储
简单理解分布式存储 Ceph基础 Ceph是一个开源的分布式存储系统，旨在提供高度可扩展性、高可用性和数据容错性的存储解决方案。Ceph的设计和架构非常复杂，深入理解Ceph需要掌握以下关键概念和组件： Ceph集群：Ceph集群是由多个节点组成的，包括监控器（MONs）、对象存储设备（OSDs）和 ......
分布式和集群概念
分布式和集群概念 分布式：每台机器上部署不同组件集群：每台机器上部署相同组件 大数据分布式存储、分布式计算 linux 桌面操作系统：mac os、windows、linux嵌入式操作系统：μlinux、wince、RTOS服务器操作系统：unxi、linux、Windows server、netw ......
爬虫中间件和下载中间件，scrapy集成selenium，源码去重规则（布隆过滤器），分布式爬虫
1 爬虫中间件和下载中间件 ⏳ 1.1 爬虫中间件(一般不用) # 第一步：写个爬虫中间件类 class ScrapyDemoSpiderMiddleware: @classmethod def from_crawler(cls, crawler): # This method is used by ......
kube-controller-manager加分布式锁
k8s v1.19.0 kube-controller-manager加分布式锁lease，完成leader选举，与kube-scheduler相同。 cmd/kube-controller-manager/app/controllermanager.goRun函数 staging/src/k8s. ......
分布式亿级流量整体架构设计原则
架构目标 高可用性 整体系统可用性最低99.9%，目标99.99%。全年故障时间整个系统不超过500分钟，单个系统故障不超过50分钟。 高可扩展性 系统架构简单清晰，应用系统间耦合低，容易水平扩展，业务功能增改方便快捷。 低成本 增加服务的重用性，提高开发效率，降低人力成本； 最终一致性 服务设计能 ......
GO实现分布式爬虫—掌握go语言通道与协程项目架构设计
GO实现分布式爬虫—掌握go语言通道与协程项目架构设计 Go高并发微服务分布式 1.命令行的用户管理 用户信息存储 => 内存 => 结构 [] map => 用户 ID name age tel addr [len] [] map 值类型使用string 用户添加 用户的查询 用户修改 // 请输 ......
Go语言开发分布式任务调度 轻松搞定高性能Crontab，技能储备+项目开发
写在前面 最近离职交接空档期，在慕课网上学习了下go语言实现分布式crontab任务调度系统。自己也跟随视频实现了一把（跟原版略有不同）。现把成果记录一下。 最终代码： https://github.com/funkol2007/distributed_crontab 系统介绍 实现目标： 实现一个 ......
我心中的分布式操作系统
这是一位网友发给我的文字，我原样复制粘贴发出来给大家，他的观点我不过多评论，也不代表公司和研发团队的立场，但是最后一段本人不同意，因为Laxcus分布式操作系统已经发布了六个版本，在很多领域广泛部署使用。目前Laxcus分布式操作系统正经历类似微软的Windows 3.x到Windows 95的过渡 ......
【数学】- 序理论
序理论 感谢Meatherm在之前的讲课，才让我有机会思考这以理论 简介 序理论对二元关系的研究在图论、数学、动规等OI常见板块中都有应用，可以说，这些关于次序的思考及它们所拥有的性质都是美妙的。这种「次序」，在元素与元素之间连结了隐形的线，却又编织起严密的网，织构出由此推出的万千理论。 概念 下面 ......
多元高斯分布
https://www.bilibili.com/video/BV1zf4y1L7mQ/?spm_id_from=333.337.search-card.all.click&vd_source=5a8099d424866bf1cdbfa5a7afadeca6 ......
Web漏洞-XSS理论和靶场小试牛刀(一)
★★实战前置声明★★ 文章中涉及的程序(方法)可能带有攻击性，仅供安全研究与学习之用，读者将其信息做其他用途，由用户承担全部法律及连带责任，文章作者不承担任何法律及连带责任。 1、简单了解HTML和JS基础 想要知道怎么XSS攻击，是需要了解一些HTML和JS基础知识点的，不然后面一些脚本注入会不清 ......
分布式文件系统FastDFS
目录目前系统存在的缺点分布式文件系统FastDFS介绍概念架构文件上传文件下载 目前系统存在的缺点 目前是通过tomcat提供虚拟目录的方式供用户访问；当然也可以通过nginx实现静态资源访问的方式 文件冗余在tomcat挂了的情况下不能提供服务； 目前是单一文件服务的存储（依赖tomcat不能进行 ......