爬虫 优先级 队列 分布式
分布式数据库测试
分布式数据库的测试涉及多个方面，因为它们需要在多个节点上运行、处理大量数据并保证数据一致性和可靠性。以下是测试分布式数据库时可以考虑的不同方向和方法： 功能测试： 基本功能测试：验证数据库的基本功能，如数据插入、查询、更新和删除操作是否正常工作。 事务管理测试：确保分布式事务在不同节点上的协调与管理 ......
二叉树遍历（前序、中序、后序、层次遍历、深度优先、广度优先）
二叉树是一种非常重要的数据结构，很多其它数据结构都是基于二叉树的基础演变而来的。对于二叉树，有深度遍历和广度遍历，深度遍历有前序、中序以及后序三种遍历方法，广度遍历即我们平常所说的层次遍历。因为树的定义本身就是递归定义，因此采用递归的方法去实现树的三种遍历不仅容易理解而且代码很简洁，而对于广度遍历来 ......
分布式存储ceph——（2）部署ceph
前言： 很多朋友想学ceph，但是开始ceph部署就让初学者举步为艰，ceph部署时由于国外源的问题（具体大家应该懂得），下载和安装软件便会卡住，停止不前。即使配置搭建了国内源后，执行ceph-deploy install 时又跑去了国外的源下载，很是无语呀！！！这样导致我们停下了学习ceph的脚步 ......
分布式存储ceph——（1）ceph 讲解
一、Ceph简介： Ceph是一种为优秀的性能、可靠性和可扩展性而设计的统一的、分布式文件系统。ceph 的统一体现在可以提供文件系统、块存储和对象存储，分布式体现在可以动态扩展。在国内一些公司的云环境中，通常会采用 ceph 作为openstack 的唯一后端存储来提高数据转发效率。 Ceph项目 ......
指定url和深度的广度优先算法爬虫的python实现
广度优先算法介绍 整个的广度优先爬虫过程就是从一系列的种子节点开始，把这些网页中的"子节点"(也就是超链接)提取出来，放入队列中依次进行抓取。被处理过的链接需要放 入一张表(通常称为Visited表)中。每次新处理一个链接之前，需要查看这个链接是否已经存在于Visited表中。如果存在，证明链接已经 ......
云计算技术与应用 之 实验 10--分布式云计算部署
实验 10--分布式云计算部署 一、实验目的 掌握分布式云计算部署。 二、实验原理和内容 1.了解云解决方案； 2.了解 iaas、paas； 3.提交实验报告。 三、实验步骤 1.进入 win10 操作系统。 2.完成，步骤和结果如下： 3.完成，步骤和结果如下： 4.结果1，步骤和结果如下： 5 ......
云计算技术与应用 之 实验六-分布式文件系统算法—MapReduce
实验六-分布式文件系统算法—MapReduce 一、实验目的 掌握 MapReduce 算法的设计与实现。 二、实验原理和内容 1.原理： MapReduce 的核心思想是“分而治之”，也就是把一个大的数据集拆分成多 个小数据集在多台机器上并行处理。 一个大的 MapReduce 作业，首先会被拆分 ......
云计算技术与应用 之 实验 5-分布式文件系统并行编程— Producer-Consumer 模式
实验 5-分布式文件系统并行编程—Producer-Consumer 模式 一、实验目的 掌握并行编程 Producer-Consumer 模式的设计与实现。 二、实验原理和内容 原理： 系统有两类进程协作：Master 进程和 Worker 进程。Master 负责接收和分 配任务，Worker ......
云计算技术与应用 之 实验 4-分布式文件系统并行编程— Master-Worker 模式
实验 4-分布式文件系统并行编程—Master-Worker 模式 一、实验目的 掌握并行编程 Master-Worker 模式的设计与实现。 二、实验原理和内容 原理： 系统有两类进程协作：Master 进程和 Worker 进程。Master 负责接收和分 配任务，Worker 负责处理子任务。 ......
Docker+SEATA+Nacos+SpringBoot实现分布式事务
Docker+SEATA+Nacos+SpringBoot实现分布式事务 1. 服务端 示例SEATA版本：1.6.1 1.1. 配置的创建 docker pull seataio/seata-server:1.6.1 # 这里的运行只是为了获取里面的配置，将配置拿出来到宿主机后进行配置再删除容器再 ......
Config：Spring Cloud分布式配置组件
Config：Spring Cloud分布式配置组件 问题总结 Spring Cloud Config? Spring Cloud Config工作原理？ Spring Cloud Config 的特点？ Config+Bus 实现配置的动态刷新？ 问题答案 Spring Cloud Config ......
前端与爬虫
搜索爬虫, 我们会搜到一大堆 Python 相关的结果 问题: 爬虫和前端有关系吗? 爬虫是什么 爬虫程序是一种计算机程序，旨在通过执行自动化或重复性任务来模仿或替代人类的操作。 爬虫程序执行任务的速度和准确性比真实用户高得多。爬虫程序类型众多，可执行各种任务，并且爬虫程序在互联网流量中的比重也越来 ......
[go 面试] 为并发加锁：保障数据一致性（分布式锁）
原创 TimLiu 爱发白日梦的后端 2023-12-01 08:01 发表于广东 爱发白日梦的后端 专注 Go 语言领域的发展，学习成为更牛逼的架构师，日常分享 Go 语言、架构、软件工具的使用。 159篇原创内容 公众号 在单机程序中，当多个线程或协程同时修改全局变量时，为了保障数据一致性，我们 ......
履机乘变，轻舟便楫：源启分布式PaaS深度赋能企业级技术平台建设
导语 源启分布式PaaS平台围绕应用视角为用户提供应用运行的全生命周期管控能力，提供注册中心、服务路由、网关、服务治理等中间件技术支持，实现应用之间的联通，解决客户多厂商产品不兼容、产品组合不可选择、孤岛效应等问题，满足企业级应用集成需要，实现降本增效。 在《洞若观火，明察秋毫：源启一体化监控平台构 ......
openstack共享组件——消息队列rabbitmq（3）
一、MQ 全称为 Message Queue, 消息队列（ MQ ） 是一种应用程序对应用程序的通信方法。应用程序通过读写出入队列的消息（针对应用程序的数据）来通信，而无需专用连接来链接它们。消息传递指的是程序之间通过在消息中发送数据进行通信，而不是通过直接调用彼此来通信，直接调用通常是用于诸如远程 ......
中间件 ZK分布式专题与Dubbo微服务入门 1-3 分布式系统的瓶颈以及zk的相关特性
0 课程地址 https://coding.imooc.com/lesson/201.html#mid=12661 1 重点关注 1.1 zk的相关特性 2 课程内容 2.1 zk的相关特性 一致性:数据一致性，数据按照顺序分批入库原子性:事务要么成功要么失败，不会局部化 单一视图:客户端连接集群中 ......
01-认识爬虫
requests模块快速使用 #介绍：使用requests可以模拟浏览器的请求，比起之前用到的urllib(内置模块)，requests模块的api更加便捷（本质就是封装了urllib3） # 注意：requests库发送请求将网页内容下载下来以后，并不会执行js代码，这需要我们自己分析目标站点然后 ......
02-爬虫的高阶使用
代理池的搭建 # 搭建步骤 -1、git clone git@github.com:jhao104/proxy_pool.git -2、在pycharm中打开项目 -3、创建虚拟环境，并且安装依赖 pip install -r requirements.txt -4、修改配置文件：DB_CONN = ......
如何使用Redisson实现分布式锁？
在分布式系统中，当多个线程（或进程）同时操作同一个资源时，为了保证数据一致性问题，所以就需要一种机制来确保在同一时间只有一个线程（或进程）能够对资源进行修改，这就是分布式锁的作用。 分布式锁是一种在分布式环境下的锁实现，它允许在多个进程或服务器之间协调对共享资源的访问或操作。分布式锁的关键特性是它能 ......
什么是正态分布?
正态分布（Normal distribution），又名高斯分布（Gaussian distribution），简称正态曲线（Normal curve），是统计学中一种常见的连续概率分布，在许多自然现象中都十分常见。正态分布曲线呈钟形，两头低而中间高，左右对称。正态分布曲线的均值、中位数和众数都重合 ......
分布式ID生成
王富贵 (lmlx66.top) 为什么要用分布式 ID 随着业务数据量的增长，存储在数据库中的数据越来越多，当索引占用的空间超出可用内存大小后，就会通过磁盘索引来查找数据，这样就会极大的降低数据查询速度。如何解决这样的问题呢？一般我们首先通过分库分表来解决，分库分表后就无法使用数据库自增 ID 来 ......
深度优先搜索（DFS）和广度优先搜索（BFS）
深度优先搜索（DFS）和广度优先搜索（BFS），都是图形搜索算法，相似又却不同，在应用上也被用到不同的地方。 一、深度优先搜索（DFS） 深度优先搜索属于图算法的一种，是一个针对图和树的遍历算法，英文缩写为DFS即Depth First Search。深度优先搜索是图论中的经典算法，利用深度优先搜索 ......
优先队列（堆的使用）
如何定义 大根堆：每个节点的值都大于等于其子节点的值，在大根堆中，最大值总是在堆顶 小根堆：每个节点的值都小于等于其子节点的值，在小根堆中，最小值总是在堆顶 #include <queue>//头文件 //通用写法 std::priority_queue<TypeName> q; ∕∕ 数据类型为 ......
python爬虫环境配置
环境配置 python3/请求库/解析库/数据库/存储库/web库/app爬取库/爬虫框架库 python3 win11下可以直接商店下载了（ Linux下apt-get install python3 请求库 requests pip3 install requests selenium pip ......
高性能内存消息队列 Disruptor
01 什么是 Disruptor disruptor 是 lmax 开源的一个高性能并发内存队列，和日常使用的 ArrayBlockingQueue 的性能对比如下图 02 高性能的原因 2.1 避免伪共享内存 什么是 CPU 高速缓存？ 首先介绍一下 CPU 缓存的定义： 在计算机系统中，CPU高 ......
Irwin-Hall 分布
Irwin-Hall 分布 对于 \(n\) 个均匀分布于 \([0,1]\) 的连续随机变量 \(X_1,X_2,\dots,X_n\)，其和的随机变量 \(X\) 满足： \[P(X\le x)=\sum _{k=0}^{\lfloor x\rfloor}(-1)^k\binom nk\frac ......
SPFA -----队列优化的Bellman-Ford
SPFA 队列优化的Bellman-Ford 由Bellman-Ford算法实现带有负权边的单源最短路，时间复杂度是O(VE)，也就是边数乘顶点数。但是根据Bellman-Ford的状态转移方程$$dist[i] = min(dist[i] , last[k] + w[k -> i])$$可知，当且 ......
关于正态分布
目录1.正态分布是什么2.正态分布有什么用途3.如何确定数据服从正态分布 本文简单介绍正态分布的基本概念和用途。 1.正态分布是什么 正态分布，也称为高斯分布，是由德国数学家卡尔·弗里德里希·高斯在研究测量误差时提出的。他发现许多自然现象和统计数据，如人的身高、考试成绩等，其分布形状都呈现出一种特定 ......
分布式系统Dubbo
一、简介 1.Dubbo介绍 Dubbo 是一个高性能的分布式服务框架，由阿里巴巴开发并开源，于2018年捐献给了Apache基金会。它提供了服务治理、负载均衡、容错机制、分布式调用等功能，旨在简化分布式应用开发，提高应用的可扩展性和可维护性。 Dubbo 主要包括以下核心功能： 远程调用： 提供高 ......
07--爬虫入门概念
一 web请求全过程剖析 我们浏览器在输入完网址到我们看到网页的整体内容, 这个过程中究竟发生了些什么? 我们看一下一个浏览器请求的全过程 接下来就是一个比较重要的事情了. 所有的数据都在页面源代码里么? 非也~ 这里要介绍一个新的概念 那就是页面渲染数据的过程, 我们常见的页面渲染过程有两种 服务 ......