爬虫 规则 分布式 中间件
分布式kv存储系统之etcd集群管理
leader选举过程是这样的；首先candidate向集群其他候选节点（condidate角色的节点）发送投票信息（Request Vote），默认是投票给自己；各候选节点相互收到另外的节点的投票信息，会对比日志是否比自己的更新，如果比自己的更新，则将自己的选票投给目的候选人，并回复一个包含自己最新... ......
分布式锁
一、什么是分布式锁？为什么需要分布式锁 锁，是用来保证线程或进程同步的工具，用于控制对共享资源的访问。 分布式锁也是锁的一种。普通的锁（例如Java中的Synchronized和ReentrantLock）无法用在多个进程中，此时就需要分布式锁来控制分布式系统对共享资源的访问。 在Java开发的分布 ......
python自动下载pdf文件—可分布下载=.= 一个demo
代码如下： import io import requests def download_pdf(save_path,pdf_name,pdf_url): send_headers = { "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64 ......
Protobuf编码规则
支持类型 该表显示了在 .proto 文件中指定的类型，以及自动生成的类中的相应类型： | .proto Type | Notes | C++ Type | Java/Kotlin Type[1] Java/Kotlin 类型 [1] | Python Type[3] | Go Type | Rub ......
终于有人把openGauss3.0.0分布式原理讲透了，openGauss X ShardingSphere分布式原理和部署
本文为原理精讲，部署文章链接如下 https://www.cnblogs.com/opengauss/p/17364285.html 一、opengauss 的背景和行业现状 2022 年，七大 openGauss 商业版发布，是基于 openGauss3.0 推出商业发行版 目前海量数据库 Vas ......
从分布式共识算法到区块链共识机制
英文原文链接：https://medium.com/datadriveninvestor/from-distributed-consensus-algorithms-to-the-blockchain-consensus-mechanism-75ee036abb65 From Distributed ......
分布式共识如何工作？
英文原文链接：https://medium.com/s/story/lets-take-a-crack-at-understanding-distributed-consensus-dad23d0dc95 How Does Distributed Consensus Work? 区块链技术关键突破概 ......
分布式事务
分布式理论 CAP理论 在一个分布式系统中，一致性（Consistency）、可用性（Availability）、分区容错性（Partition tolerance），这三个要素最多只能同时实现两点，不可能三者兼顾。由于P(分区容错）是必选项，所以只能在AP或者CP中选择。 一致性（Consiste ......
《 始祖研究自然，爬虫研究书本。》 回复
《 始祖研究自然，爬虫研究书本。》 https://tieba.baidu.com/p/8391971207 始祖，想起始祖鸟🐤，爬虫，想起三叶虫 。 这个标题太有意思了 。 拓变论@李炳铁: 哈哈 ......
为什么要使用分布式锁（通过redis实现）
如果需要使用到缓存机制，那就存在着这三个问题： * 1、缓存穿透问题：（全部访问redis中不存在的信息），解决方式：在redis中将数据库中没有的数据暂时赋值为null * 2、缓存雪崩问题：（redis中的key在同一时间大幅度的过期），解决方式：在redis中存入数据的时候，传入一个随机值作为 ......
Irwin-Hall 分布学习笔记
定理：Irwin-Hall 分布 对于 $n$ 个在 $[0,1]$ 内均匀分布的实数随机变量，它们的和不超过一个实数 $z$ 的概率为： $$ F(z)=\sum\limits_{k=0}^{\lfloor z\rfloor} (-1)^k\binom{n}{k}\frac{(z-k)^n}{n! ......
redis分布式锁
加锁 1 判断锁是否被占用,没有则获取锁(hset/hincrby)并设置过期时间(expire) 2 如果锁被占用,则判断是否是当前线程占用,如果是则重入(hincrby)并重置过期时间 3 否则获取锁失败 释放锁 1 判断自己的锁是否存在(hexists),不存在返回nil 2 如果存在则减1( ......
分布式调度XXL-JOB
#1. Spring提供的定时任务调度SpringTask Spring3.0以后自主开发的定时任务工具，spring task，可以将它比作一个轻量级的Quartz，而且使用起来很简单，除spring相关的包外不需要额外的包，而且支持注解和配置文件两种形式。 视频教程：https://www.bi ......
Hadoop全分布配置
1.实验一：hadoop 全分布配置 1.1. 实验目的 完成本实验，您应该能够： 掌握 hadoop 全分布的配置 掌握 hadoop 全分布的安装 掌握 hadoop 配置文件的参数意义 1.2. 实验要求 熟悉 hadoop 全分布的安装 了解 hadoop 配置文件的意义 1.3. 实验环境 ......
文章学习：TPRE：分布式门限代理重加密
学习文章：TPRE：分布式门限代理重加密 前言 成方金科新技术实验室与隐语团队合作，构建了“基于国密的分布式门限代理重加密算法TPRE”，为用户提供了一种安全、高效、自主可控的数据共享和授权管理方案。在数据隐私保护和数据安全共享方面具有广泛的应用前景。 ⚠️：该算法由成方金科密码学研究员张曙光（知乎 ......
使用爬虫利器 Playwright，轻松爬取抖查查数据
使用爬虫利器 Playwright，轻松爬取抖查查数据 我们先分析登录的接口，其中 url 有一些非业务参数：ts、he、sign、secret。 然后根据这些参数作为关键词，定位到相关的 js 代码。 最后，逐步进行代码的跟踪，发现大部分的代码被混淆加密了。 花费了大半天，来还原这些混淆加密的代码 ......
Python之路【第十九篇】：爬虫
网络爬虫（又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。 1.Requests Python标准库中提供了：urllib、urllib2、httplib ......
异步爬虫例子之asyncio
异步爬虫例子： import time import aiohttp import asyncio import re import os os.environ['NO_PROXY'] = 'www.baidu.com' class Asyn(): def __init__(self): self. ......
openGauss分布式安装_搭建_快速部署openGauss3.0.0分布式（openGauss课程）
一、opengauss 的背景和行业现状 2022 年，七大 openGauss 商业版发布，是基于 openGauss3.0 推出商业发行版 目前海量数据库 Vastbase 表现最佳，一直是 TOP 1 作者认为之所以海量数据库 Vastbase 目前无法被同行超越，和各家研发实力和技术背景有关 ......
二、分布式基础概念--谷粒商城
1.微服务服务架构风格，就像是把一个单独的应用程序开发为一套小服务，每个小服务运行在自己的进程中，并使用轻量级机制通信，通常是HTTP API。这些服务围绕业务能力来构建，并通过完全自动化部署机制来独立部署。这些服务使用不同的编程语言书写，以及不同数据存储技术，并保持最低限度的集中式管理简而言之：拒 ......
SequoiaDB分布式数据库2023.4月刊
本月看点速览 赋能产业升级，荣获新睿之星 聚焦金融，进一步探索非结构化数据价值释放 再获肯定，入选2023年中国最佳信创厂商入围名单 青杉计划2023已开启，一起攀登更高的“杉” 赋能产业升级，荣获新睿之星 4月18日，2023年第九届广州国际投资年会在广州白云国际会议中心成功举办。会中，南沙为涵盖 ......
Selenium 和 PhantomJS 结合在一起，就可以运行一个非常强大的网络爬虫
Selenium 和 PhantomJS 结合在一起，就可以运行一个非常强大的网络爬虫 测试人员的最佳 11 种开源自动化Selenium 1) Robot Framework Robot Framework是一个开源自动化系统，它使用关键字驱动的方法进行验收测试驱动开发 (ATDD) 和验收测试。 ......
sklearn.metrics.auc—使用梯形规则计算曲线下面积(AUC)
参考：https://scikit-learn.org/stable/modules/generated/sklearn.metrics.auc.html 在分类模型的性能评估指标总结章节中，我们讲到AUC曲线是分类模型的性能评价指标之一。接下来将对sklearn库中AUC曲线的具体计算方式进行讲解 ......
gin自定义中间件解决requestBody不可重复读问题
先直接上代码 r := gin.Default() // 注册中间件，使body可以重复读取 r.Use(func(context *gin.Context) { all, err := context.GetRawData() // 读取body的内容 if err != nil { log.Fa ......
.NET开源分布式锁DistributedLock
一、线程锁和分布式锁 线程锁通常在单个进程中使用，以防止多个线程同时访问共享资源。 在我们.NET中常见的线程锁有： 自旋锁：当线程尝试获取锁时，它会重复执行一些简单的指令，直到锁可用 互斥锁: Mutex，可以跨进程使用。Mutex 类定义了一个互斥体对象，可以使用 WaitOne() 方法等待对 ......
爬虫为什么需要ip
爬虫需要使用爬虫ip主要是为了解决以下问题： 1、反爬虫机制：许多网站会设置反爬虫机制来防止爬虫程序的访问，例如限制IP地址的访问频率、检测访问来源等。使用爬虫ip可以绕过这些限制，使得爬虫程序更难被检测到。 2、访问限制：有些网站可能会对某些地区的IP地址进行限制，如果你的爬虫程序想要访问这些网站 ......
【0基础学爬虫】爬虫基础之自动化工具 Playwright 的使用
大数据时代，各行各业对数据采集的需求日益增多，网络爬虫的运用也更为广泛，越来越多的人开始学习网络爬虫这项技术，K哥爬虫此前已经推出不少爬虫进阶、逆向相关文章，为实现从易到难全方位覆盖，特设【0基础学爬虫】专栏，帮助小白快速入门爬虫，本期为自动化工具 playwright 的使用。 概述 上期文章中讲 ......
认识中间件
链接：https://zhuanlan.zhihu.com/p/528425657 最近十年是互联网磅礴发展的十年，IT系统从单体应用逐渐向分布式架构演变，高并发、高可用、高性能、分布式等话题变得异常火热，中间件也在这一时期如雨后春笋般涌现出来，那到底什么是中间件呢？存在哪些类型的中间件呢？同一类型 ......
redisson 分布式锁
@RequestMapping(value = "/testLock", method = RequestMethod.POST) public BaseResponse<Boolean> testLock(@RequestBody TestLockRequest testLockRequest) ......
织密“安全云网”，天翼云探索构建分布式多场景云服务稳定性保障体系！
近日，中国信息通信研究院（以下简称“中国信通院”）主办，混沌工程实验室承办的信息通信领域系统稳定性保障沙龙·北京站成功举办。沙龙以“共筑数字免疫韧性长城，助力信息通信行业稳定安全运行”为主题，旨在促进信息通信领域系统稳定性保障技术交流，推动信息通信领域稳定安全运行水平提升，加强“稳保”领域的先进技术 ......