爬虫 中间件 分布式 过滤器
云原生 | 从零开始，Minio 高性能分布式对象存储快速入手指南
对象存储（Object Storage）是一种存储数据的计算机体系结构，它以对象的形式存储和管理数据。与传统的文件系统和块存储不同，对象存储将数据作为对象存储在分布式的存储集群中，每个对象都有一个唯一的标识符（通常是一个URL），并且可以通过这个标识符来访问和检索数据。 ......
爬虫实践06 | 爬取某网站的参展客户和展位信息
网址：https://www.cantonfair.org.cn/zh-CN/detailed?category=461147105440849920&scategory=461148159452647424&type=1&keyword=&page=1&size=40&tab=exhibitor& ......
分布式设计模式和方法论
一、设计模式 1. 可用性 可用性是系统运行和工作的时间比例，通常以正常运行时间的百分比来衡量，它可能受系统错误，基础架构问题，恶意攻击和系统负载的影响。 健康检查：系统实现全链路功能检查，外部工具定期通过公开端点访问系统 负载均衡：使用队列起到削峰作用，作为请求和服务之间的缓冲区，以平滑间歇性的重 ......
Hadoop2伪分布式安装
最近有观看我主讲的《Hadoop基础与演练》课程的同学问到Hadoop环境到底应该怎么安装。Hadoop的安装其实非常的简单，网上有很多教程，官网也有示例。但是可能部分同学对于linux不太熟悉，导致安装的时候会遇到各种问题，打击学习激情。本文就来详细的讲解一下如何配置Hadoop2的伪分布式环境， ......
分布式场景
一、分布式文件系统 常用的分布式文件系统：HDFS（Hadoop Distributed File System） HDFS是Apache Hadoop生态系统中的分布式文件系统，用于存储和管理大规模数据集。它是为了支持大数据处理和分析而设计的，具有高容错性、高可靠性和高可扩展性的特点。它采用了主从 ......
博学谷学习记录 自我总结 用心分享 | OpenResty中间件
1.什么是OpenResty OpenResty是一个基于Nginx与Lua的高性能Web平台，其内部集成了大量精良的Lua库、第三方模块以及大多数的依赖项。用于方便地搭建能够处理超高并发、扩展性极高的动态 Web 应用、Web 服务和动态网关。 OpenResty通过汇聚各种设计精良的Nginx模 ......
Redis学习之Redisson实现分布式锁
Redisson实现分布式锁 Redisson 是 Java 的 Redis 高级客户端，提供了各种现成的分布式工具类便于我们使用 Redis。 官网：https://github.com/redisson/redisson 中文文档：https://github.com/redisson/redi ......
博学谷学习记录 自我总结 用心分享 | Nginx中间件
一、Nginx是什么？Nginx (engine x) 是一个高性能的HTTP和反向代理web服务器，同时也提供了IMAP/POP3/SMTP服务。Nginx是由伊戈尔·赛索耶夫为俄罗斯访问量第二的Rambler.ru站点（俄文：Рамблер）开发的，第一个公开版本0.1.0发布于2004年10月 ......
Spring Cloud 中的分布式组件五花八门，我到底该怎么学？
分布式架构的演进 在软件行业，一个应用服务随着功能越来越复杂，用户量越来越大，尤其是互联网行业流量爆发式的增长，导致我们需要不断的重构应用的结构来支撑庞大的用户量，最终从一个简单的系统主键演变成了一个非常复杂的可以支撑高并发的高可用的分布式架构，但是一个系统再复杂也是不断演变来的，所以从另一方面来说 ......
主从、集群、分布式的区别
主从、集群和分布式是计算机系统中常见的架构模式，它们有不同的特点和用途： 主从（Master-Slave）： 主从架构是一种单点控制的架构，其中有一个主节点和一个或多个从节点。 主节点通常负责处理所有的请求和决策，而从节点用于执行主节点分派的任务或保存数据的备份副本。 主从架构通常用于提高系统的可用 ......
AI 帮写爬虫，真的吗？ CodeWhisperer：当然！
2023 年技术圈什么最火？答案毫无疑问是 AIGC，伴随该项技术的发展，新的编程方式也出现了，那就是用 AI 辅助编程，有了 AI 的加持，开发人员的效率和生产力可以得到大幅度的提升。今天我们就介绍一款非常棒的人工智能编程工具 Amazon CodeWhisperer ， 相信我，用上他之后，你的 ......
Filter过滤器
过滤器：指可以把请求拦截下来，实现一些特殊功能 Filter编写： 定义一个类并继承接口Filter，实现方法doFilter，其余两种idea会自动实现无需编写。 doFilter中filterChain.doFilter(servletRequest,servletResponse)用来实现拦截 ......
分布式缓存
分布式缓存可以使用Redis或者Redisson实现，具体选择哪个取决于你的具体需求和场景。 如果你的场景比较简单，只需要一个高效的缓存系统，那么使用Redis就足够了。Redis是一个非常流行的内存数据库，具有高性能、高可用性、丰富的数据结构和灵活的配置等优点。在分布式缓存方面，Redis通过集群 ......
django model 条件过滤 queryset.filter详细用法
条件选取querySet的时候，filter表示=，exclude表示!=。 querySet.distinct() 去重复 __exact 精确等于 like 'aaa' __iexact 精确等于 忽略大小写 ilike 'aaa' __contains 包含 like '%aaa%' __ic ......
生成有相关性的满足标准正态分布的2组随机数
##from scipy.stats import normimport matplotlib.pyplot as pltimport pandas as pdimport numpy as npp=0.7e1=np.random.normal(loc=0,scale=1,size=100)e2=n ......
爬虫案例
import requests from bs4 import BeautifulSoup from pygtrans import Translate def multi_requests(url, headers=None, verify=False, proxies=None, timeout ......
Python3爬虫通过m3u8文件下载ts视频 Python爬虫
什么是m3u8文件? M3U8文件是指UTF-8编码格式的M3U文件。 M3U文件是记录了一个索引纯文本文件，打开它时播放软件并不是播放它，而是根据它的索引找到对应的音视频文件的网络地址进行在线播放。 原视频数据分割为很多个TS流，每个TS流的地址记录在m3u8文件列表中 比如我这里有一个m3u8文 ......
力扣-1991-找到数组的中间位置
给你一个下标从 0 开始的整数数组 nums ，请你找到 最左边 的中间位置 middleIndex （也就是所有可能中间位置下标最小的一个）。 中间位置 middleIndex 是满足 nums[0] + nums[1] + ... + nums[middleIndex-1] == nums[mi ......
Python：基础&爬虫
Python：基础&爬虫 Python爬虫学习（网络爬虫（又称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。） 一、基础知识准备 Python在各个编程语言中 ......
SQL Server 手机、身份证中间转为星号
SELECT UniqID as 账号,isnull(NickName,'') as 姓名, case when Tel1 is null or Tel1='' then '' else CONCAT( LEFT(Tel1, 3), -- 前三位 '****', -- 四个星号 RIGHT(Tel1 ......
.NET微服务系列之Saga分布式事务案例实践
自从Wing正式发布以后，很多童鞋反馈对Saga分布式事务比较感兴趣，今天就跟大家分享一下“跨行转账”的分布式事务实践案例，入门使用教程请自行前往Wing官方文档。 假设自己名下有“中国农业银行（ABC）”和“中国工商银行（ICBC）”的账户余额各1万元，现在从“ABC”跨行转账1000元到“ICB ......
C#实现抓包，并过滤UDP
C#实现抓包，并过滤UDP using PacketDotNet; using SharpPcap; using SharpPcap.LibPcap; using System; using System.Linq; using System.Net.Sockets; using System.Te ......
Python爬虫必杀技：XPath
XPath 是什么 XPath 即为 XML 路径语言，它是一种用来确定 XML(标准通用标记语言的子集) 文档中某部分位置的语言。XPath 基于 XML 的树状结构，有不同类型的节点，包括元素节点，属性节点和文本节点，提供在数据结构树中找寻节点的能力。跟 BeautifulSoup4一样都是用来 ......
分布式事务处理方案大 PK！
首先先说一个大原则：分布式事务能不用就不要用，毕竟这个用起来还是有一些麻烦的。当然，不用和不会用可是两码事。 1. 分布式事务基础理论 学习分布式事务，有一些基础理论需要我们先来了解下。 1.1 本地事务 本地事务是指将多条语句作为一个整体进行操作的功能，通过数据库事务可以确保该事务范围内的所有操作 ......
Asp.Net Core webapi+net6 使用资源筛选器(过滤器) 做缓存
写一个特性类，用来做标记 [AttributeUsage(AttributeTargets.Method)] //只对方法有效 public class ResourceFilterAttribute : Attribute { } 我这里使用了MemoryCache来做缓存，也可以使用字典来做，但 ......
scrapy自带的中间件
{ 'scrapy.downloadermiddlewares.robotstxt.RobotsTxtMiddleware': 100, 'scrapy.downloadermiddlewares.httpauth.HttpAuthMiddleware': 300, 'scrapy.download ......