爬虫pytesseract requests selenium
爬取的数据，存到mysql中、爬虫和下载中间件、加代理，cookie，header，加入selenium、去重规则源码分析（布隆过滤器）、scrapy-redis实现分布式爬虫
# 1 scrapy架构 -爬虫：写的一个个类 -引擎： -调度器：排队，去重 -下载器 -pipline -下载中间件 -爬虫中间件 # 2 命令 -scrapy startproject 项目名 -scrapy gensipder 爬虫名 网址 -scrapy crawl 爬虫名字 -run.p ......
Required request body is missing: 前端接口报错错误解决
前几天遇到一个报错：Required request body is missing； 经过检查是因为在传递参数时使用params来传递的。 而使用params来传递参数会被拼接到url上不管是get还是post请求，这时候请求体也就是body是不存在的。 所有后端在获取参数时会报request b ......
pikachu-SSRF(Server-Side Request Forgery:服务器端请求伪造）
概述 其形成的原因大都是由于服务端提供了从其他服务器应用获取数据的功能,但又没有对目标地址做严格过滤与限制 导致攻击者可以传入任意的地址来让后端服务器对其发起请求,并返回对该目标地址请求的数据 数据流:攻击者 >服务器 >目标地址 根据后台使用的函数的不同,对应的影响和利用方法又有不一样 PHP中下 ......
0 爬取的数据，存到mysql中 、1 爬虫和下载中间件、 2 加代理，cookie，header，加入selenium、3 去重规则源码分析（布隆过滤器） 、4 scrapy-redis实现分布式爬虫
0 爬取的数据，存到mysql中 # 存到mysql中 class FirstscrapyMySqlPipeline: def open_spider(self, spider): print('我开了') self.conn = pymysql.connect( user='root', pass ......
人才及研究方向信息爬取爬虫
人才及研究方向信息爬取爬虫 需求与思路 需求 ： 爬取经济管理相关国家级人才 思路： 1 从title出发，比如中国科学院网站 查看不同学部中院士的介绍 2 分学校，学校官网所在的人才页面，查看相关信息 当前师姐给按着学校分了任务，于是打算先从思路2完成 技术路线 使用 python 爬虫 对结果进 ......
如何自己搭建Scrapy爬虫框架
当你学了一段时间爬虫后，就会知道各种功能太多而且麻烦。还不如自己整理个框架方便的多。因此，从开始写爬虫程序开始，就会慢慢的接触到一些有关爬虫的框架、效率提升而且扩展也很方便。接下来我将会以Scrapy爬虫框架将我的学习过程记录下供大家参考指正。 一、安装 $ pip install scrapy 二 ......
Python爬虫完整代码拿走就用
对于新手做Python爬虫来说是有点难处的，前期练习的时候可以直接套用模板，这样省时省力还很方便。 使用Python爬取某网站的相关数据，并保存到同目录下Excel。 直接上代码： import re import urllib.error import urllib.request import ......
几步完成Python爬虫采集附源码
对于长期做爬虫行业的程序员我来说，现在随便编写一个爬虫程序也只是分分钟的事情，这次我编辑一个有关图文采集的爬虫，从试错到下载保存等一些列重点全部都写入下面的文章中希望大家避坑。 这里应用self.log简单的做了一下运行日志的处理和记录！ 几个关键点： 1、常规操作，访问出错重试 这里仅仅是简单的写 ......
解决Python+selenium切换作用域时报错'WebDriver' object has no attribute 'switch_to_window'
一、问题描述 selenium切换新网页作用域时，报错：'WebDriver' object has no attribute 'switch_to_window' 问题代码： driver.switch_to_window(driver.window_handles[-1]) 二、问题解决 sel ......
selenium登录cnblogs-抽屉半自动点赞-xpath的使用-selenium动作链-自动登录12306-打码平台使用-使用打码平台自动登录-使用selenium爬取jd商品信息-scrapy介绍
selenium登录cnblogs-抽屉半自动点赞-xpath的使用-selenium动作链-自动登录12306-打码平台使用-使用打码平台自动登录-使用selenium爬取jd商品信息-scrapy介绍 昨日回顾 # 1 beautifulsoup4 使用 xml解析库 用它来解析爬回来的html ......
爬虫
今日内容 0 bs4介绍，遍历文档树 # beautifulsoup4 从HTML或XML文件中提取数据的Python库 # 用它来解析爬取回来的xml # 安装：pip install beautifulsoup4 pip install lxml #解析库 # soup=BeautifulSou ......
爬虫4
今日内容 0 selenium 登录cnblogs from selenium import webdriver from selenium.webdriver.common.by import By import time import json bro = webdriver.Chrome(ex ......
爬虫5
今日内容 0 scrapy架构介绍 # 引擎(EGINE) 引擎负责控制系统所有组件之间的数据流，并在某些动作发生时触发事件。 # 调度器(SCHEDULER) 用来接受引擎发过来的请求, 压入队列中, 并在引擎再次请求的时候返回. 可以想像成一个URL的优先级队列, 由它来决定下一个要抓取的网址是 ......
爬虫相关 scrapy架构介绍、scrapy解析数据、settings相关配置，提高爬取效率、持久化方案、全站爬取cnblogs文章、
==scrapy架构介绍== # 引擎(EGINE) 引擎负责控制系统所有组件之间的数据流，并在某些动作发生时触发事件。 # 调度器(SCHEDULER) 用来接受引擎发过来的请求, 压入队列中, 并在引擎再次请求的时候返回. 可以想像成一个URL的优先级队列, 由它来决定下一个要抓取的网址是什么, ......
docker-selenium分布式环境搭建（基于selenium的grid分布式框架）
说明：docker-selenium分布式是基于selenium的grid分布式框架进行搭建 以下是docker-selenium分布式网络拓扑图： 从图中可以看出： 1）docker-selenium可以用作浏览器兼容性测试； 2）docker-selenium分布式，可以提高测试用例的执行效率， ......
《渗透测试》JS架构&框架识别&泄漏提取&API接口枚举&FUZZ爬虫&插件项目 Day14
0、什么是JS渗透测试？ 在Javascript中也存在变量和函数，当存在可控变量及函数调用即可参数漏洞 JS开发的WEB应用和PHP，JAVA,NET等区别在于即没有源代码，也可以通过浏览器的查看源代码获取真实的点。获取URL，获取JS敏感信息，获取代码传参等，所以相当于JS开发的WEB应用属于白 ......
爬虫selenium模块
selenium基本使用 selenium最初是一个自动化测试工具,而爬虫中使用它主要是为了解决requests无法直接执行JavaScript代码的问题 可以直接用代码模拟真实的浏览器操作，每一步的点击 输入等 selenium本质是通过驱动浏览器，完全模拟浏览器的操作，比如跳转、输入、点击、下拉 ......
request
requests库 requests 是⽤Python语⾔编写，基于urllib，采⽤Apache2 Licensed开源协议的 HTTP 库。它⽐ urllib 更加⽅便，可以节约我们⼤量的⼯作，完全满⾜HTTP测试需求。 安装Requests库 命令行安装:pip install request ......
selenium自动化测试学习1
注意：py文件命名的时候，不能直接命名为selenium.py，会和第三方包selenium冲突 一、环境搭建： 1、下载第三方包selenium pip3 install selenium -i https://pypi.tuna.tsinghua.edu.cn/simple 注：可以直接在vsc ......
scrapy架构介绍、scrapy解析数据、scrapy解析数据、持久化方案、全站爬取cnblogs文章、爬虫和下载中间件、加代理，cookie，header，加入selenium
# 1 selenium -登录cnblogs，拿到cookie，再打开cnblogs，写入cookie，它就是登录状态 -半自动点赞 》selenium生成的cookie，给requests用 -selenium操作浏览器，速度慢 -requests速度快 -动作链 -自动登录12306 # 2 ......
SpringMVC：在尝试POST请求调用重定向时抛出415不支持的媒体类型(SpringMVC : Throws 415 Unsupported Media Type while attempting POST request call for redirection)
浏览器响应如下： 服务器拒绝此请求，因为请求实体的格式不受所请求方法所请求资源的支持。 而不是重定向到主页（home.jsp） welcome.jsp文件： <form method ="POST" action = "<c:url value='/login'/>" > <input id="na ......
Scrapy爬虫之反人类的反爬虫手段
最近一直在编写一个爬虫项目，同时也通过爬虫爬取了一些网站数据（正规公开数据），我们都知道，爬虫和反爬虫一直都是相辅相成的，爬虫程序员想破解反爬虫的技术，反爬虫的技术员则希望通过技术手段实现有效的反爬虫方式。 由于在这阶段进行的爬虫学习中，经常中招，所以今天就简单的总结一下反爬虫的方式。 一、BAN ......
如何设计一个网页爬虫
作为长期深耕在爬虫行业的程序猿来说，对于设计一个网页爬虫想必很简单，下面就是一些有关网页爬虫设计的一些思路，可以过来看一看。 第一步：简述用例与约束条件 把所有需要的东西聚集在一起，审视问题。不停的提问，以至于我们可以明确使用场景和约束。讨论假设。 我们将在没有面试官明确说明问题的情况下，自己定义一 ......
谈谈Selenium中浏览器驱动的日志
谈谈Selenium中浏览器驱动的日志 来源于一位同学，“老师为啥firefox执行后会有日志文件，chrome没有呢？” 比对 你打开chrome浏览器 from selenium import webdriver driver = webdriver.Chrome() 这样是没有日志的 同样的代 ......
网络爬虫流程总结
网络爬虫的大体流程其实就是解析网页，爬取网页，保存数据。三个方法，就完成了对网页的爬取，并不是很困难。以下是自己对流程的一些理解和总结，如有错误，欢迎指正。 一、解析网页，获取网页源代码 首先，我们要了解我们要爬取的网页，以豆瓣为例，我们要了解模拟浏览器头部信息，来伪装成浏览器。以及爬取的内容是什么 ......
解决Selenium元素拖拽不生效Bug
转载请注明出处❤️ 作者：测试蔡坨坨 原文链接：caituotuo.top/e8aa6c6f.html 你好，我是测试蔡坨坨。 前几天在使用Selenium进行元素拖拽操作时，发现Selenium自带的元素拖拽方法（dragAndDrop()）不生效，网上的回答也是五花八门，比较混乱，尝试了以下几种 ......
requests模块
爬虫是什么？；爬虫就是程序 >从互联网中，各个网站上，爬取数据【前提是：你能浏览的页面才能爬】，做数据清洗，保存到数据库的过程。 爬虫本质：模拟方式发送http请求、然后获取数据、再做数据清洗、最后保存到数据库 爬虫的重点：如何发送http请求？如何解析数据？ 本篇爬虫知识主要包括(不会一次性写完， ......
selenium结合tenacity的retry实现验证码失败重试
说在前面 验证码登录的demo后续可以单独讲解，VIP学员对这部分应该都是掌握的，此处不再赘述 本文假设了一个场景 你通过OCR识别的验证码是有一定的错误几率的 本文是通过识别后的验证码去加一个随机字符，如果取到的是''空字符则可能成功，否则必然不会成功 所涉及的python库 selenium d ......
自动化测试如此容易！多语言自动化测试框架 Selenium 编程（C#篇）
介绍 Selenium 官网：https://www.selenium.dev/ Selenium 是功能强大的自动化测试工具集，是支持 Web 浏览器自动化的一系列工具和库的总括项目，一共包括以下三个项目： Selenium WebDriver Selenium IDE Selenium Grid ......
玫瑰花变蚊子血,自动化无痕浏览器对比测试,新贵PlayWright Vs 老牌Selenium,基于Python3.10
也许每一个男子全都有过这样的两个女人，至少两个。娶了红玫瑰，久而久之，红的变了墙上的一抹蚊子血，白的还是床前明月光；娶了白玫瑰，白的便是衣服上沾的一粒饭黏子，红的却是心口上一颗朱砂痣。--张爱玲《红玫瑰与白玫瑰》 Selenium一直都是Python开源自动化浏览器工具的王者，但这两年微软开源的Pl ......