526互联

08--请求库：urllib、requests-01、代理

发布时间 2024-01-01 18:39:58作者: Edmond辉仔

一 urllib请求库

学习目标：了解urllib的基本使用

1 urllib介绍

除了requests模块可以发送请求之外, urllib模块也可以实现请求的发送，只是操作方法略有不同!

urllib在python中分为urllib和urllib2，在python3中为urllib

下面以python3的urllib为例进行讲解

2 基本方法介绍

2.1 urllib.request

  1. 构造简单请求

    import urllib
# 构造请求对象
request = urllib.request.Request("http://www.baidu.com")

# 发送请求，获取响应   参数可以是Request请求对象，也可以直接是url
response = urllib.request.urlopen(request)

  2. 传入headers参数

    import urllib
# 构造headers
headers = {"User-Agent" : "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0)"} 

# 构造请求对象
request = urllib.request.Request(url, headers = headers)

# 发送请求
response = urllib.request.urlopen(request)

  3. 传入data参数 实现发送post请求（示例）

    import urllib.request
import urllib.parse
import json

url = 'http://www.kfc.com.cn/kfccda/ashx/GetStoreList.ashx?op=keyword'
headers = {
    'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/15.0 Safari/605.1.15',

}
data = {
    'cname': '',
    'pid': '',
    'keyword': '北京',
    'pageIndex': 1,
    'pageSize': 10,
}

# 使用post方式
# 需要对数据 进行整体的urlencode url编码
data = urllib.parse.urlencode(data).encode('utf-8')

request = urllib.request.Request(url, data=data, headers=headers)
res = urllib.request.urlopen(request)

print(res.getcode())      # 获取响应的状态码
print(res.geturl())       # 获取请求的url
print(res.getheadesr())   # 获取请求的请求头

data = json.loads(res.read().decode('utf-8'))

# print(data)
for i in data['Table1']:
	print(i)

2.2 urlopen返回对象.read()

获取响应的html字符串，bytes类型

# 发送请求
response = urllib.request.urlopen("http://www.baidu.com")

# 获取响应内容  bytes类型的字符串
response.read()

2.3 request.urlretrieve()下载

# .request.urlretrieve(url，filename='文件名')   下载链接，默认是以分块的形式下载   *** 挺好用的


url = ''

urllib.request.urlretrieve(url, filename='aaa.jpg')

3 案例：urllib请求百度首页

import urllib
import json

url = 'http://www.baidu.com'
# 构造headers
headers = {"User-Agent" : "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0)"}
# 构造请求对象
request = urllib.request.Request(url, headers = headers)
# 发送请求
response = urllib.request.urlopen(request)
# 获取html字符串
html_str = response.read().decode('utf-8')
print(html_str)

4 小结

  1. urllib.request 中实现了构造请求和发送请求的方法
  2. urllib.request.Request(url,headers,data)能够构造请求对象
  3. urllib.request.urlopen能够接受request请求对象 或者 url地址发送请求，获取响应
  4. response.read()能够实现获取响应中的bytes字符串

二 requests请求库--01

1 requests模块的入门使用

学习目标：

  1. 了解 requests模块的介绍
  2. 掌握 requests的基本使用
  3. 掌握 response常见的属性
  4. 掌握 requests.text和content的区别
  5. 掌握 解决网页的解码问题
  6. 掌握 requests模块发送带headers的请求
  7. 掌握 requests模块发送带参数的get请求

1.1 requests优点

1.企业中用的最多的就是requests
2.requests的底层实现就是urllib
3.requests在python2 和python3中通用，方法完全一样
3.requests简单易用

1.2 作用与安装

作用：发送网络请求，返回响应数据

安装：pip install requests

1.3 发送基本的get请求

需求：通过requests向百度首页发送请求，获取百度首页的数据

import requests

# 目标url
url = 'https://www.baidu.com'

# 向目标url发送get请求
response = requests.get(url)

# 打印响应内容
print(response.text)

1.4 响应response

常用属性：

  • response.text 响应体body的内容 str类型

  • response.encoding 从HTTP　header中猜测的 响应内容的编码方式

  • respone.apparent_encoding 网站元数据中，指定的网站编码

  • respones.content 响应体body的内容 bytes类型

  • response.status_code 响应状态码

  • response.request.headers 响应对应的请求头

  • response.headers 响应头

  • response.request.cookies 响应对应请求的cookie

  • response.cookies 响应的cookie（经过了set-cookie动作）

  • response.url 获取访问的url

  • response.json() 获取json数据 得到内容为字典 (如果接口响应体的格式是json格式时)

  • response.ok

    如果status_code小于200，response.ok返回True

    如果status_code大于200，response.ok返回False

思考：text是response的属性还是方法呢？

  • 一般来说名词，往往都是对象的属性，对应的动词是对象的方法

1.4.1 .text 和 .content的区别

  • response.text
    • 类型：str
    • 解码类型： requests模块自动根据HTTP 头部对响应的编码作出有根据的推测，推测的文本编码
    • 如何修改编码方式：response.encoding="gbk/UTF-8"
  • response.content
    • 类型：bytes
    • 解码类型： 没有指定
    • 如何修改编码方式：response.content.deocde("utf8")

1.4.2 获取网页源码的通用方式

  1. response.content.decode()
  2. response.content.decode("UTF-8")
  3. response.text

以上三种方法从前往后尝试，能够100%的解决所有网页解码的问题

所以：更推荐使用response.content.deocde()的方式获取响应的html页面

1.4.3 练习：把网络上的图片保存到本地

# 把www.baidu.com的图片保存到本地

# 分析：
  图片的url: https://www.baidu.com/img/bd_logo1.png
  利用requests模块发送请求获取响应
  以2进制写入的方式打开文件，并将response响应的二进制内容写入


import requests

# 图片的url
url = 'https://www.baidu.com/img/bd_logo1.png'

# 响应本身就是一个图片,并且是二进制类型
response = requests.get(url)

# print(response.content)

# 以二进制+写入的方式打开文件
with open('baidu.png', 'wb') as f:
    # f.write(res.content)  # 一次性读取保存  bytes二进制类型
    for line in res.iter_content(1024):  # 分段读取保存
        f.write(line)

1.5 发送带header的get请求

我们先写一个获取百度首页的代码

import requests

url = 'https://www.baidu.com'

response = requests.get(url)

print(response.content)

# 打印响应对应请求的请求头信息
print(response.request.headers)

1.5.1 思考

对比浏览器上百度首页的网页源码和代码中的百度首页的源码，有什么不同？

代码中的百度首页的源码非常少，为什么？

1.5.2 为什么请求需要带上header？

模拟浏览器，欺骗服务器，获取和浏览器一致的内容

1.5.3 header的形式：字典

headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36"}

1.5.4 用法

requests.get(url, headers=headers)

1.5.5 完整的代码

import requests

url = 'https://www.baidu.com'

headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36"}

# 在请求头中带上User-Agent，模拟浏览器发送请求
response = requests.get(url, headers=headers)

# print(response.content)

# 打印请求头信息
print(response.request.headers)

1.6 发送带参数的get请求

我们在使用百度搜索的时候经常发现url地址中会有一个 ?，那么该问号后边的就是请求参数，又叫做查询字符串

1.6.1 什么叫做请求参数

例1： http://www.webkaka.com/tutorial/server/2015/021013/

例2：https://www.baidu.com/s?wd=python&a=c

例1中没有请求参数，例2中?后边的就是请求参数

1.6.2 请求参数的形式

# 参数形式：字典
kw = {'wd':'长城'}

1.6.3 请求参数的用法

requests.get(url, params=kw)

1.6.4 关于参数的注意点

在url地址中， 很多参数是没有用的，比如百度搜索的url地址，其中参数只有一个字段有用，其他的都可以删除

如何确定那些请求参数有用或者没用：挨个尝试！ 在后续的爬虫中，越到很多参数的url地址，都可以尝试删除参数

1.6.5 两种方式：发送带参数的请求

  • requests.get(url, params=kw)的方式

    # 方式一：利用params参数发送带参数的请求
import requests

headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36"}

url = 'https://www.baidu.com/s?'

# 请求参数是一个字典 即wd=python
kw = {'wd': 'python'}

# 带上请求参数发起请求，获取响应
response = requests.get(url, headers=headers, params=kw)
print(response.content)


# 当有多个请求参数时，requests接收的params参数为多个键值对的字典
eg：'?wd=python&a=c' ---> {'wd': 'python', 'a': 'c'}

  • url中的?携带参数，而不使用params参数

    # 方式二：直接发送带参数的url的请求   拼接在url路径中
import requests

headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36"}

url = 'https://www.baidu.com/s?wd=python'

# url中包含了请求参数，所以此时无需params
response = requests.get(url, headers=headers)

1.7 练习

1.获取新浪首页，查看response.text 和response.content.decode()的区别

2.实现任意贴吧的爬虫，保存网页到本地

2 requests模块的深入使用

学习目标：

  1. 能够应用requests发送post请求的方法
  2. 能够应用requests模块使用代理的方法
  3. 了解代理ip的分类

2.1 发送post请求

  1. 登录注册（ POST 比 GET 更安全）
  2. 需要传输大文本内容的时候（ POST 请求对数据长度没有要求）

所以同样的，我们的爬虫也需要在这两个地方回去模拟浏览器发送post请求

2.1.1 post请求语法

# 带参数的POST请求 (格式：urlencoded和json)
res=requests.post('http://127.0.0.1:8000/index/', data={'name':'lqz'}, headers=headers)  # urlencode编码格式
print(res.text)

res=requests.post('http://127.0.0.1:8000/index/', json={'age':1,}, headers=headers)  # json格式
print(res.text)

2.1.2 post请求练习

下面面我们通过金山翻译的例子看看post请求如何使用：

地址：https://www.iciba.com/fy

思路分析

  1. 抓包确定请求的url地址

  2. 确定请求的参数

  3. 确定返回数据的位置

  4. 模拟浏览器获取数据

    import requests
import json

headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36"}

url = 'https://ifanyi.iciba.com/index.php?c=trans&m=fy&client=6&auth_user=key_ciba&sign=99730f3bf66b2582'

data = {
    'from': 'zh',
    'to': 'en',
    'q': 'lucky 是一个帅气的老师'
}

res = requests.post(url, headers=headers, data=data)
# print(res.status_code)

# 返回的是json字符串 需要在进行转换为字典
data = res.json()  # 用返回对象.json()
data = json.loads(res.content.decode('UTF-8'))  # 或 json.load(返回对象)

print(data)
print(data['content']['out'])

2.1.3 小结

在模拟登陆等场景，经常需要发送post请求，直接使用requests.post(url,data)即可

2.2 使用代理

2.2.1 为什么要使用代理

  1. 让服务器以为不是同一个客户端在请求
  2. 防止我们的真实地址被泄露，防止被追究

2.2.2 理解使用代理的过程

2.2.3 理解正向代理和反向代理的区别

通过上图可以看出：

  • 正向代理：对于浏览器知道服务器的真实地址，例如VPN
  • 反向代理：浏览器不知道服务器的真实地址，例如nginx

详细讲解：

正向代理：客户端与正向代理客户端在同一局域网，客户端发出请求，正向代理 替客户端，向服务器发出请求

​ 服务器不知道谁是真正的客户端，正向代理隐藏了真实的请求客户端

反向代理：服务器与反向代理在同一个局域网，客服端发出请求，反向代理替服务端，接收请求

​ 反向代理服务器会把我们的请求分转发到真实提供服务的各台服务器

​ Nginx就是性能非常好的反向代理服务器，用来做负载均衡

2.2.4 代理的使用

  • 用法：

    requests.get("http://www.baidu.com",  proxies = proxies)

  • proxies的形式：字典

  • 例如：

     proxies = {
      "http": "http://12.34.56.79:9527",
      "https": "https://12.34.56.79:9527",
}

2.2.5 代理IP的分类

根据代理ip的匿名程度，代理IP可以分为下面四类：

  • 透明代理(Transparent Proxy)：客户端根本不需要知道有代理服务器的存在，但是它传送的仍然是真实的IP

    ​ 使用透明代理时，对方服务器是可以知道你使用了代理的，并且他们也知道你的真实IP

  • 匿名代理(Anonymous Proxy)：匿名代理隐藏了您的真实IP，但是向访问对象可以检测是使用代理服务器访问他们的

    ​ 会改变我们的请求信息，服务器端有可能会认为我们使用了代理

    ​ 不过使用此种代理时，虽然被访问的网站不能知道你的ip地址，但仍然可以知道你在使用代理

    ​ 当然某些能够侦测ip的网页也是可以查到你的ip

    ​ （https://wenku.baidu.com/view/9bf7b5bd3a3567ec102de2bd960590c69fc3d8cf.html）

  • 高匿代理(Elite proxy或High Anonymity Proxy)：高匿名代理不改变客户机的请求，在服务器看来就像有个真正的客户浏览器在访问它

    ​ 这时客户的真实IP是隐藏的，完全用代理服务器的信息替代了您的所有信息，

    ​ 同时服务器端不会认为我们使用了代理

在使用的使用，毫无疑问使用高匿代理效果最好

从请求使用的协议可以分为：

  • http代理
  • https代理
  • socket代理等

不同分类的代理，在使用的时候需要根据抓取网站的协议来选择

2.2.6 代理IP使用的注意点

  • 反反爬

    使用代理ip是非常必要的一种反反爬的方式

    但即使使用了代理ip，对方服务器任然会有很多的方式来检测我们是否是一个爬虫，比如：

    • 一段时间内，检测IP访问的频率，访问太多频繁会屏蔽

    • 检查Cookie，User-Agent，Referer等header参数，若没有则屏蔽

    • 服务方购买所有代理提供商，加入到反爬虫数据库里，若检测是代理则屏蔽

      所以更好的方式在使用代理ip的时候使用随机的方式进行选择使用，不要每次都用一个代理ip

  • 代理ip池的更新

    购买的代理ip很多时候大部分(超过60%)可能都没办法使用，这个时候就需要通过程序去检测哪些可用，把不能用的删除掉。

2.3 配置

  • 浏览器配置代理

    右边三点==> 设置==> 高级==> 代理==> 局域网设置==> 为LAN使用代理==> 输入ip和端口号即可

    参考网址：https://jingyan.baidu.com/article/a681b0dece76407a1843468d.html

  • 代码配置

    urllib

    handler = urllib.request.ProxyHandler({'http': '114.215.95.188:3128'})
opener = urllib.request.build_opener(handler)
# 后续都使用opener.open方法去发送请求即可

    requests

    # 用到的库
import requests
# 写入获取到的ip地址到proxy
# 一个ip地址
proxy = {
    'https':'221.178.232.130:8080'
}
"""
# 多个ip地址
proxy = [
  {'https':'221.178.232.130:8080'},
  {'https':'221.178.232.130:8080'}
]
import random
proxy = random.choice(proxy)
"""
# 用百度检测ip代理是否成功
url = 'https://www.baidu.com/s?'
# 请求网页传的参数
params={
    'wd':'ip地址'
}
# 请求头
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Safari/537.36'
}
# 发送get请求
response = requests.get(url=url,headers=headers,params=params,proxies=proxy)
# 获取返回页面保存到本地，便于查看
with open('ip.html','w',encoding='utf-8') as f:
    f.write(response.text)

2.4 小结

  1. requests发送post请求使用requests.post方法，带上请求体，其中请求体需要时字典的形式，传递给data参数接收
  2. 在requests中使用代理，需要准备字典形式的代理，传递给proxies参数接收
  3. 不同协议的url地址，需要使用不同的代理去请求