被scrapy自动添加的头部
在没有任何配置的情况下，scrapy会对请求默认加上一些头部信息
scrapy会通过配置文件中的user_agent配置，自动为头部添加user-agent，这条配置会被任何包含user-agent的配置覆盖
当请求经过下载器后，会被自动添加头部accept-encoding: gzip,deflate, 会被任意包含accept-encoding的头部配置覆盖
配置settings.py文件中默认的头部
#default_request_headers = {
# 'accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
# 'accept-language': 'en'
#}
当这个配置属于注释状态时，头部被设置为accept:text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8与
accept-language: en，可以通过取消注释修改或增删其中的内容
优先级
- 会被request和中间件中的头部配置覆盖
- 可以覆盖scrapy自动添加的user-agent和accept-encoding
可以在爬虫中通过custom_settings设置配置仅在当前爬虫生效
class xxxspider(scrapy.spider):
...
custom_settings = {
default_request_headers = {...}
}
....
在request中设置头部
当给引擎返回request时，可以为他配置头部
...
def parse(self):
headers = {
...
}
yield scrapy.request(url, headers=headers)
优先级
- request中设置的header会和settings.py文件中的默认头部合并到一起，如果有重复的配置，那么会覆盖那条配置
- 会被中间件中的配置覆盖
在中间件中配置
当request请求通过下载中间件发往下载器时，可以通过下载中间件配置头部
class xxxdownloadermiddleware
def process_request(self, request, spider):
request.headers["key"] = value
return none
还需要在配置文件中启用下载中间价
downloader_middlewares = {
'project.middlewares.xxxdownloadermiddleware': 543,
}
优先级
- 会覆盖除了referer以外的所有头部配置
referer中间件
当存在多次请求时，referer中间件会自动帮request的头部中的referer加上上一次请求的url
优先级
- 最高，会在所有头部配置完之后，添加referer
- 除了只请求一次没有referer的情况，就算在其他头部配置中设置了referer也会被referer中间件覆盖
关闭referer中间件
在配置文件中添加referer_enabled=false即可关闭
优先级分析
scrapy自动添加的user-agent与accept-encoding < 配置文件中的默认配置default_request_headers < request中修改的header < 中间件中添加的header < referer中间件添加的referer
此篇文章仅表示自己对scrapy的理解，如有错误欢迎指正
到此这篇关于scrapy头部修改的文章就介绍到这了,更多相关scrapy头部修改内容请搜索www.887551.com以前的文章或继续浏览下面的相关文章希望大家以后多多支持www.887551.com！
