Python爬虫：requests的headers该怎么填

大家好，欢迎来到IT知识分享网。

1、为什么要写headers？

我们一般写的爬虫会默认向服务器发送爬取请求，而一般情况下网站是不允许被爬虫访问的，输出的text信息中会出现抱歉，无法访问等字眼。我们通过更改User-Agent字段则可以实现网站请求，实现网页应答。

2、 headers该怎么找？

最简单的步骤如下：

1. 打开你要爬虫的网页
2. 按F12或通过浏览器右上角的“更多工具”选项选择【开发者工具】
3. 按F5刷新网页
4. 点击Network，再点击Doc
5. 找到Headers，查看Request Headers的User-Agent字段，直接复制
6. 将刚才复制的User-Agent字段构造成字典形式

界面显示与下图相似

headers中有很多内容，主要常用的就是user-agent 和 host，他们是以键对的形式展现出来，如果user-agent 以字典键对形式作为headers的内容，就可以反爬成功，就不需要其他键对；否则，需要加入headers下的更多键对形式。

3、如果你想知道User-Agent到底是什么？

User-Agent会告诉网站服务器，访问者是通过什么工具来请求的，如果是爬虫请求，一般会拒绝，如果是用户浏览器，就会应答。

user-agent: Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.106 Safari/537.36 Edg/80.0.361.54 

User-Agent通常格式：

Mozilla/5.0 (平台) 引擎版本 浏览器版本号 

第一部分：Mozilla/5.0
历史原因，User-Agent里默认带有Mozilla字样。

第二部分：平台信息
Windows NT 6.1是指我使用的操作系统的版本，win7对应的就是Windows NT 6.1。
Win64; x64是指操作系统是64位的

Windows系统下：

Windows NT 5.0 // Windows 2000  Windows NT 5.1 // Windows XP Windows NT 6.0 // Windows Vista  Windows NT 6.1 // Windows 7 Windows NT 6.2 // Windows 8 Windows NT 6.3 // Windows 8.1 Windows NT 10.0 // Windows 10 Win64; x64 // Win64 on x64 WOW64 // Win32 on x64 

Linux系统下：

X11; Linux i686; // Linux，i686 版本 X11; Linux x86_64; // Linux，x86_64 版本 X11; Linux i686 on x86_64 // Linux， x86_64 的 i686 版本 

macOS系统下：

Macintosh; Intel Mac OS X 10_9_0 // Intel x86 或者 x86_64 Macintosh; PPC Mac OS X 10_9_0 // PowerPC Macintosh; Intel Mac OS X 10.12; // 不用下划线，用点 

第三部分：引擎版本

通常默认为 AppleWebKit/537.36 (KHTML, like Gecko) …Safari/537.36

第四部分：浏览器版本

这里使用的浏览器版本为：Edg/80.0.361.54

User-Agent字段详细解释：[HTTP请求头之User-Agent]

读者福利：知道你对Python感兴趣，便准备了这套python学习资料

👉[[CSDN大礼包：《python兼职资源&全套学习资料》免费分享]]（安全链接，放心点击）

对于0基础小白入门：

如果你是零基础小白，想快速入门Python是可以考虑的。
一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以找到适合自己的学习方案

包括：Python激活码+安装包、Python web开发，Python爬虫，Python数据分析，人工智能、机器学习等习教程。带你从零基础系统性的学好Python！

零基础Python学习资源介绍

• ① Python所有方向的学习路线图，清楚各个方向要学什么东西
• ② 600多节Python课程视频，涵盖必备基础、爬虫和数据分析
• ③ 100多个Python实战案例，含50个超大型项目详解，学习不再是只会理论
• ④ 20款主流手游迫解 爬虫手游逆行迫解教程包
• ⑤ 爬虫与反爬虫攻防教程包，含15个大型网站迫解
• ⑥ 爬虫APP逆向实战教程包，含45项绝密技术详解
• ⑦ 超300本Python电子好书，从入门到高阶应有尽有
• ⑧ 华为出品独家Python漫画教程，手机也能学习
• ⑨ 历年互联网企业Python面试真题,复习时非常方便

👉Python学习路线汇总👈

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。（全套教程文末领取哈）

👉Python必备开发工具👈

温馨提示：篇幅有限，已打包文件夹，获取方式在：文末

👉Python学习视频600合集👈

观看零基础学习视频，看视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉实战案例👈

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉100道Python练习题👈

检查学习结果。

👉面试刷题👈

python副业兼职与全职路线

上述这份完整版的Python全套学习资料已经上传CSDN官方，朋友们如果需要可以微信扫描下方CSDN官方认证二维码 即可领取↓↓↓

👉[[CSDN大礼包：《python安装包&全套学习资料》免费分享]]（安全链接，放心点击）