首页 > 资讯 > 后端开发 > Python >Python爬虫和反爬技术过程详解

290

分享到

Python爬虫和反爬技术过程详解

2024-04-02 19:04:59 290人浏览安东尼

Python 官方文档：入门教程 => 点击学习

摘要

目录一、浏览器模拟（Headers）如何找到浏览器信息打开浏览器，按F12（或者鼠标右键+检查）点击如下图所示的Network按钮按键盘Ctrl+R（Mac：Command+R）进行

一、浏览器模拟（Headers）

浏览器模拟是最常用的一种反爬方式。设想一下：一个网站不停的被同一个版本的浏览器频率的访问，那大概了就要被认为是机器人了。所以上有政策下有对策，我们每次访问都使用不同的浏览器版本信息不就可以了吗。首先我们来看一下如何找到自己浏览器信息。

如何找到浏览器信息

打开浏览器，按F12（或者鼠标右键+检查）

点击如下图所示的Network按钮

按键盘Ctrl+R（MAC：Command+R）进行抓包

操作完上一步之后，随便点击右侧name中的一项，即可出现下面的页面，红框中的内容就是我们要找的浏览器信息了。

备注：有一些网站会带有Referer信息，这里的作用主要是在于告诉浏览器你是从哪个网址跳转过来的，类似于P站这种站点就会进行相应的检查，所以我们可以通过上述同样的方式找到浏览器的Referer信息。如下图红框所示：

通过上面的步骤，我们就能够成功的得到浏览器的版本信息了，如果能够获得不同的版本信息我们就能够模拟不同的浏览器进行操作了。

在Python中使用user-agent的方式如下：


headers = {
  			'Referer': '具体的Referer',
            'User-Agent': '具体的user-agent'
    }
requests.get(url,headers=headers)

常用的请求头（模拟浏览器）信息如下：


User_Agent = [
    "Mozilla/5.0 (iPod; U; CPU iPhone OS 4_3_2 like Mac OS X; zh-cn) AppleWEBKit/533.17.9 (Khtml, like Gecko) Version/5.0.2 Mobile/8H7 Safari/6533.18.5",
    "Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_3_2 like Mac OS X; zh-cn) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8H7 Safari/6533.18.5",
    "MQQBrowser/25 (linux; U; 2.3.3; zh-cn; HTC Desire S Build/GRI40;480*800)",
    "Mozilla/5.0 (Linux; U; Android 2.3.3; zh-cn; HTC_DesireS_S510e Build/GRI40) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1",
    "Mozilla/5.0 (SymbianOS/9.3; U; Series60/3.2 NokiaE75-1 /110.48.125 Profile/MIDP-2.1 Configuration/CLDC-1.1 ) AppleWebKit/413 (KHTML, like Gecko) Safari/413",
    "Mozilla/5.0 (iPad; U; CPU OS 4_3_3 like Mac OS X; zh-cn) AppleWebKit/533.17.9 (KHTML, like Gecko) Mobile/8J2",
    "Mozilla/5.0 (windows NT 5.2) AppleWebKit/534.30 (KHTML, like Gecko) Chrome/12.0.742.122 Safari/534.30",
    "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_2) AppleWebKit/535.1 (KHTML, like Gecko) Chrome/14.0.835.202 Safari/535.1",
    "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_2) AppleWebKit/534.51.22 (KHTML, like Gecko) Version/5.1.1 Safari/534.51.22",
    "Mozilla/5.0 (iPhone; CPU iPhone OS 5_0 like Mac OS X) AppleWebKit/534.46 (KHTML, like Gecko) Version/5.1 Mobile/9A5313e Safari/7534.48.3",
    "Mozilla/5.0 (iPhone; CPU iPhone OS 5_0 like Mac OS X) AppleWebKit/534.46 (KHTML, like Gecko) Version/5.1 Mobile/9A5313e Safari/7534.48.3",
    "Mozilla/5.0 (iPhone; CPU iPhone OS 5_0 like Mac OS X) AppleWebKit/534.46 (KHTML, like Gecko) Version/5.1 Mobile/9A5313e Safari/7534.48.3",
    "Mozilla/5.0 (Windows NT 6.1) AppleWebKit/535.1 (KHTML, like Gecko) Chrome/14.0.835.202 Safari/535.1",
    "Mozilla/5.0 (compatible; MSIE 9.0; Windows Phone OS 7.5; Trident/5.0; IEMobile/9.0; SAMSUNG; OMNIA7)",
    "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0; XBLWP7; ZuneWP7)",
    "Mozilla/5.0 (Windows NT 5.2) AppleWebKit/534.30 (KHTML, like Gecko) Chrome/12.0.742.122 Safari/534.30",
    "Mozilla/5.0 (Windows NT 5.1; rv:5.0) Gecko/20100101 Firefox/5.0",
    "Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.2; Trident/4.0; .net CLR 1.1.4322; .NET CLR 2.0.50727; .NET4.0E; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729; .NET4.0C)",
    "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.2; .NET CLR 1.1.4322; .NET CLR 2.0.50727; .NET4.0E; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729; .NET4.0C)",
    "Mozilla/4.0 (compatible; MSIE 60; Windows NT 5.1; SV1; .NET CLR 2.0.50727)",
    "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E)",
    "Opera/9.80 (Windows NT 5.1; U; zh-cn) Presto/2.9.168 Version/11.50",
    "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1)",
    "Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1; Trident/4.0; .NET CLR 2.0.50727; .NET CLR 3.0.04506.648; .NET CLR 3.5.21022; .NET4.0E; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729; .NET4.0C)",
    "Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN) AppleWebKit/533.21.1 (KHTML, like Gecko) Version/5.0.5 Safari/533.21.1",
    "Mozilla/5.0 (Windows; U; Windows NT 5.1; ) AppleWebKit/534.12 (KHTML, like Gecko) Maxthon/3.0 Safari/534.12",
    "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 2.0.50727; TheWorld)",
    "Opera/9.80 (X11; Linux i686; ubuntu/14.10) Presto/2.12.388 Version/12.16",
    "Opera/9.80 (Windows NT 6.0) Presto/2.12.388 Version/12.14",
    "Mozilla/5.0 (Windows NT 6.0; rv:2.0) Gecko/20100101 Firefox/4.0 Opera 12.14",
    "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.0) Opera 12.14",
    "Opera/12.80 (Windows NT 5.1; U; en) Presto/2.10.289 Version/12.02",
    "Opera/9.80 (Windows NT 6.1; U; es-ES) Presto/2.9.181 Version/12.00",
    "Opera/9.80 (Windows NT 5.1; U; zh-sg) Presto/2.9.181 Version/12.00",
    "Opera/12.0(Windows NT 5.2;U;en)Presto/22.9.168 Version/12.00",
    "Opera/12.0(Windows NT 5.1;U;en)Presto/22.9.168 Version/12.00",
    "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:40.0) Gecko/20100101 Firefox/40.1",
    "Mozilla/5.0 (Windows NT 6.3; rv:36.0) Gecko/20100101 Firefox/36.0",
    "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_10; rv:33.0) Gecko/20100101 Firefox/33.0",
    "Mozilla/5.0 (X11; Linux i586; rv:31.0) Gecko/20100101 Firefox/31.0",
    "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20130401 Firefox/31.0",
    "Mozilla/5.0 (Windows NT 5.1; rv:31.0) Gecko/20100101 Firefox/31.0",
    "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:29.0) Gecko/20120101 Firefox/29.0",
    "Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:25.0) Gecko/20100101 Firefox/29.0",
    "Mozilla/5.0 (X11; OpenBSD amd64; rv:28.0) Gecko/20100101 Firefox/28.0",
    "Mozilla/5.0 (X11; Linux x86_64; rv:28.0) Gecko/20100101  Firefox/28.0",
    "Mozilla/5.0 (Windows NT 6.1; rv:27.3) Gecko/20130101 Firefox/27.3",
    "Mozilla/5.0 (Windows NT 6.2; Win64; x64; rv:27.0) Gecko/20121011 Firefox/27.0",
    "Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:25.0) Gecko/20100101 Firefox/25.0",
    "Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:25.0) Gecko/20100101 Firefox/25.0",
    "Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:24.0) Gecko/20100101 Firefox/24.0",
    "Mozilla/5.0 (Windows NT 6.0; WOW64; rv:24.0) Gecko/20100101 Firefox/24.0",
    "Mozilla/5.0 (Macintosh; Intel Mac OS X 10.8; rv:24.0) Gecko/20100101 Firefox/24.0"
]

二、IP代理

除了通过同一个浏览器进行访问，还可能出现的情况就是通过同一个IP不断的访问网址，这样很容易造成整个IP被封，个人的IP还好，如果一个公司的IP都不能访问某个网站，那将会是怎样的效果就不用多说了吧。

对于IP来说除了需要控制IP地址的变更之外，还要控制访问速度，毕竟程序快起来是不眨眼的。

Python使用IP代理的方式如下：


import requests
proxies = {"Http": 'IP地址'}
requests.get(url, headers=headers, proxies=proxies)

注：关于代理IP去哪找的问题，网上一搜一大把，我们放心大胆的使用就可以了。

控制访问频率使用time模块即可：


import time
time.sleep(5)

三、Cookies模拟

有很多时候我们访问网址会遇到403错误，一般这种情况表示无权访问请求的资源，通常在没有设置cookie或是没有设置正确的cookie会导致这个错误。cookie的存在就像是一个网址的通行证，你会发现在你登陆和未登陆网页的时候cookie是会发生变化的。

手动获取cookie

我们可以通过和获取user-agent一样的方式来手动获取cookie：

自动获取cookie

我们使用session方法就能够实现自动获取cookie了

示例代码如下：


import requests
session = requests.session()
session.cookies = LWPCookiejar(filename='Cookies.txt')
def login():
    name = input("输入账户:")
    passWord = input("输入密码:")
    url = "url"
    data = {
        "ck": "",
        "name": name,
        "password": password,
        "remember": "True",
        "ticket": "",
    }
    response = session.post(url, data=data)
    print(response.text)
    session.cookies.save()  # 保存 cookie

这样我们的cookie就能够得以保存了。

使用session加载cookie的方式如下：


session.cookies = LWPCookieJar(filename='Cookies.txt')
session.cookies.load(ignore_discard=True)

使用cookies

当我们有了cookies时，使用起来就简单很多了，直接使用和加载user-agent一样的方式即可。


headers = {
  			'Referer': '具体的Referer',
        'User-Agent': '具体的user-agent',
  			'Cookie': 'cookie'
    }
requests.get(url,headers=headers)

对于反爬的一些基础操作就介绍完了更多关于python爬虫和反爬技术的资料请关注编程网其它相关文章！

您可能感兴趣的文档:

点击免费下载>>软考高级考试备考技巧/历年真题/备考精华资料

--结束END--

本文标题: Python爬虫和反爬技术过程详解

本文链接: https://www.lsjlt.com/news/134279.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑，方便收藏和打印～

下载Word文档

去做题

猜你喜欢

Python爬虫和反爬技术过程详解

目录一、浏览器模拟（Headers）如何找到浏览器信息打开浏览器，按F12（或者鼠标右键+检查）点击如下图所示的Network按钮按键盘Ctrl+R（MAC：Command+R）进行...

99+

2024-04-02
Python小知识 - Python爬虫进阶：如何克服反爬虫技术

Python爬虫进阶：如何克服反爬虫技术爬虫是一种按照一定的规则，自动抓取网页信息的程序。爬虫也叫网页蜘蛛、蚂蚁、小水滴，是一种基于特定算法的自动化程序，能够按照一定的规则自动的抓取网页中的信...

99+

2023-09-08

Python YYDS
Python音乐爬虫完美绕过反爬

目录前言开始分析（x0）分析（x1）分析（x2）分析（x3）分析（x4）通过分析获取到音乐JavaScript绕过之参数冗余CSRF攻击与防御总结代码前言大家好，我叫善念。这是我...

99+

2024-04-02
常见的反爬虫urllib技术分享

目录通过robots.txt来限制爬虫：通过User-Agent来控制访问：验证码：IP限制：cookie：JS渲染：爬虫和反爬的对抗一直在进行着…为了帮助更好的进行爬...

99+

2024-04-02
爬虫技术之分布式爬虫架构的讲解

分布式爬虫架构并不是一开始就出现的。而是一个逐步演化的过程。最开始入手写爬虫的时候，我们一般在个人计算机上完成爬虫的入门和开发，而在真实的生产环境，就不能用个人计算机来运行爬虫程序了，而是将爬虫程序部署在...

99+

2024-04-02
如何自学Python爬虫技术

作为程序员或者软件测试员们的一员，置信大家一定都听说过python语言。Python语言这两年是越来越火了，它渐渐崛起也是有缘由的。比如市场需求、入门简单易学、支持多种语言……当然这些都是很官方的。说白了，就是写个web服务，可以用pyth...

99+

2023-01-31

爬虫技术 Python
python反反爬虫技术限制连续请求时间处理

目录前言用勾子函数根据缓存行为设置访问时间爬虫相关库1. 爬虫常用的测试网站：httpbin.org2. requests-cache为原有代码微创式添加缓存功能缓存的清空...

99+

2024-04-02
Python如何破解反爬虫

本篇文章给大家分享的是有关Python如何破解反爬虫，小编觉得挺实用的，因此分享给大家学习，希望大家阅读完这篇文章后可以有所收获，话不多说，跟着小编一起来看看吧。通过用JS在本地生成随机字符串的反爬虫机制，在利用Python写爬虫的时候经常...

99+

2023-06-17
Python爬虫技术栈 | urllib库&&urllib3库

❤️urllib库详解❤️ 每篇前言：第一部分：urllib库一、request模块：发送请求 1.urlopen() ...

99+

2023-09-10

python 爬虫 urllib库urllib3库
Python爬虫抓取技术的门道

web是一个开放的平台，这也奠定了web从90年代初诞生直至今日将近30年来蓬勃的发展。然而，正所谓成也萧何败也萧何，开放的特性、搜索引擎以及简单易学的html、css技术使得web成为了互联网领域里最为流行和成熟的信息传播媒介；但如今作为...

99+

2023-06-02
Python爬虫：如何快速掌握Python爬虫核心技术，批量爬取网络图片

对于爬虫，很多伙伴首选的可能就是Python了吧，我们在学习Python爬虫的时候得有侧重点，这篇文章教大家如何快速掌握Python爬虫的核心！有不清楚的地方，可以留言！1. 概述本文主要实现一个简单的爬虫，目的是从一个百度贴吧页面下载图片...

99+

2023-06-02
对比Golang爬虫和Python爬虫：技术选用、性能差异和应用领域评估

Golang爬虫与Python爬虫的对比：技术选型、性能差异和应用场景分析概述：随着互联网的迅猛发展，爬虫成为了获取网页数据、分析数据、挖掘信息的重要工具。在选择爬虫工具时，往往会遇到一个问题：是选择使用P...

99+

2024-01-20

- 技术选型
怎么使用Python进行爬虫技术

这篇文章主要讲解了“怎么使用Python进行爬虫技术”，文中的讲解内容简单清晰，易于学习与理解，下面请大家跟着小编的思路慢慢深入，一起来研究和学习“怎么使用Python进行爬虫技术”吧！1.抓取py的url...

99+

2024-04-02
Python和JS反爬之解决反爬参数 signKey

目录实战场景系统分析实战场景 Python 反爬中有一大类，叫做字体反爬，核心的理论就是通过字体文件或者 CSS 偏移，实现加密逻辑本次要采集的站点是：54yr55y855S15b...

99+

2024-04-02
Python爬虫过程是怎样的

本文小编为大家详细介绍“Python爬虫过程是怎样的”，内容详细，步骤清晰，细节处理妥当，希望这篇“Python爬虫过程是怎样的”文章能帮助大家解决疑惑，下面跟着小编的思路慢慢深入，一起来学习新知识吧。网络爬虫从一个或若干初始网页的URL开...

99+

2023-06-17
python爬虫selenium模块详解

目录selenium模块 selenium基本概念基本使用基于浏览器自动化的操作selenium处理iframe：selenium模拟登陆QQ空间无头浏览器和规避检测selenium...

99+

2024-04-02
Python爬虫之urllib库详解

目录一、说明：二、urllib四个模块组成：三、urllib.request1、urlopen函数2、response 响应类型3、Request对象　4、高级请求方式四、urlli...

99+

2024-04-02
怎么使用python反爬虫技术限制连续请求时间

这篇文章主要介绍了怎么使用python反爬虫技术限制连续请求时间的相关知识，内容详细易懂，操作简单快捷，具有一定借鉴价值，相信大家阅读完这篇怎么使用python反爬虫技术限制连续请求时间文章都会有所收获，下面我们一起来看看吧。用勾子函数根据...

99+

2023-07-02
python爬虫教程之bs4解析和xpath解析详解

目录bs4解析原理:如何实例化BeautifulSoup对象:用于数据解析的方法和属性:xpath解析xpath解析原理:实例化一个etree对象:xpath( ‘xpa...

99+

2024-04-02
Python爬虫urllib和requests的区别详解

我们讲了requests的用法以及利用requests简单爬取、保存网页的方法，这节课我们主要讲urllib和requests的区别。 1、获取网页数据第一步，引入模块。两者引入...

99+

2024-04-02