Python爬虫urllib和requests的区别详解

我们讲了requests的用法以及利用requests简单爬取、保存网页的方法，这节课我们主要讲urllib和requests的区别。

1、获取网页数据

第一步，引入模块。

两者引入的模块是不一样的，这一点显而易见。

第二步，简单网页发起的请求。

urllib是通过urlopen方法获取数据。

requests需要通过网页的响应类型获取数据。

第三步，数据封装。

对于复杂的数据请求，我们只是简单的通过urlopen方法肯定是不行的。最后，如果你的时间不是很紧张，并且又想快速的提高，最重要的是不怕吃苦，建议你可以联系维：762459510 ，那个真的很不错，很多人进步都很快，需要你不怕吃苦哦！大家可以去添加上看一下~

urllib中，我们知道对于有反爬虫机制的网站，我们需要对URL进行封装，以获取到数据。我们可以回顾下前几节课的内容：

requests模块中，就不需要这么复杂的操作，直接在第二步中，加入参数headers即可：

2、解析网页数据

urllib和requests都可以通过bs4和re进行数据的解析，requests还可以通过xpath进行解析。具体解析方法之后会详解

3.保存数据

urllib需要引入xlwt模块进行新建表格、sheet表格写入数据.最后，如果你的时间不是很紧张，并且又想快速的提高，最重要的是不怕吃苦，建议你可以联系维：762459510 ，那个真的很不错，很多人进步都很快，需要你不怕吃苦哦！大家可以去添加上看一下~

requests通过with…as直接虚入数据：

到此这篇关于python爬虫urllib和requests的区别详解的文章就介绍到这了,更多相关python爬虫urllib和requests的区别内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网！