python中使用XPath爬取小说的方法

这篇“python中使用XPath爬取小说的方法”文章的知识点大部分人都不太理解，所以小编给大家总结了以下内容，内容详细，步骤清晰，具有一定的借鉴价值，希望大家阅读完这篇文章能有所收获，下面我们一起来看看这篇“Python中使用XPath爬取小说的方法”文章吧。

说明

xpath是一种在XML文档中搜索信息的语言。

过程

获得浏览器中的标题和作者测试。

在浏览器安装xpath插件:

在html中找到book-mid-info:

找到我们想得到小说的名字、作者

即//div[@class='book-mid-info']/h5/a/txt()

实例

# 作者：# 开发时间：2021/4/8/0008 8:24 import requestsfrom lxml import etreeurl="https://www.qidian.com/rank/yuepiao"headers={'user-agent':'Mozilla/5.0 (windows NT 10.0; WOW64) AppleWEBKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.25 Safari/537.36 Core/1.70.3861.400 QQBrowser/10.7.4313.400'}#发送请求resp=requests.get(url,headers)e=etree.HTML(resp.text) #类型转换，把str转变为class 'lxml.etree._ELementprint(type(e))names=e.xpath('//div[@class="book-mid-info"]/h5/a/text()')authors=e.xpath('//p[@class="author"]/a[1]/text()')print(names)print(authors)#名称和作者对应for name,authors in zip(names,authors):    print(name,":",authors)

以上就是关于“python中使用XPath爬取小说的方法”这篇文章的内容，相信大家都有了一定的了解，希望小编分享的内容对大家有帮助，若想了解更多相关的知识内容，请关注编程网Python频道。