Python 官方文档:入门教程 => 点击学习
本篇文章给大家分享的是有关怎么在python中利用多线程爬取网站壁纸,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。Python主要用来做什么Python主要应用于:1、web开
本篇文章给大家分享的是有关怎么在python中利用多线程爬取网站壁纸,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。
Python主要应用于:1、web开发;2、数据科学研究;3、网络爬虫;4、嵌入式应用开发;5、游戏开发;6、桌面应用开发。
· Python 3.6
· PyCharm
网站是静态网站,没有加密,可以直接爬取
先在列表页面获取每张壁纸的详情页地址
在壁纸详情页面获取壁纸真实高清url地址
保存地址
模拟浏览器请请求网页,获取网页数据
这里只选择爬取前10页的数据
代码如下
import threadingimport parselimport requestsdef get_html(html_url): ''' 获取网页源代码 :param html_url: 网页url :return: ''' response = requests.get(url=html_url, headers=headers) return responsedef get_par(html_data): ''' 把 response.text 转换成 selector 对象 解析提取数据 :param html_data: response.text :return: selector 对象 ''' selector = parsel.Selector(html_data) return selectordef download(img_url, title): ''' 保存数据 :param img_url: 图片地址 :param title: 图片标题 :return: ''' content = get_html(img_url).content path = '壁纸\\' + title + '.jpg' with open(path, mode='wb') as f: f.write(content) print('正在保存', title)def main(url): ''' 主函数 :param url: 列表页面 url :return: ''' html_data = get_html(url).text selector = get_par(html_data) lis = selector.CSS('.wb_listbox div dl dd a::attr(href)').getall() for li in lis: img_data = get_html(li).text img_selector = get_par(img_data) img_url = img_selector.css('.wb_showpic_main img::attr(src)').get() title = img_selector.css('.wb_pictitle::text').get().strip() download(img_url, title) end_time = time.time() - s_time print(end_time)if __name__ == '__main__': for page in range(1, 11): url = 'Http://www.deskbizhi.com/min/list-{}.html'.fORMat(page) main_thread = threading.Thread(target=main, args=(url,)) main_thread.start()
以上就是怎么在python中利用多线程爬取网站壁纸,小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注编程网Python频道。
--结束END--
本文标题: 怎么在python中利用多线程爬取网站壁纸
本文链接: https://www.lsjlt.com/news/246629.html(转载时请注明来源链接)
有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341
下载Word文档到电脑,方便收藏和打印~
2024-03-01
2024-03-01
2024-03-01
2024-02-29
2024-02-29
2024-02-29
2024-02-29
2024-02-29
2024-02-29
2024-02-29
回答
回答
回答
回答
回答
回答
回答
回答
回答
回答
0