iis服务器助手广告广告
返回顶部
首页 > 资讯 > 后端开发 > Python >生产者与消费者+Queue(线程安全)
  • 825
分享到

生产者与消费者+Queue(线程安全)

生产者线程消费者 2023-01-30 23:01:50 825人浏览 独家记忆

Python 官方文档:入门教程 => 点击学习

摘要

from queue import Queue from lxml import etree import requests from urllib import request from threading import Thread

from queue import Queue
from lxml import etree
import requests
from urllib import request
from threading import Thread
import re, os

class Producter(Thread):

    def __init__(self, page_queue, img_queue, *args, **kwargs):
        super(Producter,self).__init__(*args, **kwargs)
        self.page_queue = page_queue
        self.img_queue = img_queue
        self.head = 'Mozilla/5.0 (windows NT 10.0; Win64; x64) AppleWEBKit/537.36 (Khtml, like Gecko) Chrome/71.0.3578.98 Safari/537.36'

    def run(self):
        while True:
            url = self.page_queue.get()
            self.parse(url)
    def parse(self, url):
        res = requests.get(url, params=self.head)
        text = res.text
        html = etree.HTML(text)
        imgs = html.xpath('//div[@class="col-xs-6 col-sm-3"]//img[@class!="gif"]')
        print(imgs)
        for img in imgs:
            img_path = img.get('data-original')
            alt = img.get('alt')
            alt = re.sub(r'[\??.。!!*]', '', alt)  # 将特殊符号替换
            sub = os.path.splitext(img_path)  # 获取文件后缀
            sub = re.sub(r'[(\!dta)]', '', sub[1])
            filename = './imgs/'+alt+sub
            print(img_path, filename)
            self.img_queue.put((img_path, filename))


class Consumer(Thread):

    def __init__(self, page_queue, img_queue, *args, **kwargs):
        super(Consumer, self).__init__(*args, **kwargs)
        self.page_queue = page_queue
        self.img_queue = img_queue

    def run(self):
        while True:
            url = self.img_queue.get()
            self.parse(url[0], url[1])
            print('消费者')
    def parse(self, url, path):
        # 下载文件到指定位置
        request.urlretrieve(url, path)


def main():
    page_queue = Queue(10)
    img_queue = Queue(10000)
    for i in range(1, 11):
        uri = 'https://www.doutula.com/article/list/?page='+str(i)
        page_queue.put(uri)
    for i in range(5):
        t1 = Producter(page_queue, img_queue)
        t1.start()
    for i in range(5):
        t2 = Consumer(page_queue, img_queue)
        t2.start()


if __name__ == '__main__':
    main()

注意:

  如果使用threading.Lock(),或者threading.Condition(),都是线程安全的,它们都是,共同方法(lock.acquire(),lock.release()),只不过Condition()有多了几个方法,wait()、notify()、notify_all(),如果等待的情况下,使用wait()将不占用CPU,当用资源消耗时,notify唤醒等待的线程。Lock()一直占用CPU资源。感觉还是Queue好用是吧。

--结束END--

本文标题: 生产者与消费者+Queue(线程安全)

本文链接: https://www.lsjlt.com/news/180909.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • 生产者与消费者+Queue(线程安全)
    from queue import Queue from lxml import etree import requests from urllib import request from threading import Thread...
    99+
    2023-01-30
    生产者 线程 消费者
  • 生产者、消费者模型---Queue类
    Queue队列在几乎每种编程语言都会有,python的列表隐藏的一个特点就是一个后进先出(LIFO)队列。而本文所讨论的Queue是python标准库queue中的一个类。它的原理与列表相似,但是先进先出(FIFO)队列。而内部实现更为完...
    99+
    2023-01-30
    生产者 模型 消费者
  • Java多线程:生产者与消费者案例
    目录前言工具知识点设计思路具体步骤总结前言 想象一下生活中哪些是和线程沾边的?饭店炒菜就是一个很好的例子 首先客人要吃菜,前提是厨师要炒好,也就是说,厨师不炒好的话客人是没有饭菜的。...
    99+
    2024-04-02
  • 生产者消费者
    1、概念 所谓,生产者与消费者模型,本质上是把进程通信的问题分开考虑 生产者,只需要往队列里面丢东西(生产者不需要关心消费者) 消费者,只需要从队列里面拿东西(消费者也不需要关心生产者) 1 # 多线程实现生产者消费者模型 2 ...
    99+
    2023-01-30
    生产者 消费者
  • 爬虫——生产者消费者
    结构 生产者生成网址并放入队列 多个消费者从队列中取出网址 1 from queue import Queue 2 import time, threading, requests 3 4 url_base = 'ht...
    99+
    2023-01-30
    爬虫 生产者 消费者
  • Java多线程中的生产者与消费者案例讲解
    这篇文章主要讲解了“Java多线程中的生产者与消费者案例讲解”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Java多线程中的生产者与消费者案例讲解”吧!目录前言工具知识点设计思路具体步骤总结...
    99+
    2023-06-20
  • Java多线程之生产者消费者模式详解
    目录1.生产者消费者模型2.实现生产者消费者模型3.生产者消费者模型的作用是什么总结问题: 1.什么是阻塞队列?如何使用阻塞队列来实现生产者-消费者模型? 2. 生产者消费者模型的作...
    99+
    2024-04-02
  • kafka-3python生产者和消费者
    程序分为productor.py是发送消息端,consumer为消费消息端,启动的时候先启动product再启动consumer,毕竟只有发了消息,消费端才有消息可以消费,productor.py#!/usr/bin/env python2...
    99+
    2023-01-31
    生产者 消费者 kafka
  • Java多线程中消费者与生产者的关系是什么
    这篇文章将为大家详细讲解有关Java多线程中消费者与生产者的关系是什么,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。  多线程:CPU中各种任务在交替执行过程中,被称为多线程处理。其中,每个任务的一次动态...
    99+
    2023-06-02
  • Java线程通信中关于生产者与消费者案例分析
    相关方法: wait():一旦执行此方法,当前线程就进入阻塞状态,并释放同步监视器。 notify():一旦执行此方法,就会唤醒被wait的一个线程,如果有多个线程被wait,就唤醒...
    99+
    2024-04-02
  • PHP实现生产者与消费者的案例
    这篇文章主要介绍PHP实现生产者与消费者的案例,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!PHP中使用Kafka需要RdKafka扩展,而RdKafka依赖于librdkafka,所以这两个我们都需要安装,具体安装...
    99+
    2023-06-14
  • java 中多线程生产者消费者问题详细介绍
    java 中多线程生产者消费者问题前言:一般面试喜欢问些线程的问题,较基础的问题无非就是死锁,生产者消费者问题,线程同步等等,在前面的文章有写过死锁,这里就说下多生产多消费的问题了import java.util.concurrent.lo...
    99+
    2023-05-31
    java 多线程 ava
  • Java多线程中消费者生产者模式怎么实现
    这篇文章主要讲解了“Java多线程中消费者生产者模式怎么实现”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Java多线程中消费者生产者模式怎么实现”吧!  //主类&nb...
    99+
    2023-06-17
  • Java中的生产者/消费者模型
    一、什么是生产者/消费者模型 生产者-消费者模型(Producer-Consumer problem)是一个非常经典的多线程并发协作的模型。 比如某个模块负责生产数据,而另一个模块负责处理数据。产生数据的模块就形象地被称为生产者;而处理数据...
    99+
    2023-10-05
    java 多线程 wait notify notifyAll
  • python 的生产者和消费者模式
    目录python 的生产者和消费者模式一、生产者消费者模式概述二、为什么使用生产者消费者模式三、什么是生产者消费者模式四、代码案例1、定义一个生产者2、定义一个消费者3、定义一个队列...
    99+
    2024-04-02
  • Go 生产者消费者避免死锁
    问题内容 我有一个关于消费者和生产者的代码。虽然我在这里提出了这个问题以进行代码审查,并且这个想法的很大一部分是从这个线程中衍生出来的,这里是操场上的代码。 此代码有多个生产者和消费...
    99+
    2024-02-06
  • Python教程之生产者消费者模式解析
    为什么使用生产者消费者模式 在线程世界里,生产者就是生产数据的线程,消费者就是消费数据的线程。在多线程开发中,如果生产者处理速度很快,而消费者处理速度很慢,那么生产者就必须等待消费者...
    99+
    2024-04-02
  • Docker怎么启动RabbitMQ实现生产者与消费者
    这篇文章主要讲解了“Docker怎么启动RabbitMQ实现生产者与消费者”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Docker怎么启动RabbitMQ实现生产者与消费者”吧!一、Doc...
    99+
    2023-07-05
  • golang 并发编程之生产者消费者详解
    golang 最吸引人的地方可能就是并发了,无论代码的编写上,还是性能上面,golang 都有绝对的优势 学习一个语言的并发特性,我喜欢实现一个生产者消费者模型,这个模型非常经典,适...
    99+
    2024-04-02
  • Golang rabbitMQ生产者消费者实现示例
    目录消费者生产者消费者 package main import ( "fmt" "github.com/streadway/amqp" ) func failOnError(er...
    99+
    2024-04-02
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作