iis服务器助手广告广告
返回顶部
首页 > 资讯 > 后端开发 > Python >Python实现多任务进程示例
  • 546
分享到

Python实现多任务进程示例

2024-04-02 19:04:59 546人浏览 八月长安

Python 官方文档:入门教程 => 点击学习

摘要

目录一、进程介绍二、线程和进程之间的对比三、python 实现多进程四、进程之间的通信五、进程池之间的通信六、案例:文件批量复制一、进程介绍 进程:正在执行的程序,由程序、数据和进程

一、进程介绍

进程:正在执行的程序,由程序、数据和进程控制块组成,是正在执行的程序,程序的一次执行过程,是资源调度的基本单位。

程序:没有执行的代码,是一个静态的。

二、线程和进程之间的对比

干货:利用 Python 实现多任务进程

由图可知:此时电脑有 9 个应用进程,但是一个进程又会对应于多个线程,可以得出结论:

进程:能够完成多任务,一台电脑上可以同时运行多个 QQ

线程:能够完成多任务,一个 QQ 中的多个聊天窗口

根本区别:进程是操作系统资源分配的基本单位,而线程是任务调度和执行的基本单位.

使用多进程的优势:

1、拥有独立GIL:

首先由于进程中 GIL 的存在,Python 中的多线程并不能很好地发挥多核优势,一个进程中的多个线程,在同 一时刻只能有一个线程运行。而对于多进程来说,每个进程都有属于自己的 GIL,所以,在多核处理器下,多进程的运行是不会受 GIL的影响的。因此,多进 程能更好地发挥多核的优势。

2、效率高

当然,对于爬虫这种 io 密集型任务来说,多线程和多进程影响差别并不大。对于计算密集型任务来说,Python 的多进程相比多线 程,其多核运行效率会有成倍的提升。

干货:利用 Python 实现多任务进程

三、Python 实现多进程

我们先用一个实例来感受一下:

1、使用 process 类

import multiprocessing 
def process(index):
print(f'Process: {index}')
if __name__ == '__main__':
for i in range(5):
p = multiprocessing.Process(target=process, args=(i,))p.start

这是一个实现多进程最基础的方式:通过创建 Process 来新建一个子进程,其中 target 参数传入方法名,args 是方法的参数,是以 元组的形式传入,其和被调用的方法 process 的参数是一一对应的。

注意:这里 args 必须要是一个元组,如果只有一个参数,那也要在元组第一个元素后面加一个逗号,如果没有逗号则 和单个元素本身没有区别,无法构成元组,导致参数传递出现问题。创建完进程之后,我们通过调用 start 方法即可启动进程了。

运行结果如下:

Process: 0 
Process: 1
Process: 2
Process: 3
Process: 4

可以看到,我们运行了 5 个子进程,每个进程都调用了 process 方法。process 方法的 index 参数通过 Process 的 args 传入,分别是 0~4 这 5 个序号,最后打印出来,5 个子进程运行结束。

2、继承 process 类

from multiprocessing import Process
import timeclass MyProcess(Process):
def __init__(self,loop):
Process.__init__(self)
self.loop = loop
def run(self):
for count in range(self.loop):
time.sleep(1)
print(f'Pid:{self.pid} LoopCount: {count}')
if __name__ == '__main__':
for i in range(2,5):
p = MyProcess(i)
p.start

我们首先声明了一个构造方法,这个方法接收一个 loop 参数,代表循环次数,并将其设置为全局变量。在 run方法中,又使用这 个 loop 变量循环了 loop 次并打印了当前的进程号和循环次数。

在调用时,我们用 range 方法得到了 2、3、4 三个数字,并把它们分别初始化了 MyProcess 进程,然后调用 start 方法将进程启动起 来。

注意:这里进程的执行逻辑需要在 run 方法中实现,启动进程需要调用 start 方法,调用之后 run 方法便会执行。

运行结果如下:

Pid:12976 LoopCount: 0
Pid:15012 LoopCount: 0
Pid:11976 LoopCount: 0
Pid:12976 LoopCount: 1
Pid:15012 LoopCount: 1
Pid:11976 LoopCount: 1
Pid:15012 LoopCount: 2
Pid:11976 LoopCount: 2
Pid:11976 LoopCount: 3

注意,这里的进程 pid 代表进程号,不同机器、不同时刻运行结果可能不同。

四、进程之间的通信

1、Queue-队列 先进先出

from multiprocessing import Queue
import multiprocessing
def download(p): # 下载数据
lst = [11,22,33,44]
for item in lst:
p.put(item)print('数据已经下载成功....')
def savedata(p):
lst = 
while True:
data = p.getlst.append(data)if p.empty:
breakprint(lst)def main:p1 = Queuet1 = multiprocessing.Process(target=download,args=(p1,))t2 = multiprocessing.Process(target=savedata,args=(p1,))t1.startt2.startif __name__ == '__main__':
main
数据已经下载成功....
[11, 22, 33, 44]

2、共享全局变量不适用于多进程编程

import multiprocessing
a = 1
def demo1:
global a
a += 1
def demo2:
print(a)def main:
t1 = multiprocessing.Process(target=demo1)t2 = multiprocessing.Process(target=demo2)t1.startt2.startif __name__ == '__main__':
main

运行结果:

1

有结果可知:全局变量不共享;

五、进程池之间的通信

1、进程池引入

当需要创建的子进程数量不多时,可以直接利用 multiprocessing 中的 Process 动态生成多个进程,但是如果是上百甚至上千个目标,手动的去创建的进程的工作量巨大,此时就可以用到 multiprocessing 模块提供的 Pool 方法。

from multiprocessing import Pool
import os,time,random
def worker(a):t_start = time.time
print('%s开始执行,进程号为%d'%(a,os.getpid))
time.sleep(random.random*2)
t_stop = time.time
print(a,"执行完成,耗时%0.2f"%(t_stop-t_start))
if __name__ == '__main__':
po = Pool(3) # 定义一个进程池
for i in range(0,10):
po.apply_async(worker,(i,)) # 向进程池中添加worker的任务print("--start--")
po.closepo.joinprint("--end--")

运行结果:

--start--
0开始执行,进程号为6664
1开始执行,进程号为47722开始执行,进程号为132560 执行完成,耗时0.18
3开始执行,进程号为6664
2 执行完成,耗时0.16
4开始执行,进程号为13256
1 执行完成,耗时0.67
5开始执行,进程号为4772
4 执行完成,耗时0.87
6开始执行,进程号为13256
3 执行完成,耗时1.59
7开始执行,进程号为6664
5 执行完成,耗时1.15
8开始执行,进程号为4772
7 执行完成,耗时0.40
9开始执行,进程号为6664
6 执行完成,耗时1.80
8 执行完成,耗时1.49
9 执行完成,耗时1.36
--end--

一个进程池只能容纳 3 个进程,执行完成才能添加新的任务,在不断的打开与释放的过程中循环往复。

干货:利用 Python 实现多任务进程

 

六、案例:文件批量复制

操作思路:

获取要复制文件夹的名字

创建一个新的文件夹

获取文件夹里面所有待复制的文件名

创建进程池

向进程池添加任务

代码如下:

导包

import multiprocessing
import osimport time

定制文件复制函数

def copy_file(Q,oldfolderName,newfolderName,file_name):
# 文件复制,不需要返回time.sleep(0.5)
# print('\r从%s文件夹复制到%s文件夹的%s文件'%(oldfolderName,newfolderName,file_name),end='')
old_file = open(oldfolderName + '/' + file_name,'rb') # 待复制文件
content = old_file.readold_file.closenew_file = open(newfolderName + '/' + file_name,'wb') # 复制出的新文件
new_file.write(content)
new_file.closeQ.put(file_name) # 向Q队列中添加文件

定义主函数

def main:
oldfolderName = input('请输入要复制的文件夹名字:') # 步骤1获取要复制文件夹的名字(可以手动创建,也可以通过代码创建,这里我们手动创建)
newfolderName = oldfolderName + '复件'
# 步骤二 创建一个新的文件夹if not os.path.exists(newfolderName):
os.mkdir(newfolderName)
filenames = os.listdir(oldfolderName) # 3.获取文件夹里面所有待复制的文件名
# print(filenames)
pool = multiprocessing.Pool(5) # 4.创建进程池
Q = multiprocessing.Manager.Queue # 创建队列,进行通信for file_name in filenames:
pool.apply_async(copy_file,args=(Q,oldfolderName,newfolderName,file_name)) # 5.向进程池添加任务
po.closecopy_file_num = 0
file_count = len(filenames)
# 不知道什么时候完成,所以定义一个死循环while True:
file_name = Q.getcopy_file_num += 1
time.sleep(0.2)
print('\r拷贝进度%.2f %%'%(copy_file_num * 100/file_count),end='') # 做一个拷贝进度条
if copy_file_num >= file_count:
break

程序运行

if __name__ == '__main__':
main

运行结果如下图所示:

干货:利用 Python 实现多任务进程

运行前后文件目录结构对比

运行前

干货:利用 Python 实现多任务进程

运行后

干货:利用 Python 实现多任务进程

到此这篇关于Python实现多任务进程示例的文章就介绍到这了,更多相关Python多任务进程内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

--结束END--

本文标题: Python实现多任务进程示例

本文链接: https://www.lsjlt.com/news/161615.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Python实现多任务进程示例
    目录一、进程介绍二、线程和进程之间的对比三、Python 实现多进程四、进程之间的通信五、进程池之间的通信六、案例:文件批量复制一、进程介绍 进程:正在执行的程序,由程序、数据和进程...
    99+
    2024-04-02
  • 利用 Python 实现多任务进程
    目录一、进程介绍二、线程和进程之间的对比三、使用多进程的优势1、拥有独立GIL2、效率高四、Python 实现多进程1、使用 process 类2、继承 process 类五、进程之...
    99+
    2024-04-02
  • SpringBoot定时任务多线程实现示例
    测试Spring Boot定时任务冲突时,使用的线程数量 引入依赖: Spring Boot 2.6.1 <dependency> <group...
    99+
    2024-04-02
  • Python多任务版静态Web服务器实现示例
    目录概述实现步骤1.导入threading模块2.设置端口号复用, 程序退出端口立即释放3.当客户端和服务器建立连接程,创建子线程4.设置守护主进程5.启动子线程代码实现概述 使用多...
    99+
    2024-04-02
  • Python 多线程处理任务实例
    目录美餐每天发一个用Excel汇总的就餐数据,我们把它导入到数据库后,行政办公服务用它和公司内的就餐数据进行比对查重。 初始实现是单线程,和import_records去掉多线程后的...
    99+
    2024-04-02
  • c#多进程通讯的实现示例
    目录引言共享内存Windows的MSMQ命名管道匿名管道Channel     IPC     Http  &n...
    99+
    2024-04-02
  • 详解Python的多任务进程
    目录1.基本概念2.线程和进程比较3.协程和线程的比较总结1.基本概念 定义含义并发:concurrency,同一时刻只能有一条指令执行,但是多个线程的对应的指令被快速轮换地执行并行...
    99+
    2024-04-02
  • python多进程及通信实现异步任务的方法
    目录一、python多进程及通信基本用法1、多进程的基本实现a、Process重写run方法 b、使用Process和target方法c、直接使用Process类2、多进程...
    99+
    2024-04-02
  • python实现GATK多线程加速示例
    目录GATK 变异分析下面的来自网络未验证GATK 变异分析 对于大数据样本可能会比较慢,因此可以按照染色体拆分后进行多线程并行计算。 下面是我写的一个python多线程脚本,仅供参...
    99+
    2024-04-02
  • Python如何实现多线程处理任务
    小编给大家分享一下Python如何实现多线程处理任务,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!读取Excel数据 —> 发送到行政服务接口安全起见线上操作放在了晚上进行。运行时发现每条数据导入消耗1s多,晚上十点...
    99+
    2023-06-25
  • python 多进程实现ssh
    多进程实现多台服务器ssh命令:# -*- coding: UTF-8 -*- from multiprocessing import Process,Pool import paramiko import sys,os host_list...
    99+
    2023-01-31
    进程 python ssh
  • Node.js如何实现多进程处理CPU密集任务
    小编给大家分享一下Node.js如何实现多进程处理CPU密集任务,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!Node.js 单...
    99+
    2024-04-02
  • 多任务中进程、线程、协程
    为什么使用多任务有什么好处? 答:提高程序执行效率,实现同一时刻可以做二个以上的事情。 啦啦啦。。。重点来了 并行:任务数大于CPU核数,每个CPU就要执行多个任务,那肯定忙不过来,多个任务执行就需要排队等待上一任务执行完,才能执行下一任...
    99+
    2023-01-30
    线程 进程 协程
  • python爬虫中多线程和多进程的示例分析
    小编给大家分享一下python爬虫中多线程和多进程的示例分析,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!python是什么意思Python是一种跨平台的、具有解释性、编译性、互动性和面向对象的脚本语言,其最初的设计是用于...
    99+
    2023-06-14
  • Django+Celery实现定时任务的示例
    目录一、前言二、配置使用定义与触发任务扩展三、Django中使用定时任务二次开发一、前言   Celery是一个基于python开发的分布式任务队列,而做python WEB开发最为...
    99+
    2024-04-02
  • python实现跨进程(跨py文件)通信示例
    目录前言一、server端二、client端三、运行效果总结前言 项目中总会遇到数据需要跨进程通信的问题,今天就给大家带来一套简单的跨进程通信代码。代码分为服务端与客户端两部分。 一...
    99+
    2024-04-02
  • python目标检测实现黑花屏分类任务示例
    目录背景核心技术与架构图技术实现1.数据的标注2.训练过程3.损失的计算4.对输出内容的处理效果展示总结背景 视频帧的黑、花屏的检测是视频质量检测中比较重要的一部分,传统做法是由测试...
    99+
    2024-04-02
  • Java实现定时任务的示例代码
    目录xxl-job官网引入依赖配置信息(application.properties)配置类(XxlJobConfiguration)调用xxl-job-admin模块的接口添加调度...
    99+
    2022-11-21
    Java实现定时任务 Java定时任务 Java 定时
  • Java DelayQueue实现任务延时示例讲解
    在项目中有使用到延时队列的场景,做个简单的记录说明;首先DelayQueue实现了BlockingQueue,加入其中的元素必须实现Delayed接口; 当生产者元素调用put往其中...
    99+
    2024-04-02
  • swoole多进程操作的示例
    这篇文章将为大家详细讲解有关swoole多进程操作的示例,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。多个任务同时执行将顺序执行的任务,转化为并行执行(任务在逻辑上可以并行执行)比如,我们要对已知的用户数...
    99+
    2023-06-06
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作