iis服务器助手广告广告
返回顶部
首页 > 资讯 > 后端开发 > Python >Jmeter并发执行Python 脚本的完整流程
  • 938
分享到

Jmeter并发执行Python 脚本的完整流程

2024-04-02 19:04:59 938人浏览 泡泡鱼

Python 官方文档:入门教程 => 点击学习

摘要

目录1. 前言2. python 实现文件上传2-1获取文件信息及切片数目2-2切片及分段上传2-3合并文件2-4文件路径参数化3. jmeter 并发执行4. 最后本篇文章以文件上

本篇文章以文件上传为例,聊聊 Jmeter 并发执行 Python 脚本的完整流程

1. 前言

大家好,我是安果!

最近有小伙伴后台给我留言,说自己用 Django 写了一个大文件上传的 api 接口,现在想本地检验一下接口并发的稳定性,问我有没有好的方案

本篇文章以文件上传为例,聊聊Jmeter 并发执行 Python 脚本的完整流程

2. Python 实现文件上传

大文件上传包含 3 个步骤,分别是:

  • 获取文件信息及切片数目
  • 分段切片,并上传- API
  • 文件合并- API
  • 文件路径参数化

2-1获取文件信息及切片数目

首先,获取文件的大小

然后,利用预设的切片大小获取分段总数

最后,获取文件名及 md5 值


import os
import math
import hashlib

def get_file_md5(self, file_path):
    """获取文件的md5值"""
    with open(file_path, 'rb') as f:
         data = f.read()
         return hashlib.md5(data).hexdigest()

def get_filename(self, filepath):
    """获取文件原始名称"""
    # 文件名带后缀
    filename_with_suffix = os.path.basename(filepath)
    # 文件名
    filename = filename_with_suffix.split('.')[0]
    # 后缀名
    suffix = filename_with_suffix.split('.')[-1]
    return filename_with_suffix, filename, suffix

def get_chunk_info(self, file_path):
    """获取分段信息"""
    # 获取文件总大小(字节)
    file_total_size = os.path.getsize(file_path)
    print(file_total_size)

    # 分段总数
    total_chunks_num = math.ceil(file_total_size / self.chunk_size)
    # 文件名(带后缀)
    filename = self.get_filename(file_path)[0]
    # 文件的md5值
    file_md5 = self.get_file_md5(file_path)
    return file_total_size, total_chunks_num, filename, file_md5

2-2切片及分段上传

利用分段总数和分段大小,对文件进行切片,调用分段文件上传接口


import requests

def do_chunk_and_upload(self, file_path):
​    """将文件分段处理,并上传"""
    file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(file_path)

    # 遍历
    for index in range(total_chunks_num):
        print('第{}次文件上传'.fORMat(index + 1))
        if index + 1 == total_chunks_num:
            partSize = file_total_size % chunk_size
        else:
            partSize = chunk_size

        # 文件偏移量
        offset = index * chunk_size

        # 生成分片id,从1开始
        chunk_id = index + 1

        print('开始准备上传文件')
        print("分片id:", chunk_id, "文件偏移量:", offset, ",当前分片大小:", partSize, )

        # 分段上传文件
        self.__upload(offset, chunk_id, file_path, file_md5, filename, partSize, total_chunks_num)

def __upload(self, offset, chunk_id, file_path, file_md5, filename, partSize, total):
    """分次上传文件"""
    url = 'Http:/file/brust/upload'
    params = {'chunk': chunk_id,
                'fileMD5': file_md5,
                'fileName': filename,
                'partSize': partSize,
                'total': total
                }
    # 根据文件路径及偏移量,读取文件二进制数据
    current_file = open(file_path, 'rb')
    current_file.seek(offset)

    files = {'file': current_file.read(partSize)}
    resp = requests.post(url, params=params, files=files).text
    print(resp)

2-3合并文件

最后调用合并文件的接口,将分段小文件合成大文件


def merge_file(self, filepath):
        """合并"""
        url = 'http:/file/brust/merge'
        file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(filepath)
​        payload = JSON.dumps(
            {
                "fileMD5": file_md5,
                "chunkTotal": total_chunks_num,
                "fileName": filename
            }
        )
        print(payload)
        headers = {
            "Content-Type": "application/json"
        }
        resp = requests.post(url, headers=headers, data=payload).text
        print(resp)

2-4文件路径参数化

为了并发执行,将文件上传路径参数化


# fileupload.py
...
if __name__ == '__main__':
    filepath = sys.argv[1]

    # 每一段切片的大小(MB)
    chunk_size = 2 * 1024 * 1024

    fileApi = FileApi(chunk_size)
    # 分段上传
    fileApi.do_chunk_and_upload(filepath)

    # 合并
    fileApi.merge_file(filepath)

3. Jmeter 并发执行

在使用 Jmeter 创建并发流程前,我们需要编写批处理脚本

其中,执行批处理脚本时,需要跟上文件路径一起执行


# cmd.bat

@echo off
set filepath=%1

python  C:\Users\xingag\Desktop\rpc_demo\fileupload.py %*

然后,在本地新建一个 CSV 文件,写入多个文件路径

# 准备多个文件路径(csv)
C:\\Users\\xingag\\Desktop\\charles-proxy-4.6.1-win64.msi
C:\\Users\\xingag\\Desktop\\V2.0.pdf
C:\\Users\\xingag\\Desktop\\HBuilder1.zip
C:\\Users\\xingag\\Desktop\\HBuilder2.zip

接着,就可以使用 Jmeter 创建并发流程了

完整步骤如下:

这里线程组数目与上面文件数目保持一致即可

  • 线程组下,添加「同步定时器」

同步定时器中的「模拟用户组的数量」和上面参数数量保持一致

  • 添加 CSV 数据文件设置

指向上面准备的 csv 数据文件,设置文件格式为 UTF-8,变量名称设置为file_path,最后将线程共享模式设置为「当前线程组」

  • 添加调试取样器,方便调试
  • 添加 OS 进程取样器

选择上面创建的批处理文件,命令行参数设置为「${file_path}」

  • 添加查看结果数

4. 最后

运行上面创建的 Jmeter 并发流程,在结果数中可以查看并发上传文件的结果

当然,我们可以增加并发数量去模拟真实的使用场景,只需要修改 CSV 数据源及 Jmeter 参数即可

到此这篇关于Jmeter并发执行 Python 脚本的问题详解的文章就介绍到这了,更多相关Jmeter并发执行 Python 脚本内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

--结束END--

本文标题: Jmeter并发执行Python 脚本的完整流程

本文链接: https://www.lsjlt.com/news/135115.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Jmeter并发执行Python 脚本的完整流程
    目录1. 前言2. Python 实现文件上传2-1获取文件信息及切片数目2-2切片及分段上传2-3合并文件2-4文件路径参数化3. Jmeter 并发执行4. 最后本篇文章以文件上...
    99+
    2024-04-02
  • jmeter执行python脚本的实现示例
    目录概要一、环境准备1. 测试工具2. 测试资源二、实现过程1. 在jmeter中设置参数2. 通过jmeter修改py模板3. 通过jmeter执行py脚本4. 使用获得的输出信息...
    99+
    2024-04-02
  • Java servlet执行的完整流程是什么
    本篇内容介绍了“Java servlet执行的完整流程是什么”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!...
    99+
    2024-04-02
  • 详解Android消息机制完整的执行流程
    目录从Handler.post()说起MessageQueue.enqueueMessage()添加消息至队列中Looper.loop()分发消息MessageQueue.next(...
    99+
    2022-11-13
    Android消息机制执行流程 Android消息机制
  • 完整的python项目流程
        最近看了python项目的打包,有点小感触。感觉自己还不是一个真正的pythoner。没有在开源项目网站留下什么,而又到处宣扬python的简洁与强大,有点小讽刺。于是乎,我想理清自己的思路,不怕迷茫,懂得坚持自己的目标才好!   ...
    99+
    2023-01-31
    流程 完整 项目
  • Spring MVC的完整执行流程和常用组件详解
    目录1.Spring MVC执行流程2.Spring MVC常用组件2.1 DispatcherServlet2.2 HandlerMapping2.3 HandlAdapter2....
    99+
    2024-04-02
  • jenkins执行python脚本的方法
    在jenkins上打算运行一段python脚本,查到一些常用的方法,下面会介绍。还遇到了版本兼容性问题导致的怎么都执行不成功,最终试了各种版本,定位到兼容性问题,真是各种坑。一般有三种方法:1.安装执行python的插件: Python ...
    99+
    2023-01-31
    脚本 方法 jenkins
  • python 并发执行之多线程
        正常情况下,我们在启动一个程序的时候。这个程序会先启动一个进程,启动之后这个进程会拉起来一个线程。这个线程再去处理事务。也就是说真正干活的是线程,进程这玩意只负责向系统要内存,要资源但是进程自己是不干活的。默认情况下只有一个进程只会...
    99+
    2023-01-31
    之多 线程 python
  • python并发执行之多进程
        多进程顾名思义程序启动的时候运行多个进程,每个进程启动一条线程进行程序处理。 没启动一个进程就要单独划分一块内存资源。就像工厂的厂房。为了提高效率每多添加一条生产线就要单独再盖一个厂房。每个厂房相互是独立的。所以启动多进程是很消耗资...
    99+
    2023-01-31
    之多 进程 python
  • 怎么在shell脚本中执行python脚本并接收其返回值
    这篇文章主要介绍“怎么在shell脚本中执行python脚本并接收其返回值”,在日常操作中,相信很多人在怎么在shell脚本中执行python脚本并接收其返回值问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”怎...
    99+
    2023-06-09
  • Spring MVC的完整执行流程和常用组件有哪些
    这篇文章主要介绍“Spring MVC的完整执行流程和常用组件有哪些”,在日常操作中,相信很多人在Spring MVC的完整执行流程和常用组件有哪些问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家...
    99+
    2023-07-02
  • python脚本实现本地或远程执行命令
    功能:1、执行本地shell命令,执行完成后获取结果2、执行本地shell命令,执行中实时获取输出结果3、执行远程shell命令,执行完成后获取结果4、执行远程shell命令,执行中实时获取输出结果 实际操作:1、安装paramiko ...
    99+
    2023-01-31
    脚本 命令 python
  • 如何用shell脚本实现监控shell脚本的执行流程及变量的值
    本篇内容主要讲解“如何用shell脚本实现监控shell脚本的执行流程及变量的值”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“如何用shell脚本实现监控shell脚本的执行流程及变量的值”吧!...
    99+
    2023-06-09
  • python脚本执行的方法是什么
    Python脚本可以通过以下几种方法来执行:1. 在命令行中执行:可以直接在命令行中输入"python 脚本文件.py"来执行脚本文...
    99+
    2023-10-19
    python
  • 存储系统对 Bash 脚本并发执行的影响有哪些?
    Bash 脚本是在 Linux 系统中广泛使用的一种脚本语言,可以用来自动化执行各种任务。在实际应用中,我们经常需要在多台服务器上同时执行 Bash 脚本,以提高效率。然而,存储系统对 Bash 脚本并发执行的影响是什么?本文将探讨这一问...
    99+
    2023-11-07
    并发 bash 存储
  • Flowable执行完毕的流程查找方法
    目录正文1. 历史流程信息2. 历史任务查询3. 历史活动查询4. 历史变量查询5. 历史日志查询6. 历史权限查询7. 自定义查询 SQL8. 历史数据记录级别正文 @[toc]在...
    99+
    2022-11-13
    Flowable执行完毕流程查找 Flowable执行流程查找
  • java高并发ThreadPoolExecutor类解析线程池执行流程
    目录摘要核心逻辑概述execute(Runnable)方法addWorker(Runnable, boolean)方法addWorkerFailed(Worker)方法拒绝策略摘要 ...
    99+
    2024-04-02
  • Python将脚本程序转变为可执行程序的实现
    类似Java打包操作,若不想让人看到Python程序内部逻辑,也可将其转换为exe可执行文件首先自己写一个Python程序,如下: print("start running..."...
    99+
    2023-02-15
    Python脚本转变为可执行程序 Python 为可执行程序
  • 执行python脚本并传入json数据格式参数方式
    目录执行python脚本并传入json数据格式参数python解析JSON数据json模块包含以下两个函数执行python脚本并传入json数据格式参数 最近在写一个python的数...
    99+
    2024-04-02
  • Shell执行脚本并输出日志文件的方法
    shell 错误输出重定向到标准输出 ./tmp/test.sh > /tmp/test.log 2>&1 >和<是文件重定向符。那么1和2是什么? ...
    99+
    2022-11-13
    Shell执行脚本 Shell输出日志文件
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作