iis服务器助手广告广告
返回顶部
首页 > 资讯 > 后端开发 > Python >Python利用memory_profiler实现内存分析
  • 772
分享到

Python利用memory_profiler实现内存分析

2024-04-02 19:04:59 772人浏览 薄情痞子

Python 官方文档:入门教程 => 点击学习

摘要

任何编程语言开发的项目代码都是需要考虑内存问题的,有时候当项目体量比较庞大以后若是出现内存泄漏等问题分析起来更是哦力不从心的。 因此,平时建议从开发的每个函数入手尽量编写的标准、规范

任何编程语言开发项目代码都是需要考虑内存问题的,有时候当项目体量比较庞大以后若是出现内存泄漏等问题分析起来更是哦力不从心的。

因此,平时建议从开发的每个函数入手尽量编写的标准、规范,不至于造成后期无法修复的BUG,这个python非标准模块memory_profiler值得一看。

使用memory_profiler能分析出每行代码块的内存资源使用情况,有两种方式可以参考,一种是开发完代码块通过命令行的方式执行即可。

另一种则在直接代码块时直接生成内r内存资源情况的日志可以随时查看。

使用Python pip的方式安装memory_profiler非标准库,默认使用清华大学的python镜像站。

pip install memory_profiler -i https://pypi.tuna.tsinghua.edu.cn/simple/

开发一个函数func_while,其中运行一个100万次的循环并且在循环中打印每一次循环执行时的时间戳,将内存使用情况保存到日志文件memory.log中。

# Importing the timeit module.
import timeit

# A logging library.
from loguru import logger

# A decorator that will wrap the function and add some code to it.
from memory_profiler import profile


@profile(precision=4, stream=open("memory.log", "w+"))
def func_while():
    """
    It prints the numbers from 0 to 999999.
    """
    begin = timeit.default_timer()
    logger.info("开始循环应用:{0}".fORMat(begin))

    n = 0

    while n < 1000000:
        logger.info('当前时间戳:{0}'.format(timeit.default_timer()))
        n = n + 1

    end = timeit.default_timer()
    logger.info("结束循环应用:{0}".format(end))

    logger.info('循环应用总共用时:{0}'.format(str(end - begin)))

func_while()

# 2022-09-17 22:18:18.767 | INFO     | __main__:func_while:39 - 当前时间戳:1397.349649192
# 2022-09-17 22:18:18.769 | INFO     | __main__:func_while:39 - 当前时间戳:1397.350927206
# 2022-09-17 22:18:18.770 | INFO     | __main__:func_while:39 - 当前时间戳:1397.352256128
# 2022-09-17 22:18:18.771 | INFO     | __main__:func_while:39 - 当前时间戳:1397.353639651
# 2022-09-17 22:18:18.773 | INFO     | __main__:func_while:39 - 当前时间戳:1397.354919308
# 2022-09-17 22:18:18.774 | INFO     | __main__:func_while:43 - 结束循环应用:1397.35619568
# 2022-09-17 22:18:18.775 | INFO     | __main__:func_while:45 - 循环应用总共用时:1394.6941001149999

从上面的运行时间可以看出整个100万次的循环整整跑了23分钟才完成,本身电脑性能不是很好为了测试差点就宕机了。下面是memory.log内存分析的文件中的部分截图。

从结果可以发现在我的while循环这一行下面的代码块整个内存显示-65303MB左右,可以看出整个内存消耗出现非常大的问题,怪不得的应用的主线程直接就卡死了。

在上面的分析中,我们选用的内存统计的精度是保留四位小数,也就是@profile注解的precision属性值的设置是4。

接下来使用第二种方式,也就是直接运行查看效果,或者在命令行执行.py的python文件效果是一样的都会展示出内存的消耗情况,但是这种情况可能会出现内存精度缺失的情况。

为了保险起见,这次我还是直接选用1万次循环来进行测试查看效果,循环次数过多怕把我的操作机直接搞崩溃了!

@profile(precision=4)
def func_while2():
    """
    It prints the numbers from 0 to 9999.
    """
    begin = timeit.default_timer()
    logger.info("开始循环应用:{0}".format(begin))

    n = 0

    while n < 10000:
        logger.info('当前时间戳:{0}'.format(timeit.default_timer()))
        n = n + 1

    end = timeit.default_timer()
    logger.info("结束循环应用:{0}".format(end))

    logger.info('循环应用总共用时:{0}'.format(str(end - begin)))


func_while2()

# 2022-09-17 22:37:38.086 | INFO     | __main__:func_while2:81 - 当前时间戳:15.020861643
# 2022-09-17 22:37:38.087 | INFO     | __main__:func_while2:85 - 结束循环应用:15.022343696
# 2022-09-17 22:37:38.089 | INFO     | __main__:func_while2:87 - 循环应用总共用时:12.908313867
# Filename: C:/the-public/the-public/test013/test7.py
#
# Line #    Mem usage    Increment  Occurrences   Line Contents
# =============================================================
#     73  29.7266 MiB  29.7266 MiB           1   @profile(precision=4)
#     74                                         def func_while2():
#     75  29.7266 MiB   0.0000 MiB           1       begin = timeit.default_timer()
#     76  29.7422 MiB   0.0156 MiB           1       logger.info("开始循环应用:{0}".format(begin))
#     77
#     78  29.7422 MiB   0.0000 MiB           1       n = 0
#     79
#     80  29.8125 MiB   0.0000 MiB       10001       while n < 10000:
#     81  29.8125 MiB   0.0703 MiB       10000           logger.info('当前时间戳:{0}'.format(timeit.default_timer()))
#     82  29.8125 MiB   0.0000 MiB       10000           n = n + 1
#     83
#     84  29.8125 MiB   0.0000 MiB           1       end = timeit.default_timer()
#     85  29.8125 MiB   0.0000 MiB           1       logger.info("结束循环应用:{0}".format(end))
#     86
#     87  29.8125 MiB   0.0000 MiB           1       logger.info('循环应用总共用时:{0}'.format(str(end - begin)))

显然执行1万次循环结果算是正常的,增量只有0.0703 MiB,只用了13秒就执行完成了,可能使用for循环的话效果还要好一些。

到此这篇关于Python利用memory_profiler实现内存分析的两种方法总结的文章就介绍到这了,更多相关Python memory_profiler内存分析内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

--结束END--

本文标题: Python利用memory_profiler实现内存分析

本文链接: https://www.lsjlt.com/news/120737.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Python利用memory_profiler实现内存分析
    任何编程语言开发的项目代码都是需要考虑内存问题的,有时候当项目体量比较庞大以后若是出现内存泄漏等问题分析起来更是哦力不从心的。 因此,平时建议从开发的每个函数入手尽量编写的标准、规范...
    99+
    2024-04-02
  • Python利用memory_profiler查看内存占用情况
    目录简介安装使用方法1、通过装饰器运行2、通过命令行运行补充简介 memory_profiler是第三方模块,用于监视进程的内存消耗以及python程序内存消耗的逐行分析。它是一个纯...
    99+
    2024-04-02
  • python memory_profiler库生成器和迭代器内存占用的时间分析
    不进行计算时,生成器和list空间占用 import time from memory_profiler import profile @profile(precision=4) d...
    99+
    2024-04-02
  • android profiler内存分析怎么实现
    要在Android Profiler中进行内存分析,可以按照以下步骤进行操作: 打开Android Studio,并打开要分析的项...
    99+
    2023-10-24
    android profiler
  • 利用Python实现岗位的分析报告
    目录前言一、本文目标二、分析结果1.引入库2.页面结构3.请求参数4.构造请求 解析数据4.获取所有数据总结前言 前两篇我们分别爬取了糗事百科和妹子图网站,学习了 Requests,...
    99+
    2023-03-22
    Python实现岗位分析报告 Python岗位分析 Python岗位
  • Java内存分析利器MAT的使用详解
    本篇内容主要讲解“Java内存分析利器MAT的使用详解”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“Java内存分析利器MAT的使用详解”吧!dump文件包含的内容:1,全部的对象:类,域,原生...
    99+
    2023-06-17
  • 如何利用S_MEMORY_INSPECTOR分析内存泄漏问题
    如何利用S_MEMORY_INSPECTOR分析内存泄漏问题,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。我在批量生成service order时,report运行几个小时后,...
    99+
    2023-06-04
  • Web缓存利用分析(三)
    导语:前一篇文章介绍了Server Cache Poisoning在实际应用场景下,产生DOS攻击的利用方式。本篇文章则介绍Web Cache Deception在真实场景下的应用方式和测试情况。...
    99+
    2023-09-26
    前端 缓存 php 网络 运维
  • 如何利用python实现简单的情感分析
    今天小编给大家分享一下如何利用python实现简单的情感分析的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。1 数据导入及预处...
    99+
    2023-07-02
  • 怎么用python分析游戏内存数据
    要使用Python分析游戏内存数据,你需要了解以下几个步骤: 安装所需的模块:首先,你需要安装一些用于分析游戏内存数据的Pyth...
    99+
    2023-10-26
    python
  • 利用python实现简单的情感分析实例教程
    目录1 数据导入及预处理1.1 数据导入1.2 数据描述1.3 数据预处理2 情感分析2.1 情感分2.2 情感分直方图2.3 词云图2.4 关键词提取3 积极评论与消极评论3.1 ...
    99+
    2024-04-02
  • 详解LeakCanary分析内存泄露如何实现
    目录前言LeakCanary的使用LeakCanary原理源码浅析初始化使用总结前言 平时我们都有用到LeakCanary来分析内存泄露的情况,这里可以来看看LeakCanary是如...
    99+
    2022-12-08
    LeakCanary分析内存泄露 LeakCanary 内存泄露
  • JavaScript内存泄漏实例分析
    这篇文章主要讲解了“JavaScript内存泄漏实例分析”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“JavaScript内存泄漏实例分析”吧!js 内存泄...
    99+
    2024-04-02
  • Python的内存管理举例分析
    这篇文章主要介绍“Python的内存管理举例分析”,在日常操作中,相信很多人在Python的内存管理举例分析问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Python的内存管理举例分析”的疑惑有所帮助!接下来...
    99+
    2023-06-17
  • 如何利用ChatGPT和Python实现情感分析功能
    如何利用ChatGPT和Python实现情感分析功能介绍ChatGPTChatGPT是OpenAI于2021年发布的一种基于强化学习的生成式预训练模型,它采用了强大的语言模型来生成连贯的对话。ChatGPT可以用于各种任务,包括情感分析。导...
    99+
    2023-10-24
    ChatGPT Python 情感分析
  • 如何利用ChatGPT和Python实现对话历史分析
    如何利用ChatGPT和Python实现对话历史分析引言:人工智能的发展给自然语言处理带来了重大突破。OpenAI的ChatGPT模型是一种强大的语言生成模型,能够生成连贯、合理的文本回复。本文将介绍如何使用ChatGPT和Python实现...
    99+
    2023-10-25
    ChatGPT Python 对话历史分析
  • 使用MAT进行JVM内存分析实例
    目录背景描述基础知识MAT简介Heap Dump获取Dump分析实战总结背景描述 公司小程序商城项目,服务器为阿里云。 前段时间总是出现服务器CPU报警现象(设置的阈值为95%,CP...
    99+
    2023-05-18
    MAT进行JVM内存分析 MAT JVM内存 JVM内存分析
  • Linux共享内存实现机制的示例分析
    这篇文章将为大家详细讲解有关Linux共享内存实现机制的示例分析,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。Linux共享内存实现机制的详解内存共享: 两个不同进程A、B共享内存的意思是,同一块物理内存...
    99+
    2023-06-09
  • 利用Redis实现分布式缓存预热
    利用Redis实现分布式缓存预热的实践在现代大型应用程序中,缓存是提升性能和减少服务器负荷的常见方法之一。而分布式缓存预热则是在高并发场景下常用的优化技术之一。本文将介绍如何利用Redis实现分布式缓存预热,并给出具体的代码示例。什么是缓存...
    99+
    2023-11-07
    缓存 分布式 redis
  • 如何利用Python实现简单C++程序范围分析
    目录1. 实验说明2. 项目使用3. 算法原理3.1 构建CFG3.2 构建Constraint Graph3.3 构建E-SSA Constraint Graph3.4 三步法3....
    99+
    2024-04-02
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作