Python 官方文档:入门教程 => 点击学习
目录1. pandasGUI2. Pandas Profiling3. Sweetviz4. dtale4.1 数据操作(Actions)4.2 数据可视化(Visualize)4.
前言:
我们做数据分析,在第一次拿到数据集的时候,一般会用统计学或可视化方法来了解原始数据。比如了解列数、行数、取值分布、缺失值、列之间的相关关系等等,这个过程我们叫做 EDA
(Exploratory Data Analysis,探索性数据分析)。
用pandas
一行行写代码,那太痛苦了!目前已经有很多EDA工具可以自动产出基础的统计数据和图表,能为我们节省大量时间。
在本文,我给大家分享 4 款常用的EDA工具,它们可以自动产出统计数据和图表,为我们节省大量时间。
正式介绍这些工具之前,先来加载数据集
import numpy as np
import pandas as pd
iris = pd.read_csv('iris.csv')
iris
iris
是下面用到的数据集,是一个150行 * 4列的 DataFrame
。
PandasGUI
提供数据预览、筛选、统计、多种图表展示以及数据转换。
# 安装
# pip install pandasgui
from pandasgui import show
show(iris)
PandasGUI操作界面
PandasGUI
更侧重数据展示,提供了10多种图表,通过可视的方式配置。
但数据统计做的比较简单,没有提供缺失值、相关系数等指标,数据转换部分也只开放了一小部分接口。
Pandas Profiling 提供了整体数据概况、每列的详情、列之间的关图、列之间的相关系数。
# 安装:
# pip install -U pandas-profiling
# jupyter nbextension enable --py widgetsnbextension
from pandas_profiling import ProfileReport
profile = ProfileReport(iris, title='iris Pandas Profiling Report', explorative=True)
profile
Pandas Profiling操作界面
每列的详情包括:缺失值统计、去重计数、最值、平均值等统计指标和取值分布的柱状图。
列之间的相关系数支持Spearman、Pearson、Kendall 和 Phik 4 种相关系数算法。
与 PandasGUI
相反,Pandas Profiling
没有丰富的图表,但提供了非常多的统计指标以及相关系数。
Sweetviz
与Pandas Profiling
类似,提供了每列详细的统计指标、取值分布、缺失值统计以及列之间的相关系数。
# 安装
# pip install sweetviz
import sweetviz as sv
sv_report = sv.analyze(iris)
sv_report.show_html()
Sweetviz操作界面
Sweetviz
还有有一个非常好的特性是支持不同数据集的对比,如:训练数据集和测试数据集的对比。
Sweetviz数据集对比
蓝色和橙色代表不同的数据集,通过对比可以清晰发现数据集之前的差异。
最后重磅介绍dtale
,它不仅提供丰富图表展示数据,还提供了很多交互式的接口,对数据进行操作、转换。
dtale操作界面
dtale
的功能主要分为三部分:数据操作、数据可视化、高亮显示。
dtale
将pandas
的函数包装成可视化接口,可以让我们通过图形界面方式来操作数据。
# pip install dtale
import dtale
d = dtale.show(iris)
d.open_browser()
Actions
右半部分图是左边图的中文翻译,用的是 Chrome 自动翻译,有些不是很准确。
举一个数据操作的例子:
Summarize Data
上图是Actions
菜单中Summarize Data
的功能,它提供了对数据集汇总操作的接口。
上图我们选择按照species
列分组,计算sepal_width列的平均值,同时可以看到左下角dtale已经自动为该操作生成了pandas代码。
提供比较丰富的图表,对每列数据概况、重复行、缺失值、相关系数进行统计和展示。
Visualize
举一个数据可视化的例子:
Describe
上图是Visualize
菜单中Describe
的功能,它可以统计每列的最值、均值、标准差等指标,并提供图表展示。
右侧的Code Export
可以查看生成这些数据的代码。
对缺失值、异常值做高亮显示,方便我们快速定位到异常的数据。
Highlight
上图显示了将sepal_width
字段的异常值。
dtale
非常强大,功能也非常多,大家可以多多探索、挖掘。
最后,简单总结一下。如果探索的数据集侧重数据展示,可以选PandasGUI
;如果只是简单了解基本统计指标,可以选择Pandas Profiling
和Sweetviz;如果需要做深度的数据探索,那就选择dtale。
到此这篇关于 分享4款python 自动数据分析神器的文章就介绍到这了,更多相关Python 自动数据分析神器内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!
--结束END--
本文标题: 分享4款Python自动数据分析神器
本文链接: https://www.lsjlt.com/news/141149.html(转载时请注明来源链接)
有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341
2024-03-01
2024-03-01
2024-03-01
2024-02-29
2024-02-29
2024-02-29
2024-02-29
2024-02-29
2024-02-29
2024-02-29
回答
回答
回答
回答
回答
回答
回答
回答
回答
回答
0