参考资料
练习题 icon lost
交流讨论
笔记
img lost
资料来源 统计与分析模块Pandas
视频作者 weixin_40253797

Pandas是做数据分析最核心的一个工具。我们要先了解数据分析,才能更好的明白Pandas,因此,本文分为三个部分:

1. 数据分析

1.1 数据分析的背景

随着计算机的大规模普及,网络数据有了一个爆发性地增长,驱使着人们进入了一个崭新的时代:大数据时代

思考一个问题
既然数据这么多,怎么才能快速地拿到有价值的数据呢?

数据分析就可以从海量数据中挖掘潜藏的有价值的信息,帮助企业或个人预测未来的趋势和行为。所以,不管从事什么行业,如果掌握了数据分析的能力,就会在其岗位上非常具有竞争力!

1.2 什么是数据分析

数据分析是使用统计分析方法对数据进行分析,从中提取有用信息形成结论,并加以详细研究和概括总结的过程。

数据分析的目的是:将隐藏在一大批看似杂乱无章的数据信息集中提炼出来有用的数据,以找出所研究对象的内在规律。

统计学领域中,数据分析可以划分为如下三类

类目描述
描述性数据分析从一组数据中,可以摘要并且描述这份数据的集中和离散情形。
探索性数据分析海量数据中找出规律,并产生分析模型研究假设
验证性数据分析验证科研假设测试所需的条件是否达到,以保证验证性分析的可靠性

1.3 数据分析的应用场景

应用方法及其结果
营销方面通过会员卡形式获得消费者的个人信息,以便对消费者的购买信息进一步研究其购买习惯,发现各类有价值的目标群体
医疗方面医生通过记录分析婴儿的心跳来监视早产婴儿和患病婴儿的情况,并针对婴儿的身体可能会出现的不适症状做出预测,这样可以帮助医生更好的救助患儿。
零售方面在美国零售业曾经有这样一个传奇故事,某家商店将纸尿裤和啤酒并排放在一起销售,结果纸尿裤和啤酒的销量双双增长!
网络安全方面新型的病毒防御系统可以使用数据分析技术,建立潜在攻击识别分析模型,监测大量网络活动数据和相应的访问行为,识别可能进行入侵的可疑模式。
交通物流方面用户可以通过业务系统和GPS定位系统获得数据,使用数据构建交流状况预测分析模型,有效预测实时路况、物流状况、车流量、货物吞吐量,进而提前补货,制定库存管理策略。

1.4 数据分析的流程

数据分析大致可以分为以下五个阶段
在这里插入图片描述

1.5 为什么选择Python做数据分析

问:

为什么选择Python做数据分析?

在这里插入图片描述
答:

选择Python做数据分析,主要考虑的是Python具有以下优势

  • 语法简单精炼,适合初学者
  • 拥有一个巨大且活跃的科学计算社区(强大的后援团!)
  • 拥有强大的通用编程能力
  • 人工智能时代的通用语言
  • 方便对接其它语言(Python是一种胶水语言)

2. Pandas概述

2.1 Pandas简介

Python本身的数据分析功能并不强,需要安装一些第三方的扩展库增强它的能力。其中,针对结构化数据(可简单理解为二维表数据,或我们常用的Excel表格数据)分析能力最强的第三方扩展库就是Pandas

2.2 Pandas来源

Pandas 是python的一个数据分析包,最初由AQR Capital Management于2008年4月开发,并于2009年底开源出来的,目前由专注于Python数据包开发的PyData开发team继续开发和维护,属于PyData项目的一部分。Pandas最初被作为金融数据分析工具而开发出来,因此,pandas为时间序列分析提供了很好的支持。 Pandas的名称来自于面板数据(panel data)和python数据分析(data analysis)。

2.3 Pandas 特点

  • Pandas基于NumPy 的一种工具包,是为解决数据分析任务而创建的。但Numpy只能处理数字,若想处理其他类型的数据,如字符串,就要用到Pandas了。
  • Pandas 纳入了大量库和一些标准的数据模型,提供了高效操作大型数据集所需的工具。
  • Pandas提供了大量能使我们快速便捷处理数据函数方法,是使Python成为强大而高效的数据分析语言的重要因素之一。
  • Pandas 可以从各种文件格式比如CSVJSONSQL、Microsoft Excel 导入数据。
  • Pandas 可以对各种数据进行运算操作,比如归并、再成形、选择,还有数据清洗数据加工特征。
  • Pandas 广泛应用在学术金融统计学等各个数据分析领域。

2.4 Pandas最主要的两种数据结构:

Pandas 的主要数据结构是 Series (一维数据)与 DataFrame(二维数据),这两种数据结构足以处理金融、统计、社会科学、工程等领域里的大多数典型用例。

  • Series 是一种类似于一维数组的对象,它由一组数据(各种Numpy数据类型)以及一组与之相关的数据标签(即索引)组成。
    在这里插入图片描述

  • DataFrame 是一个表格型的数据结构,它含有一组有序的列,每列可以是不同的值类型(数值、字符串、布尔型值)。DataFrame 既有行索引也有列索引,它可以被看做由 Series 组成的字典(共同用一个索引)。
    在这里插入图片描述

3. Pandas安装

3.1 创建新的python环境:anaconda环境

Anaconda可以简单理解为非常多的python库的集合,包括Conda、Python以及一大堆安装好的工具包,比如:numpy、pandas等,具有一下特点:

  • 包含了众多流行的科学、数学、工程和数据分析的Python库
  • 完全开源和免费
  • 对于学术用途,可以申请免费的License
  • 全平台支持Linux、Windows、Mac OS X

当然,我们可以简单的只安装pandas,但是我们推荐数据分析的初学者安装Anaconda进行学习

在windows中安装anaconda:
(1) 在浏览器的地址栏中输入https://www.anaconda.com/download/进入Anaconda的官方网站下载,或者到历史版本中选择https://repo.anaconda.com/archive/,然后单击你电脑系统所对应版本的应用程序下载。
在这里插入图片描述
在这里插入图片描述
(2) 采用默认安装路径,在指定完安装路径后,点击下一步窗口会提示是否勾选如下复选框选项,两个都勾选即可。
在这里插入图片描述
(3) 安装完以后,在系统左下角的【开始菜单】->【所有程序】中找到Anaconda3文件夹,可以看到该目录下包含了多个组件。
在这里插入图片描述
(4) Anaconda Navigator成功打开后的首页界面如下图所示。
在这里插入图片描述

通过Anaconda管理Python包
Anaconda集成了常用的扩展包,能够方便地对这些扩展包进行管理,比如安装和卸载包,这些操作都需要依赖conda。

conda是一个在Windows、Mac OS和Linux上运行的开源软件包管理系统和环境管理系统,可以快速地安装、运行和更新软件包及其依赖项。

在Windows系统下,用户可以在Anaconda Prompt中通过命令检测conda是否被安装。
在这里插入图片描述
如果希望快速了解如何使用conda命令管理包,则可以在Anaconda Prompt中输入“conda -h”或“conda --help”命令来查看帮助文档。

在这里插入图片描述
使用list命令可以获取当前环境中已经安装的包信息,执行list命令后,终端会显示当前环境下已安装包名版本号

在这里插入图片描述
使用search命令可以查找可供安装的包,该命令中,–full-name为精确查找的参数,后面紧跟的是包的全名

>>> conda search --full-name 包的全名

例如:
在这里插入图片描述
如果希望在指定的环境中进行安装,则可以在install 命令的后面显式地指定环境名称。

>>>conda install --name env_name package_name

上述命令中,env_name参数表示包安装的环境名称,package_name表示将要安装的包名称。比如:
在这里插入图片描述
如果要在指定的环境中卸载包,则可以在指定环境下使用remove命令进行移除。

>>>conda remove --name env_name package_name

如果要卸载当前环境中的包,可以直接使用remove命令进行卸载。

更新当前环境下所有的包,可使用如下命令完成:

>>> conda update --all

如果只想更新某个包或某些包,则直接在update命令的后面加上包名即可,多个包之间使用空格隔开。

>>> conda update pandas numpy matplotlib

需要注意:
一般来说anaconda是比较大的,因为里面集成了非常多的python包,但我们如果根本不需要那么多的包,就可以安装Miniconda,它是最小的conda安装环境,只包含最基本的Python与conda以及相关的必须依赖项。对于空间要求严格的用户,Miniconda是一种选择,它只包含了最基本的库,其它的库需要自己手动安装。

3.2 启用Jupyter Notebook开发环境,并使用pandas

在“开始菜单”中打开Anaconda3目录,找到并单击“Jupyter Notebook”会弹出启动窗口,同时,系统默认的浏览器会弹出如下页面:
在这里插入图片描述
上图是浏览器中打开的Jupyter Notebook主界面,默认打开和保存的目录为C:\Users\当前用户名。

除了上述的启动方式外,还可以用命令行打开,这种方式可以控制Jupyter Notebook的显示和保存路径,是推荐的启动方式。

在主界面中单击右上方的“New”按钮,打开如图所示的下拉列表。
在这里插入图片描述
这里我们选择“Python 3”,创建一个基于Python 3的笔记本。

在这里插入图片描述
选中单元格,按下“Enter”键进入单元格的编辑模式,此时可以输入任意代码,按shift+enter执行代码:
在这里插入图片描述
接着,在新的单元格中输入for循环代码,然后再运行,笔记本的编辑界面如下图所示:
在这里插入图片描述
除此之外,还可以修改之前的单元格,对其重新运行。

选中最上面的单元格,单击【Insert】->【Insert Cell Above】在单元格的上方插入一个新的单元格。
也可以添加一些markdown的内容,做解释或注释用,例如:
在这里插入图片描述
当然,还能导出很多格式,PDF、HTML等等:
在这里插入图片描述

好,接下来就是使用Jupyter导入pandas模块,并创建一个series数据:
在这里插入图片描述

3.3 常见的数据分析工具

Python本身的数据分析功能并不强,需要安装一些第三方的扩展库来增强它的能力,常用的有:

  • NumPy
  • Pandas
  • Matplotlib
  • Seaborn
  • NLTK
资料来源 Python结构化数据分析工具Pandas之Pandas概览
博客作者 PoGeN1
前往答题
我的笔记