数据分析实战——05丨Python科学计算:Pandas
- Pandas 可以对数据进行导入、清洗、处理、统计和输出
- 在 NumPy 中数据结构是围绕 ndarray 展开的
- 那么在 Pandas 中的Series 和 DataFrame 这两个核心数据结构,他们分别代表着一维的序列和二维的表结构
- Series 是个定长的字典序列
- 说是定长是因为在存储的时候,相当于两个 ndarray,这也是和字典结构最大的不同
- 因为在字典的结构里,元素的个数是不固定的
- Series有两个基本属性:index 和 values
- 在 Series 结构中,index 默认是 0,1,2,……递增的整数序列,当然我们也可以自己来指定索引,比如 index=[‘a’, ‘b’, ‘c’, ‘d’]
- import pandas as pd
- from pandas import Series, DataFrame
- x1 = Series([1,2,3,4])
- DataFrame 类型数据结构类似数据库表
- 它包括了行索引和列索引,我们可以将 DataFrame 看成是由相同索引的 Series 组成的字典类型
- 数据导入和输出
- Pandas 允许直接从 xlsx,csv 等文件中导入数据,也可以输出到 xlsx, csv 等文件,非常方便。
- import pandas as pd
- from pandas import Series, DataFrame
- score = DataFrame(pd.read_excel(‘data.xlsx‘))
- score.to_excel(‘data1.xlsx‘)
- print score
- 需要说明的是,在运行的过程可能会存在缺少 xlrd 和 openpyxl 包的情况,到时候如果缺少了,可以在命令行模式下使用“pip install”命令来进行安装
- 数据清洗
- 1. 删除 DataFrame 中的不必要的列或行
- Pandas 提供了一个便捷的方法 drop() 函数来删除我们不想要的列或行
- 比如我们想把“语文”这列删掉
- df2 = df2.drop(columns=[‘Chinese‘])
- 想把“张飞”这行删掉。
- df2 = df2.drop(index=[‘ZhangFei‘])
- 2. 重命名列名 columns,让列表名更容易识别
- 如果你想对 DataFrame 中的 columns 进行重命名,可以直接使用 rename(columns=new_names, inplace=True) 函数
- 比如我把列名 Chinese 改成 YuWen,English 改成 YingYu。
- df2.rename(columns={‘Chinese‘: ‘YuWen‘, ‘English‘: ‘Yingyu‘}, inplace = True)
- 3. 去重复的值
- 数据采集可能存在重复的行,这时只要使用 drop_duplicates() 就会自动把重复的行去掉。
- df = df.drop_duplicates() # 去除重复行
- 4. 格式问题
- 更改数据格式
- 这是个比较常用的操作,因为很多时候数据格式不规范,我们可以使用 astype 函数来规范数据格式,比如我们把 Chinese 字段的值改成 str 类型,或者 int64 可以这么写:
- df2[‘Chinese‘].astype(‘str‘)
- df2[‘Chinese‘].astype(np.int64)
- 数据间的空格
- 有时候我们先把格式转成了 str 类型,是为了方便对数据进行操作,这时想要删除数据间的空格,我们就可以使用 strip 函数:
- # 删除左右两边空格
- df2[‘Chinese‘]=df2[‘Chinese‘].map(str.strip)
- # 删除左边空格
- df2[‘Chinese‘]=df2[‘Chinese‘].map(str.lstrip)
- # 删除右边空格
- df2[‘Chinese‘]=df2[‘Chinese‘].map(str.rstrip)
- 如果数据里有某个特殊的符号,我们想要删除怎么办?同样可以使用 strip 函数,比如 Chinese 字段里有美元符号,我们想把这个删掉,可以这么写:
- df2[‘Chinese‘]=df2[‘Chinese‘].str.strip(‘$‘)
- 大小写转换
- 大小写是个比较常见的操作,比如人名、城市名等的统一都可能用到大小写的转换,在 Python 里直接使用 upper(), lower(), title() 函数,方法如下:
- # 全部大写
- df2.columns = df2.columns.str.upper()
- # 全部小写
- df2.columns = df2.columns.str.lower()
- # 首字母大写
- df2.columns = df2.columns.str.title()
- 查找空值
- 数据量大的情况下,有些字段存在空值 NaN 的可能,这时就需要使用 Pandas 中的 isnull 函数进行查找
- 如果我们想看下哪个地方存在空值 NaN,可以针对数据表 df 进行 df.isnull()
- 更改数据格式
- 使用 apply 函数对数据进行清洗
- apply 函数是 Pandas 中自由度非常高的函数,使用频率也非常高
- 1. 删除 DataFrame 中的不必要的列或行
- 数据统计
- Pandas 和 NumPy 一样,都有常用的统计函数,如果遇到空值 NaN,会自动排除
- 数据表合并
- 有时候我们需要将多个渠道源的多个数据表进行合并,一个 DataFrame 相当于一个数据库的数据表,那么多个 DataFrame 数据表的合并就相当于多个数据库的表合并
- 两个 DataFrame 数据表的合并使用的是 merge() 函数
- 如何用 SQL 方式打开 Pandas
- 在 Python 里可以直接使用 SQL 语句来操作 pandasql
- pandasql 中的主要函数是 sqldf,它接收两个参数:一个 SQL 查询语句,还有一组环境变量 globals() 或 locals()
- 总结
相关推荐
xirongxudlut 2020-07-20
roamer 2020-10-29
三石 2020-08-23
QianYanDai 2020-08-16
mmmjyjy 2020-07-16
QianYanDai 2020-07-05
QianYanDai 2020-07-05
jiahaohappy 2020-06-21
QianYanDai 2020-06-16
zhangxiaojiakele 2020-05-25
jzlixiao 2020-05-15
jiahaohappy 2020-05-12
zhangxiaojiakele 2020-05-11
jzlixiao 2020-05-08
Series是一种类似于一维数组的对象,由一组数据以及一组与之对应的索引组成。 index: 索引序列,必须是唯一的,且与数据的长度相同. 如果没有传入索引参数,则默认会自动创建一个从0~N的整数索引
jzlixiao 2020-05-09
三石 2020-10-30
三石 2020-10-29
wangquannuaa 2020-10-15
wangquannuaa 2020-09-29