「数据挖掘入门系列」数据探索之数据特征分析
对数据质量进行简单的分析后,我们就可以开始来分析数据的特征分析了。数据的特征分析可以从以下几个方面开展:
- 分布分析
- 对比分析
- 统计量分析
- 周期性分析
- 相关性分析
通过以上5种方式,可以找到数据中存在的某种特征。
分布分析
分布分析很容易理解,就是理解数据的分布情况。例如:在0-100区间有多少数据、100-1000有多少数据等等。我们一般可以使用直方图、饼图来展示数据的分布情况。
分布分析可以分为两种类型:
- 定量数据分布分析
- 定性数据分布分析
定量数据分布分析就是把数据分成一个个固定的区间,然后统计不同区间的分布数值。
定量数据分析的步骤为如下:
- 求极差(最大值 - 最小值)
- 决定组距和组数
- 决定分点
- 列出频率分布表
- 绘制频率分布直方图
定性数据分布分析比较简单,就是按照指定的分类来统计不同类别的分布数值。
对比分析
对比分析是指选择具备有一定联系的指标来进行比较,从而发现数据的变化特征。对比分析的关键在于确定对比的标准,才能进行有效的评价。
对比分析主要分为两类:
- 绝对数比较
- 相对数比较
绝对数比较容易理解,就是用指标和一个固定的值来进行比较,寻找数据的差异。
相对数比较是找到几个有联系的指标来进行比较分析,可以发现不同类别指标之间的差异。相对数比较又分为以下几类:
- 结构相对数:用一个分类的指标和总体的指标值对比求得比重,用来说明事物的组成结构。
- 比较相对数:不同分类的指标之间的对比,例如:男女比例、不同区域指标的对比。
- 计划完成程度相对数:和计划数进行比较
- 动态相对数:不同时期的指标进行比较
统计量分析
统计量分析是用统计指标来对定量数据进行分析,一般从集中趋势和离中趋势两个方面来开展分析。
反应集中趋势的度量通常使用均值和中位数。反应异常的指标通常使用的是标准差(方差)、四分位间距。
1、平均数:一组数据,用这组数据的总和除以总分数,得出的数就是这组数据的平均数。平均数的大小与一组数据里的每个数据都有关系,任何一个数据的变动都会引起平均数的变动,即平均数受较大数和较小数的影响。
2. 中位数:将一组数据按大小依次排列,把处在最中间位置的一个数(或最中间位置的两个数的平均数)叫做这组数据的中位数。中位数的大小仅与数据的排列位置有关。因此中位数不受偏大和偏小数的影响,当一组数据中的个别数据变动较大时,常用它来描述这组数据的集中趋势。
以下来说明上述集中度量值的计算方法。
集中趋势分析
均值
均值是所有数据的平均值。
均值对极端值(异常值)很敏感。如果数据中存在某些数据是偏态分布的,那么均值是不能很好地度量数据的集中趋势。为了消除少数异常值的影响,可以使用截断均值或者中位数来度量数据的集中趋势。
阶段均值是指去掉高、低极端值之后的平均数
中位数
中位数是将一组观察值按从小到大的顺序排列,位于中间的那个数。
众数
众数是指数据集中出现最频繁的值。众数一般用于定性变量。
离中趋势分析
极差
极差 = 最大值 - 最小值
标准差
标准差度量数据偏离均值的程度。计算公式为:
变异系数
变异系数度量是标准差相对于均值的离中趋势。计算公式为:
四分位数间距
四分位数间距是上四分位数Qu与下四分位数Ql的差值。间距越大说明变异程度越大;反之,说明变异程度越小。
周期性分析
周期性分析是统计某个指标是否随着时间变化而变化。相对较长的周期性趋势分析有:年度周期性趋势、季度周期性趋势。相对较短的有月度周期性趋势、周度周期性趋势、甚至还有天、小时等周期性趋势。
相关性分析
分析连续变量之间线性相关程度的强弱,并用适当的统计指标表示出来的过程称为相关分析。我们可以通过:直接绘制散点图或者绘制散点图矩阵来开展分析。计算相关性系数有以下几种方法:
- Pearson(皮尔逊系数):一般用于分析两个连续性变量之间的关系,它要求连续变量的取值服从正态分布。
- Speraman(斯皮尔曼相关系数):不服从正态分布的变量、分类或等级变量之间的关联性可以采取Speraman相关系数来描述。
- 判定系数:判断系数是相关系数的平方,判定系数越接近1,表示相关性越强,越接近于0,表名两个变量之间几乎没有相关关系。