【Python数据分析】1st-数据探索与数据预处理

《Python数据分析与挖掘实战》读书笔记之数据探索与数据预处理

##一、数据探索
Python中用于数据探索的库主要是Pandas（数据分析）和Matplotlib（数据可视化）

###数据分析内容
数据质量分析
: 缺失值分析
: 异常值分析
: 一致性分析

数据特征分析

分布分析

对比分析

统计量分析

周期性分析

贡献度分析

相关性分析

---

###异常值检测代码

#-*- coding: utf-8 -*-

import sys
reload(sys)

sys.setdefaultencoding('utf-8')

import pandas as pd

catering_sale = '../data/catering_sale.xls' #餐饮数据
data = pd.read_excel(catering_sale, index_col = u'日期') #读取数据，指定“日期”列为索引列

import matplotlib.pyplot as plt #导入图像库

plt.rcParams['font.sans-serif'] = ['SimHei'] #用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False #用来正常显示负号
plt.figure() #建立图像
p = data.boxplot(return_type='dict') #画箱线图，直接使用DataFrame的方法
x = p['fliers'][0].get_xdata() # 'flies'即为异常值的标签
y = p['fliers'][0].get_ydata()
y.sort() #从小到大排序，该方法直接改变原对象

for i in range(len(x)): 
  if i>0:
    plt.annotate(y[i], xy = (x[i],y[i]), xytext=(x[i]+0.05 -0.8/(y[i]-y[i-1]),y[i]))
  else:
    plt.annotate(y[i], xy = (x[i],y[i]), xytext=(x[i]+0.08,y[i]))

plt.show() #展示箱线图

运行程序得到箱型图
python用箱型图进行异常值检测

---

###贡献度分析代码（菜品盈利帕累托图代码）

#-*- coding: utf-8 -*-

#菜品盈利数据 帕累托图
from __future__ import print_function
import pandas as pd
import sys

reload(sys)
sys.setdefaultencoding('utf-8')

#初始化参数
dish_profit = '../data/catering_dish_profit.xls' #餐饮菜品盈利数据
data = pd.read_excel(dish_profit, index_col = u'菜品名')
data = data[u'盈利'].copy()
data.sort_values(ascending=False)
#sorted(data,reverse=True)  #或用这句话

import matplotlib.pyplot as plt #导入图像库

plt.rcParams['font.sans-serif'] = ['SimHei'] #用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False #用来正常显示负号
plt.figure()
data.plot(kind='bar')
plt.ylabel(u'盈利（元）')
p = 1.0*data.cumsum()/data.sum()
p.plot(color = 'r', secondary_y = True, style = '-o',linewidth = 2)
plt.annotate(format(p[6], '.4%'), xy = (6, p[6]), xytext=(6*0.9, p[6]*0.9), arrowprops=dict(arrowstyle="->", connectionstyle="arc3,rad=.2")) #添加注释，即85%处的标记。这里包括了指定箭头样式。
plt.ylabel(u'盈利（比例）')
plt.show()

---

##二、数据预处理
###数据预处理内容
数据清洗
: 缺失值处理
: 异常值处理

数据集成
数据变换
: 函数变换
: 规范化（归一化）
: 连续属性离散化（某些算法要求数据是分类属性形式）
: 属性构造
: 小波变换

---

###数据清洗代码（拉格朗日法进行插补）

#coding=utf-8
#拉格朗日插值代码
import pandas as pd #导入数据分析库Pandas
from scipy.interpolate import lagrange #导入拉格朗日插值函数
pd.options.mode.chained_assignment = None #default='warn'
inputfile = '../data/catering_sale.xls' #销量数据路径
outputfile = '../tmp/sales.xls' #输出数据路径

data = pd.read_excel(inputfile) #读入数据
data[u'销量'][(data[u'销量'] < 400) | (data[u'销量'] > 5000)] = None #过滤异常值，将其变为空值
#data.loc[:,(u'销量',)][(data[u'销量'] < 400) | (data[u'销量'] > 5000)] = None #这是对处理后得到一个结果，不能作用到原数据上

#row_indexs=(data[u'销量']<400|(data[u'销量']>5000))
#data.loc[row_indexs,u'销量']=None

#自定义列向量插值函数
#s为列向量，n为被插值的位置，k为取前后的数据个数，默认为5
def ployinterp_column(s, n, k=5):
  y = s[list(range(n-k, n)) + list(range(n+1, n+1+k))] #取数
  y = y[y.notnull()] #剔除空值
  return lagrange(y.index, list(y))(n) #插值并返回插值结果

#逐个元素判断是否需要插值
for i in data.columns:
  for j in range(len(data)):
    if (data[i].isnull())[j]: #如果为空即插值。
      data[i][j] = ployinterp_column(data[i], j)
      #data.loc[j,i]=ployinterp_column(data[i],j)

data.to_excel(outputfile) #输出结果，写入文件

Pandas报错：Setting With Copy Warning
添加pd.options.mode.chained_assignment = None #default='warn'
或用".loc" pandas SettingWithCopyWarning（此代码中异常值未置空）

---

###数据离散化代码

#-*- coding: utf-8 -*-
#数据规范化
import pandas as pd
atafile = '../data/discretization_data.xls' #参数初始化
data = pd.read_excel(datafile) #读取数据
data = data[u'肝气郁结证型系数'].copy()
k = 4

d1 = pd.cut(data, k, labels = range(k)) #等宽离散化，各个类比依次命名为0,1,2,3

#等频率离散化
w = [1.0*i/k for i in range(k+1)]
w = data.describe(percentiles = w)[4:4+k+1] #使用describe函数自动计算分位数
w[0] = w[0]*(1-1e-10)
d2 = pd.cut(data, w, labels = range(k))

from sklearn.cluster import KMeans #引入KMeans
kmodel = KMeans(n_clusters = k, n_jobs = 4) #建立模型，n_jobs是并行数，一般等于CPU数较好
kmodel.fit(data.values.reshape((len(data), 1))) #训练模型
c = pd.DataFrame(kmodel.cluster_centers_).sort_values(0) #输出聚类中心，并且排序（默认是随机序的）
w = pd.rolling_mean(c, 2).iloc[1:] #相邻两项求中点，作为边界点
w = [0] + list(w[0]) + [data.max()] #把首末边界点加上
d3 = pd.cut(data, w, labels = range(k))

def cluster_plot(d, k): #自定义作图函数来显示聚类结果
  import matplotlib.pyplot as plt
  plt.rcParams['font.sans-serif'] = ['SimHei'] #用来正常显示中文标签
  plt.rcParams['axes.unicode_minus'] = False #用来正常显示负号
  
  plt.figure(figsize = (8, 3))
  for j in range(0, k):
    plt.plot(data[d==j], [j for i in d[d==j]], 'o')
    plt.ylim(-0.5, k-0.5)
  return plt

cluster_plot(d1, k).show()
cluster_plot(d2, k).show()
cluster_plot(d3, k).show()

kmeans()含义Python—kmeans算法学习笔记

按照提示改正error和warning（warning可不改）
reshape is deprecated and will raise in a subsequent release.
DataFrame排序sort的问题

---

#-*- coding: utf-8 -*-
#主成分分析 降维
import pandas as pd
import numpy as np

#参数初始化
inputfile = '../data/principal_component.xls'
outputfile = '../tmp/dimention_reducted.xls' #降维后的数据

data = pd.read_excel(inputfile, header = None) #读入数据

from sklearn.decomposition import PCA

pca = PCA()
pca.fit(data)
pca.components_ #返回模型的各个特征向量
pca.explained_variance_ratio_ #返回各个成分各自的方差百分比

pca=PCA(3)
pca.fit(data)
low_d=pca.transform(data) #降低维度
print low_d
#df=pd.DataFrame(low_d)
#print df
#df.to_html('a.html')
pd.DataFrame(low_d).to_html('a.html') #数据写入html
#pd.DataFrame(low_d).to_exel(outputfile)
pca.inverse_transform(low_d)

Error：‘DataFrame’ object has no attribute ‘to_exel’
未解决，改为写入html

DataFrame基本操作
用python做数据分析4|pandas库介绍之DataFrame基本操作
Pandas dataframe数据写入文件和数据库