【Python數據分析】1st-數據探索與數據預處理

《Python數據分析與挖掘實戰》讀書筆記之數據探索與數據預處理

##一、數據探索
Python中用於數據探索的庫主要是Pandas（數據分析）和Matplotlib（數據可視化）

###數據分析內容
數據質量分析
: 缺失值分析
: 異常值分析
: 一致性分析

數據特徵分析

分佈分析

對比分析

統計量分析

週期性分析

貢獻度分析

相關性分析

---

###異常值檢測代碼

#-*- coding: utf-8 -*-

import sys
reload(sys)

sys.setdefaultencoding('utf-8')

import pandas as pd

catering_sale = '../data/catering_sale.xls' #餐飲數據
data = pd.read_excel(catering_sale, index_col = u'日期') #讀取數據，指定“日期”列爲索引列

import matplotlib.pyplot as plt #導入圖像庫

plt.rcParams['font.sans-serif'] = ['SimHei'] #用來正常顯示中文標籤
plt.rcParams['axes.unicode_minus'] = False #用來正常顯示負號
plt.figure() #建立圖像
p = data.boxplot(return_type='dict') #畫箱線圖，直接使用DataFrame的方法
x = p['fliers'][0].get_xdata() # 'flies'即爲異常值的標籤
y = p['fliers'][0].get_ydata()
y.sort() #從小到大排序，該方法直接改變原對象

for i in range(len(x)): 
  if i>0:
    plt.annotate(y[i], xy = (x[i],y[i]), xytext=(x[i]+0.05 -0.8/(y[i]-y[i-1]),y[i]))
  else:
    plt.annotate(y[i], xy = (x[i],y[i]), xytext=(x[i]+0.08,y[i]))

plt.show() #展示箱線圖

運行程序得到箱型圖
python用箱型圖進行異常值檢測

---

###貢獻度分析代碼（菜品盈利帕累託圖代碼）

#-*- coding: utf-8 -*-

#菜品盈利數據 帕累託圖
from __future__ import print_function
import pandas as pd
import sys

reload(sys)
sys.setdefaultencoding('utf-8')

#初始化參數
dish_profit = '../data/catering_dish_profit.xls' #餐飲菜品盈利數據
data = pd.read_excel(dish_profit, index_col = u'菜品名')
data = data[u'盈利'].copy()
data.sort_values(ascending=False)
#sorted(data,reverse=True)  #或用這句話

import matplotlib.pyplot as plt #導入圖像庫

plt.rcParams['font.sans-serif'] = ['SimHei'] #用來正常顯示中文標籤
plt.rcParams['axes.unicode_minus'] = False #用來正常顯示負號
plt.figure()
data.plot(kind='bar')
plt.ylabel(u'盈利（元）')
p = 1.0*data.cumsum()/data.sum()
p.plot(color = 'r', secondary_y = True, style = '-o',linewidth = 2)
plt.annotate(format(p[6], '.4%'), xy = (6, p[6]), xytext=(6*0.9, p[6]*0.9), arrowprops=dict(arrowstyle="->", connectionstyle="arc3,rad=.2")) #添加註釋，即85%處的標記。這裏包括了指定箭頭樣式。
plt.ylabel(u'盈利（比例）')
plt.show()

---

##二、數據預處理
###數據預處理內容
數據清洗
: 缺失值處理
: 異常值處理

數據集成
數據變換
: 函數變換
: 規範化（歸一化）
: 連續屬性離散化（某些算法要求數據是分類屬性形式）
: 屬性構造
: 小波變換

---

###數據清洗代碼（拉格朗日法進行插補）

#coding=utf-8
#拉格朗日插值代碼
import pandas as pd #導入數據分析庫Pandas
from scipy.interpolate import lagrange #導入拉格朗日插值函數
pd.options.mode.chained_assignment = None #default='warn'
inputfile = '../data/catering_sale.xls' #銷量數據路徑
outputfile = '../tmp/sales.xls' #輸出數據路徑

data = pd.read_excel(inputfile) #讀入數據
data[u'銷量'][(data[u'銷量'] < 400) | (data[u'銷量'] > 5000)] = None #過濾異常值，將其變爲空值
#data.loc[:,(u'銷量',)][(data[u'銷量'] < 400) | (data[u'銷量'] > 5000)] = None #這是對處理後得到一個結果，不能作用到原數據上

#row_indexs=(data[u'銷量']<400|(data[u'銷量']>5000))
#data.loc[row_indexs,u'銷量']=None

#自定義列向量插值函數
#s爲列向量，n爲被插值的位置，k爲取前後的數據個數，默認爲5
def ployinterp_column(s, n, k=5):
  y = s[list(range(n-k, n)) + list(range(n+1, n+1+k))] #取數
  y = y[y.notnull()] #剔除空值
  return lagrange(y.index, list(y))(n) #插值並返回插值結果

#逐個元素判斷是否需要插值
for i in data.columns:
  for j in range(len(data)):
    if (data[i].isnull())[j]: #如果爲空即插值。
      data[i][j] = ployinterp_column(data[i], j)
      #data.loc[j,i]=ployinterp_column(data[i],j)

data.to_excel(outputfile) #輸出結果，寫入文件

Pandas報錯：Setting With Copy Warning
添加pd.options.mode.chained_assignment = None #default='warn'
或用".loc" pandas SettingWithCopyWarning（此代碼中異常值未置空）

---

###數據離散化代碼

#-*- coding: utf-8 -*-
#數據規範化
import pandas as pd
atafile = '../data/discretization_data.xls' #參數初始化
data = pd.read_excel(datafile) #讀取數據
data = data[u'肝氣鬱結證型係數'].copy()
k = 4

d1 = pd.cut(data, k, labels = range(k)) #等寬離散化，各個類比依次命名爲0,1,2,3

#等頻率離散化
w = [1.0*i/k for i in range(k+1)]
w = data.describe(percentiles = w)[4:4+k+1] #使用describe函數自動計算分位數
w[0] = w[0]*(1-1e-10)
d2 = pd.cut(data, w, labels = range(k))

from sklearn.cluster import KMeans #引入KMeans
kmodel = KMeans(n_clusters = k, n_jobs = 4) #建立模型，n_jobs是並行數，一般等於CPU數較好
kmodel.fit(data.values.reshape((len(data), 1))) #訓練模型
c = pd.DataFrame(kmodel.cluster_centers_).sort_values(0) #輸出聚類中心，並且排序（默認是隨機序的）
w = pd.rolling_mean(c, 2).iloc[1:] #相鄰兩項求中點，作爲邊界點
w = [0] + list(w[0]) + [data.max()] #把首末邊界點加上
d3 = pd.cut(data, w, labels = range(k))

def cluster_plot(d, k): #自定義作圖函數來顯示聚類結果
  import matplotlib.pyplot as plt
  plt.rcParams['font.sans-serif'] = ['SimHei'] #用來正常顯示中文標籤
  plt.rcParams['axes.unicode_minus'] = False #用來正常顯示負號
  
  plt.figure(figsize = (8, 3))
  for j in range(0, k):
    plt.plot(data[d==j], [j for i in d[d==j]], 'o')
    plt.ylim(-0.5, k-0.5)
  return plt

cluster_plot(d1, k).show()
cluster_plot(d2, k).show()
cluster_plot(d3, k).show()

kmeans()含義Python—kmeans算法學習筆記

按照提示改正error和warning（warning可不改）
reshape is deprecated and will raise in a subsequent release.
DataFrame排序sort的問題

---

#-*- coding: utf-8 -*-
#主成分分析 降維
import pandas as pd
import numpy as np

#參數初始化
inputfile = '../data/principal_component.xls'
outputfile = '../tmp/dimention_reducted.xls' #降維後的數據

data = pd.read_excel(inputfile, header = None) #讀入數據

from sklearn.decomposition import PCA

pca = PCA()
pca.fit(data)
pca.components_ #返回模型的各個特徵向量
pca.explained_variance_ratio_ #返回各個成分各自的方差百分比

pca=PCA(3)
pca.fit(data)
low_d=pca.transform(data) #降低維度
print low_d
#df=pd.DataFrame(low_d)
#print df
#df.to_html('a.html')
pd.DataFrame(low_d).to_html('a.html') #數據寫入html
#pd.DataFrame(low_d).to_exel(outputfile)
pca.inverse_transform(low_d)

Error：‘DataFrame’ object has no attribute ‘to_exel’
未解決，改爲寫入html

DataFrame基本操作
用python做數據分析4|pandas庫介紹之DataFrame基本操作
Pandas dataframe數據寫入文件和數據庫