整理pandas操作
本文原創，轉載請標識出處： http://www.cnblogs.com/xiaoxuebiye/p/7223774.html
導入數據：
pd.read_csv(filename)：從CSV文件導入數據 pd.read_table(filename)：從限定分隔符的文本文件導入數據 pd.read_excel(filename)：從Excel文件導入數據 pd.read_sql(query, connection_object)：從SQL表/庫導入數據 pd.read_json(json_string)：從JSON格式的字符串導入數據 pd.read_html(url)：解析URL、字符串或者HTML文件，抽取其中的tables表格 pd.read_clipboard()：從你的粘貼板獲取內容，並傳給read_table() pd.DataFrame(dict)：從字典對象導入數據，Key是列名，Value是數據
導出數據：
df.to_csv(filename)：導出數據到CSV文件 df.to_excel(filename)：導出數據到Excel文件 df.to_sql(table_name, connection_object)：導出數據到SQL表 df.to_json(filename)：以Json格式導出數據到文本文件
創建測試對象：
pd.DataFrame(np.random.rand(20,5))：創建20行5列的隨機數組成的DataFrame對象
pd.Series(my_list)：從可迭代對象my_list創建一個Series對象
df.index = pd.date_range('1900/1/30', periods=df.shape[0])：增加一個日期索引
查看、檢查數據：
df.head(n)：查看DataFrame對象的前n行 df.tail(n)：查看DataFrame對象的最後n行 df.shape()：查看行數和列數 http:// df.info() ：查看索引、數據類型和內存信息 df.describe()：查看數值型列的彙總統計 s.value_counts(dropna=False)：查看Series對象的唯一值和計數 df.apply(pd.Series.value_counts)：查看DataFrame對象中每一列的唯一值和計數
數據選取：
df[col]：根據列名，並以Series的形式返回列 df[[col1, col2]]：以DataFrame形式返回多列 s.iloc[0]：按位置選取數據 s.loc['index_one']：按索引選取數據 df.iloc[0,:]：返回第一行 df.iloc[0,0]：返回第一列的第一個元素
數據統計：
df.describe()：查看數據值列的彙總統計 df.mean()：返回所有列的均值 df.corr()：返回列與列之間的相關係數 df.count()：返回每一列中的非空值的個數 df.max()：返回每一列的最大值 df.min()：返回每一列的最小值 df.median()：返回每一列的中位數 df.std()：返回每一列的標準差
數據合併：
df1.append(df2)：將df2中的行添加到df1的尾部 df.concat([df1, df2],axis=1)：將df2中的列添加到df1的尾部 df1.join(df2,on=col1,how='inner')：對df1的列和df2的列執行SQL形式的join
數據處理：
df[df[col] > 0.5]：選擇col列的值大於0.5的行 df.sort_values(col1)：按照列col1排序數據，默認升序排列 df.sort_values(col2, ascending=False)：按照列col1降序排列數據 df.sort_values([col1,col2], ascending=[True,False])：先按列col1升序排列，後按col2降序排列數據 df.groupby(col)：返回一個按列col進行分組的Groupby對象 df.groupby([col1,col2])：返回一個按多列進行分組的Groupby對象 df.groupby(col1)[col2]：返回按列col1進行分組後，列col2的均值 df.pivot_table(index=col1, values=[col2,col3], aggfunc=max)：創建一個按列col1進行分組，並計算col2和col3的最大值的數據透視表 df.groupby(col1).agg(np.mean)：返回按列col1分組的所有列的均值 data.apply(np.mean)：對DataFrame中的每一列應用函數np.mean data.apply(np.max,axis=1)：對DataFrame中的每一行應用函數np.max
數據清理：
df[df[col] > 0.5]：選擇col列的值大於0.5的行 df.sort_values(col1)：按照列col1排序數據，默認升序排列 df.sort_values(col2, ascending=False)：按照列col1降序排列數據 df.sort_values([col1,col2], ascending=[True,False])：先按列col1升序排列，後按col2降序排列數據 df.groupby(col)：返回一個按列col進行分組的Groupby對象 df.groupby([col1,col2])：返回一個按多列進行分組的Groupby對象 df.groupby(col1)[col2]：返回按列col1進行分組後，列col2的均值 df.pivot_table(index=col1, values=[col2,col3], aggfunc=max)：創建一個按列col1進行分組，並計算col2和col3的最大值的數據透視表 df.groupby(col1).agg(np.mean)：返回按列col1分組的所有列的均值 data.apply(np.mean)：對DataFrame中的每一列應用函數np.mean data.apply(np.max,axis=1)：對DataFrame中的每一行應用函數np.max
其它操作：
改列名：
方法1
a.columns = ['a','b','c']
方法2
a.rename(columns={'A':'a', 'B':'b', 'C':'c'}, inplace = True)
插入行列
http://www.jianshu.com/p/7df2593a01ce
相關參考鏈接：
參考 http://www.qingpingshan.com/rjbc/dashuju/228593.html 十分鐘搞定 http://python.jobbole.com/84416/ 官方文檔 http://pandas.pydata.org/pandas-docs/stable/index.html 操作索引 https://www.dataquest.io/blog/images/cheat-sheets/pandas-cheat-sheet.pdf
進階
取數（元素）：
取df中某一個具體的數據
iloc index locate
舉例 ：
print df.iloc[0,0]
print df.iloc[1, 1]
print df.iloc[19, 7]
如果 df 是日期索引 + a,b,c 列名
loc locate
df.loc[ '2017-01-01', 'A' ]
取數（行）：
one_row = df.iloc[4]
one_row2 = df.loc['2013-01-02']
print type(one_row)
取某一行， 取出來後之後的數據類型是 Series
可以 one_row.iloc[1], 再訪問 Series 裏的數據
print one_row.iloc[1]
print one_row.loc['A']
取數（列）：
column2 = df['A']
column2 是一個 Series 類型
print type( column2 )
可訪問 列裏面的數據
print column2[0]
print column2['2013-01-03']
取數（切片）：
行模式切片
dfsub1 = df.iloc[4:5]
print type( dfsub1 )
print dfsub1
dfsub2 = df.loc['2013-01-03':'2013-01-05']
print dfsub2
切片的結果 還是df, 而且改變 dfsub, 會同時改變
df
-------------------------------------------------
列模式
print ' get sub by column mode '
dfsub = df[['A','B']]
print type( dfsub )
print dfsub
-------------------------------------------------
子集
row x column
方式一：
print ' get sub by row X column mode '
dfsub = df.loc['20130102':'20130104', ['A', 'B']]
print type( dfsub )
print dfsub
方式二
dfsub = df.iloc[ 1:3, 1:3 ]
-------------------------------------------------
取數（條件切片）：
dfsub = df[ (df.A > 0) and (df.B > 0) ] 結果類型是 df 這個玩意很想數據庫裏的 select where 送一個特殊條件 print df[ df > 0 ]
行遍歷 ：
def testForeach():
df = pd.read_table('D:/run/data/sz002626_2017-01-04.cvs', encoding='gbk') # ,header=0
df = df.sort_index(axis=0, ascending=False)
df.columns = [1, 2, 3, 4, 5, 6]
df[7] = 'kong'
print df
# 清洗
df[3] = df[3].replace('--', '0.00')
df[3] = df[3].astype(float)
#遍歷
df[7] = df.apply(lambda r: dorec(r), axis=1)
print df
pass
def dorec(rec):
if (rec[3] > 0):
return '漲'
if (rec[3] < 0):
return '跌'
else:
return '平'
修改字段類型 ：
df[['two', 'three']] = df[['two', 'three']].astype(float)
cnlogs 發隨筆需要 150 字， 以下內容都是充字數的，忽視。
循環神經網絡(RNN)
人們的每次思考並不都是從零開始的。比如說你在閱讀這篇文章時，你基於對前面的文字的理解來理解你目前閱讀到的文字，而不是每讀到一個文字時，都拋棄掉前面的思考，從頭開始。你的記憶是有持久性的。
傳統的神經網絡並不能如此，這似乎是一個主要的缺點。例如，假設你在看一場電影，你想對電影裏的每一個場景進行分類。傳統的神經網絡不能夠基於前面的已分類場景來推斷接下來的場景分類。
循環神經網絡(Recurrent Neural Networks)解決了這個問題。這種神經網絡帶有環，可以將信息持久化。
———————————————————————— 讓科技和智能使人更便捷 --- 從我做起 ————————————————————————