【python】DataFrame.groupby()聚合，分組級運算

pandas提供了一個靈活高效的groupby功能，它使你能以一種自然的方式對數據集進行切片、切塊、摘要

等操作。根據一個或多個鍵（可以是函數、數組或DataFrame列名）拆分pandas對象。計算分組摘要統

計，如計數、平均值、標準差，或用戶自定義函數。對DataFrame的列應用各種各樣的函數。應用組內轉換

或其他運算，如規格化、線性迴歸、排名或選取子集等。計算透視表或交叉表。執行分位數分析以及其他分

組分析。

groupby分組函數：

返回值：返回重構格式的DataFrame，特別注意，groupby裏面的字段內的數據重構後都會變成索引

groupby(),一般和sum()、mean()一起使用，如下例：

先自定義生成數組

import pandas as pd
df = pd.DataFrame({'key1':list('ababa'),
                  'key2': ['one','two','one','two','one'],
                  'data1': np.random.randn(5),
                  'data2': np.random.randn(5)})
print(df)

      data1     data2 key1 key2
0 -1.313101 -0.453361    a  one
1  0.791463  1.096693    b  two
2  0.462611  1.150597    a  one
3 -0.216121  1.381333    b  two
4  0.077367 -0.282876    a  one

應用groupby,分組鍵均爲Series(譬如df[‘xx’])，實際上分組鍵可以是任何長度適當的數組

#將df['data1']按照分組鍵爲df['key1']進行分組
grouped=df['data1'].groupby(df['key1'])
print(grouped.mean())

key1
a   -0.257707
b    0.287671
Name: data1, dtype: float64

states=np.array(['Ohio','California','California','Ohio','Ohio'])
years=np.array([2005,2005,2006,2005,2006])
#states第一層索引，years第二層分層索引
print(df['data1'].groupby([states,years]).mean())
California  2005    0.791463
            2006    0.462611
Ohio        2005   -0.764611
            2006    0.077367
Name: data1, dtype: float64


#df根據‘key1’分組，然後對df剩餘數值型的數據運算
df.groupby('key1').mean()
         data1     data2
key1                    
a    -0.257707  0.138120
b     0.287671  1.239013
#可以看出沒有key2列，因爲df[‘key2’]不是數值數據，所以被從結果中移除。默認情況下，所有數值列都會被聚合，雖然有時可能被過濾爲一個子集。

 對分組進行迭代

#name就是groupby中的key1的值，group就是要輸出的內容
for name, group in df.groupby('key1'):
        print (name,group)

a       data1     data2 key1 key2
0 -1.313101 -0.453361    a  one
2  0.462611  1.150597    a  one
4  0.077367 -0.282876    a  one
b       data1     data2 key1 key2
1  0.791463  1.096693    b  two
3 -0.216121  1.381333    b  two

對group by後的內容進行操作，可轉換成字典

#轉化爲字典
piece=dict(list(df.groupby('key1')))

{'a':       data1     data2 key1 key2
 0 -1.313101 -0.453361    a  one
 2  0.462611  1.150597    a  one
 4  0.077367 -0.282876    a  one, 'b':       data1     data2 key1 key2
 1  0.791463  1.096693    b  two
 3 -0.216121  1.381333    b  two}
#對字典取值
value = piece['a']

groupby默認是在axis=0上進行分組的，通過設置也可以在其他任何軸上進行分組

grouped=df.groupby(df.dtypes, axis=1)
value = dict(list(grouped))
print(value)

{dtype('float64'):       data1     data2
0 -1.313101 -0.453361
1  0.791463  1.096693
2  0.462611  1.150597
3 -0.216121  1.381333
4  0.077367 -0.282876, dtype('O'):   key1 key2
0    a  one
1    b  two
2    a  one
3    b  two
4    a  one}

對於大數據，很多情況是只需要對部分列進行聚合

#對df進行'key1'，'key2'的兩次分組，然後取data2的數據，對兩次細分的分組數據取均值
value = df.groupby(['key1','key2'])[['data2']].mean()

              data2
key1 key2          
a    one   0.138120
b    two   1.239013
----------------------------------
df
Out[1]: 
      data1     data2 key1 key2
0 -1.313101 -0.453361    a  one
1  0.791463  1.096693    b  two
2  0.462611  1.150597    a  one
3 -0.216121  1.381333    b  two
4  0.077367 -0.282876    a  one
----------------------------------

df['key2'].iloc[-1] ='two'

value = df.groupby(['key1','key2'])[['data2']].mean()

value
Out[2]: 
              data2
key1 key2          
a    one   0.348618
     two  -0.282876
b    two   1.239013