相信很多進行數據處理工作的小夥伴都遇到過這種需求,比如已經有了各個銷售員的銷售業績,現在需要給各個銷售業績進行一個分檔,諸如未完成任務,完成任務,超額完成任務等。要完成分檔需要先對銷售業績的數值進行判斷,然後再根據判斷的結果進行一個分類,那麼大家都是怎樣進行分類的呢?
實際上,上述需求是要對連續型的數值進行分箱操作,實現的方法有N種,但是效率有高有低,這裏我們介紹兩種效率比較高而且也容易理解的方法。
方法一:pd.cut()
參數介紹
先來看一下這個函數都包含有哪些參數,主要參數的含義與作用都是什麼?
pd.cut(
x,
bins,
right=True,
labels=None,
retbins=False,
precision=3,
include_lowest=False,
duplicates='raise',
)
x : 一維數組(對應前邊例子中提到的銷售業績)
bins :整數,標量序列或者間隔索引,是進行分組的依據,
-
如果填入整數n,則表示將x中的數值分成等寬的n份(即每一組內的最大值與最小值之差約相等);
-
如果是標量序列,序列中的數值表示用來分檔的分界值
-
如果是間隔索引,“ bins”的間隔索引必須不重疊
right :布爾值,默認爲True表示包含最右側的數值
-
當“ right = True”(默認值)時,則“ bins”=[1、2、3、4]表示(1,2],(2,3],(3,4]
-
當
bins
是一個間隔索引時,該參數被忽略。
labels : 數組或布爾值,可選.指定分箱的標籤
-
如果是數組,長度要與分箱個數一致,比如“ bins”=[1、2、3、4]表示(1,2],(2,3],(3,4]一共3個區間,則labels的長度也就是標籤的個數也要是3
-
如果爲False,則僅返回分箱的整數指示符,即x中的數據在第幾個箱子裏
-
當bins是間隔索引時,將忽略此參數
retbins: 是否顯示分箱的分界值。默認爲False,當bins取整數時可以設置retbins=True以顯示分界值,得到劃分後的區間
precision:整數,默認3,存儲和顯示分箱標籤的精度。
include_lowest:布爾值,表示區間的左邊是開還是閉,默認爲false,也就是不包含區間左邊。
duplicates:如果分箱臨界值不唯一,則引發ValueError或丟棄非唯一
ok,所有參數的含義與作用就是這些了,純文字解釋怎麼都不如代碼跑一遍來的直觀,我們在代碼中實現一下再結合上述文字解釋就很容易理解了。而且並不是所有參數都是常用的,有些參數很少用到!
代碼示例
先來看一下數據源
df_f = pd.read_excel(r"D:\data\football\球隊排名比分2019.xlsx")
df_f
讀入的數據是2019年英超各球隊的積分:
進行分箱
bins取整數,即指定箱子個數
我們對積分數據進行分箱,先來最簡單的:
pd.cut(df_f.積分,bins=3,labels=["低","中","高"]) #分成3箱並指定標籤
分箱結果:
0 高
1 高
2 中
3 中
4 中
5 中
6 中
7 中
8 低
9 低
10 低
11 低
12 低
13 低
14 低
15 低
16 低
17 低
18 低
19 低
Name: 積分, dtype: category
Categories (3, object): [低 < 中 < 高]
直接指定箱子個數,分成等寬的3份,感興趣的同學可以求一下每個箱子內的極值,應該是約相等的。
前邊有提到,這種分箱方式看不到分界值是多少,但是可以通過參數進行設置顯示分界值:
pd.cut(df_f.積分,3,labels=["低","中","高"],retbins=True) #retbins=True顯示分界值
分箱結果:
(0 高
1 高
2 中
3 中
4 中
5 中
6 中
7 中
8 低
9 低
10 低
11 低
12 低
13 低
14 低
15 低
16 低
17 低
18 低
19 低
Name: 積分, dtype: category
Categories (3, object): [低 < 中 < 高],
array([13.953 , 29.66666667, 45.33333333, 61. ]))
是不是能明顯的看出和上一次代碼結果相比多了一個 array([13.953 , 29.66666667, 45.33333333, 61. ]),這就是分箱的分界值啦,我們就能知道分箱的時候是以那個數值作爲分界點進行分箱的了。
如果不指定每個箱子的標籤是什麼
pd.cut(df_f.積分,3,labels=False) #只顯示數據位於第幾個箱子裏
分享結果:
0 2
1 2
2 1
3 1
4 1
5 1
6 1
7 1
8 0
9 0
10 0
11 0
12 0
13 0
14 0
15 0
16 0
17 0
18 0
19 0
Name: 積分, dtype: int64
只顯示每個位置上的數值屬於第幾個箱子
**bins取標量序列 **
pd.cut(df_f.積分,[0,30,40,70],labels=["低","中","高"]) #默認right = True
指定分箱時候的分界點,即030,3040,40~70一共三個箱體,有默認的right = True,即分箱的時候,30包含在030的箱體中,40包含在3040的箱體中,70包含在40~70的箱體中,我們來看下結果,是不是和描述一致:
這裏紅框部分是要和下邊更改參數right後的結果進行對比的,我們來看下:
pd.cut(df_f.積分,[0,30,40,70],labels=["低","中","高"],right=False)
分箱結果:
能夠看到,right參數設置對分箱結果的影響。爲什麼會有這樣的影響呢?我們回顧下我們的原數據:
能夠發現分享發生變化的數值正好是我們分箱的臨界值,可以通過參數進行設置臨界值被劃分到哪一邊的箱體中。
如果需要將分箱的結果展示在原數據框中,直接賦值一列進去就可以了:
df_f.loc[:,"積分等級"]=pd.cut(df_f.積分,[0,30,40,70],labels=["低","中","高"],right=False)
df_f
結果如下:
方法二:pd.qcut()
pd.qcut()也可以對數據進行分箱,那麼和pd.cut()相比,pd.qcut()有什麼不同呢?
試想一下如果我們有一個很大的數據集,需要對其中一項進行分箱,分箱的依據不是單純的等寬箱體或者沒有確定的分解值,而是按照分位數進行分箱,比如前四分之一的是一個箱體這種要求,用pd.cut()不是不能實現,只是比較麻煩,還要先計算分位數作爲分解值。這個時候,pd.qcut()就方便很多了。
參數介紹
先看一下官方文檔給出的函數作用:
基於分位數的離散化功能。 將變量離散化爲基於等級或樣本分位數的相等大小的存儲桶。
再來看一下這個函數都包含有哪些參數,主要參數的含義與作用都是什麼?
和pd.cut()相比,pd.qcut()的參數少了兩個,少了right和include_lowest兩個參數,剩下的參數幾乎和pd.cut()一模一樣了。
pd.qcut(x, q, labels=None, retbins=False, precision=3, duplicates=‘raise’)
x :一維數組或者Serise
q : 表示分位數的整數或者數組,
- 如果是分位數的整數,例如10用於十分位,4用於四分位
- 如果是分位數數組,例如[0,0.25,0.5,0.75,1]用於四分位數
labels : 數組或者布爾值,默認爲none,用於指定每個箱體的標籤
- 如果是數組,長度要與分箱個數一致,比如用四分位數分箱,需要指定四個標籤
- 如果爲False,則僅返回分箱的整數指示符,即當前數據位於哪個箱子中
rebines :布爾值,可選。 是否顯示分箱的分界值。(由於是按照分位數進行分箱,在不知道分位數具體數值的情況下,可以通過這個參數設置顯示分界值即分位數的具體數值)
precision:整數,默認3,存儲和顯示分箱標籤的精度。
duplicates:如果分箱臨界值不唯一,則引發ValueError或丟棄非唯一
pd.qcut()的參數就是這些了,並不是所有的參數都常用,下邊我們通過代碼示例來看一下常用參數的應用。
代碼示例
還是用原來的數據集
df_f = pd.read_excel(r"D:\data\football\球隊排名比分2019.xlsx")
df_f
參數q
參數q控制箱子的個數以及分界值,我們先來探索這個參數:
pd.qcut(df_f.積分,4,labels=["低","中","高","很高"])
q=4表示分成四個箱子,邊界值分別爲四分位數,四分之二分位數和四分之三分位數,並給每個箱子都指定了標籤,看下結果:
0 很高
1 很高
2 很高
3 很高
4 很高
5 高
6 高
7 高
8 高
9 中
10 中
11 中
12 中
13 中
14 中
15 低
16 低
17 低
18 低
19 低
Name: 積分, dtype: category
Categories (4, object): [低 < 中 < 高 < 很高]
再通過將q設置成數組看下分類結果是否一致:
pd.qcut(df_f.積分,[0,0.25,0.5,0.75,1],labels=["低","中","高","很高"])
直接設置成四分位數,四分之二分位數和四分之三分位數,看下結果:
0 很高
1 很高
2 很高
3 很高
4 很高
5 高
6 高
7 高
8 高
9 中
10 中
11 中
12 中
13 中
14 中
15 低
16 低
17 低
18 低
19 低
Name: 積分, dtype: category
Categories (4, object): [低 < 中 < 高 < 很高]
結果是完全一致的。
溫馨提示:不管是pd.cut()還是pd.qcut(),如果直接指定分箱的分界值,即bines和q的取值如果是數字,一定要把每一個箱體的上分界值和下分界值都寫上,即每個箱體都是有上下限的,如果分四個箱子參數數組中比如有5個數值纔可以。
參數lsbels
探索完q參數我們來看下labels參數,這個參數在介紹pd.cut()時沒有具體探討,其實在兩個函數中,labels的作用是一致的,我們在此研究一下,上邊例子中labels都指定了標籤名字,如果不指定,會有怎樣的結果呢?
pd.qcut(df_f.積分,4)
結果如下:
0 (32.5, 61.0]
1 (32.5, 61.0]
2 (32.5, 61.0]
3 (32.5, 61.0]
4 (32.5, 61.0]
5 (28.0, 32.5]
6 (28.0, 32.5]
7 (28.0, 32.5]
8 (28.0, 32.5]
9 (23.5, 28.0]
10 (23.5, 28.0]
11 (23.5, 28.0]
12 (23.5, 28.0]
13 (23.5, 28.0]
14 (23.5, 28.0]
15 (13.999, 23.5]
16 (13.999, 23.5]
17 (13.999, 23.5]
18 (13.999, 23.5]
19 (13.999, 23.5]
Name: 積分, dtype: category
Categories (4, interval[float64]): [(13.999, 23.5] < (23.5, 28.0] < (28.0, 32.5] < (32.5, 61.0]]
如果不指定labels,也就是說每個箱體都沒有名字,那麼只好把箱體展現出來,即顯示每個箱體的兩個臨界值,至於要不要設置labels,視情況需求而定哦!
參數rebines
這個參數的作用是顯示箱體的分界值:
pd.qcut(df_f.積分,4,labels=["低","中","高","很高"],retbins=True)
查看結果,和上邊沒有設置這個參數的結果做一下對比就可以發現該參數的作用了:
(0 很高
1 很高
2 很高
3 很高
4 很高
5 高
6 高
7 高
8 高
9 中
10 中
11 中
12 中
13 中
14 中
15 低
16 低
17 低
18 低
19 低
Name: 積分, dtype: category
Categories (4, object): [低 < 中 < 高 < 很高],
array([14. , 23.5, 28. , 32.5, 61. ]))
最後位置多了一個數組,數組內就是每個箱體的分界值了。
文章開頭提到pd.qcut()比pd.cut()少兩個參數,少的參數是控制分界值被分到哪個箱子的,按分位數分箱不能控制分界值被分到哪裏,顯示分界值後能夠發現,每個箱體的數值是包含上分界值的。
再看一眼原數據:
其中28是一個第二個箱體的上限,即標籤爲“中”的箱體,而在分箱的時候,數值爲28的球隊都被分到了標籤爲“中”的箱體中,這個小細節可能很容易被忽視掉,這裏做一下小提醒。
關於分箱的函數介紹到這裏,大家能夠區分並根據實際需求靈活運用pd.qcut()和pd.cut()了嗎?
小夥伴們還有哪些疑問或者新發現歡迎一起討論哦!