问题
假设12个销售价格记录组已经排序如下:5, 10, 11, 13, 15,35, 50, 55, 72, 92, 204, 215 使用如下每种方法将它们划分成四个箱。等频(等深)划分时,15在第几个箱子内?等宽划分时在第几个箱?
分箱问题分为有监督分箱和无监督分箱。
无监督分箱
- 等宽分箱
将变量的取值范围分为k个等宽的区间,每个区间当作一个分箱。
在本问题中变量的取值范围为5–215,k为4.(215-5)/4=52.5划分点为57.5,110,162.5,4个箱中数据为
A箱:5, 10, 11, 13, 15,35, 50, 55
B箱:72, 92
C箱:空
D箱:204, 215 - 等频(等深)分箱
把观测值按照从小到大的顺序排列,根据观测的个数等分为k部分,每部分当作一个分箱,例如,数值最小的1/k比例的观测形成第一个分箱,等等。
在本问题中观测个数为12.k=4.每箱里有3个数据。
A箱:5, 10, 11,
B箱:13, 15,35
C箱: 50, 55,72
D箱:92
,204, 215 - k聚类分箱
用k均值聚类法将观测值聚为k类,但在聚类过程中需要保证分箱的有序性:第一个分箱中所有观测值都要小于第二个分箱中的观测值,第二个分箱中所有观测值都要小于第三个分箱中的观测值。手算太费时间,笔试中应该不会出现。
有监督分箱
在分箱时考虑因变量的取值,使得分箱后达到最小(minimumentropy)或最小描述长度(minimumdescriptionlength)。
(1)假设因变量为分类变量,可取值1,…,J。令pl(j)表示第l个分箱内因变量取值为j的观测的比例,l=1,…,k,j=1,…,J;那么第l个分箱的熵值为Jj=1[-pl(j)×log(pl(j))]。如果第l个分箱内因变量各类别的比例相等,即pl(1)=…=pl(J)=1/J,那么第l个分箱的熵值达到最大值;如果第l个分箱内因变量只有一种取值,即某个pl(j)等于1而其他类别的比例等于0,那么第l个分箱的熵值达到最小值。
(2)令rl表示第l个分箱的观测数占所有观测数的比例;那么总熵值为kl= 1rl×Jj=1[-pl(j)×log(pl(j ))]。需要使总熵值达到最小,也就是使分箱能够最大限度地区分因变量的各类别。