机器学习入门(16)— 卷积神经网络中的池化层概念和特征

1. 池化层的概念

池化是缩小高、长方向上的空间的运算。比如,如图7-14 所示,进行将 2 × 2 的区域集约成 1 个元素的处理,缩小空间大小。

Max 池化
图7-14 的例子是按步幅 2 进行2 × 2 的Max池化时的处理顺序。Max池化 是获取最大值的运算,“2 × 2”表示目标区域的大小。如图所示,从 2 × 2 的区域中取出最大的元素。此外,这个例子中将步幅设为了 2,所以
2 × 2 的窗口的移动间隔为2 个元素。

另外,一般来说,池化的窗口大小会和步幅设定成相同的值。比如,3 × 3 的窗口的步幅会设为 3,4 × 4 的窗口的步幅会设为 4 等。

除了 Max 池化之外,还有 Average 池化等。相对于 Max 池化是从目标区域中取出最大值,Average 池化则是计算目标区域的平均值。在图像识别领域,主要使用 Max 池化。

2. 池化层的特征

2.1 没有要学习的参数

池化层和卷积层不同,没有要学习的参数。池化只是从目标区域中取最大值(或者平均值),所以不存在要学习的参数。

2.2 通道数不发生变化

经过池化运算,输入数据和输出数据的通道数不会发生变化。如图 7-15 所示,计算是按通道独立进行的。
图 7-15

2.3 对微小的位置变化具有鲁棒性(健壮)

输入数据发生微小偏差时,池化仍会返回相同的结果。因此,池化对输入数据的微小偏差具有鲁棒性。比如,3 × 3 的池化的情况下,如图7-16 所示,池化会吸收输入数据的偏差(根据数据的不同,结果有可
能不一致)。
图 7-16

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章