- AI安全之對抗樣本入門
- 兜哥編著
- 346字
- 2019-07-11 18:32:03
1.3.3 池化
通過局部連接和參數共享后,我們針對1000×1000的圖像,使用卷積核大小為10×10,卷積步長為1,進行卷積操作,得到的隱藏層節點個數為1000×1000=106,計算量還是太大了。為了解決這個問題,首先回憶一下,我們之所以決定使用卷積后的特征是因為圖像具有一種“靜態性”的屬性,這也就意味著在一個圖像區域有用的特征極有可能在另一個區域同樣適用。因此,為了描述大的圖像,一個很自然的想法就是對不同位置的特征進行聚合統計,例如,人們可以計算圖像一個區域上的某個特定特征的平均值(或最大值)。這種聚合的操作就叫作池化,常見的池化大小為2×2、3×3等,假設隱藏層節點個數為4×4,使用2×2大小池化,取最大值,過程如圖1-18所示。

圖1-18 池化處理示例
隱藏層節點個數為1000×1000的神經網絡,經過2×2池化后,得到的隱藏層節點個數為500×500。