1.3 經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)

1.3.1 AlexNet

AlexNet（出自論文ImageNet Classification with Deep Convolutional Neural Networks）是Hinton和他的學(xué)生Alex Krizhevsky在2012年ImageNet競賽中使用的模型結(jié)構(gòu)，刷新了 Image Classification 榜單。從此，深度學(xué)習(xí)方法在圖像領(lǐng)域開始一次次超過state-of-art，甚至達(dá)到超越人類的地步。圖1.8所示為AlexNet架構(gòu)圖。AlexNet總共包括8層，其中前5層為卷積層，后3層為全連接層。AlexNet在原始論文中說明，如果減少任何一個卷積層，那么結(jié)果會變得很差。下面具體介紹AlexNet的元素構(gòu)成。

第1層卷積層：輸入為圖像，首先使用96個卷積核進(jìn)行卷積操作，并以4為步長來右移或下移；然后進(jìn)行最大池化（Max-Pooling），池化尺寸=（3，3），步長為2，得到輸出特征的形狀為96×55×55。

第2層卷積層：首先使用填充尺寸=2的操作對上一層得到的特征圖進(jìn)行填充；然后使用256個卷積核進(jìn)行卷積操作，以1為步長移動；最后進(jìn)行最大池化，池化尺寸=（3，3），步長為2，得到輸出特征的形狀為256×27×27。

第3層卷積層：使用384個卷積核進(jìn)行卷積操作，步長為1，得到輸出特征的形狀為384×13×13。

第4層卷積層：首先使用填充尺寸=1的操作對上一層得到的特征圖進(jìn)行填充；然后使用384個卷積核進(jìn)行卷積操作，步長為1，得到輸出特征的形狀為384×13×13。

第5層卷積層：首先使用填充尺寸=1的操作對上一層得到的特征圖進(jìn)行填充；然后使用256個卷積核進(jìn)行卷積操作，步長為1，得到輸出特征的形狀為256×13×13；最后進(jìn)行最大池化，池化尺寸=（3，3），步長為2，得到輸出特征的形狀為256×13×13。

全連接層：前兩層分別有4096個神經(jīng)元，最后輸出Softmax為1000個（ImageNet有1000個類別）。

圖1.8 AlexNet架構(gòu)圖