1.1.2 神經網絡

由1.1.1節內容可知，深度學習是基于神經網絡結構的，而神經網絡結構又模仿了生物神經系統信號處理與傳輸過程。生物神經元結構如圖1.2所示。由圖1.2可知，生物神經元由樹突、細胞體、軸突等部分組成。其中，樹突的作用為從其他神經元接收信號并傳遞到細胞體，細胞體的作用為對從樹突接收到的信號進行處理，軸突的作用為從細胞體接收信號并將其傳輸到其他神經元。通過樹突與軸突，可以將來自前一個神經元的信號傳輸到下一個神經元。當一個神經元接收多個前神經元的信號時，這些信號會在神經元細胞體內進行累積，當累積到一定程度時，會產生新的信號向其他神經元進行傳輸。依靠樹突與軸突，大量的神經元之間可以相互連接，從而形成結構復雜的生物神經網絡系統，以完成信號處理與傳輸，使生物根據信息做出相應的行為。

圖1.2 生物神經元結構

圖1.3 深度學習神經元結構

圖1.4 深度神經網絡的網絡結構

深度學習神經元結構如圖1.3所示。其中，輸入1、輸入2、輸入3表示神經元的輸入信號，權重1、權重2、權重3表示各個輸入信號的權重，求和相當于生物神經元輸入信號累積的過程，非線性函數映射相當于生物神經元的信號處理。完成了非線性函數映射之后的信號如果超過了所設置的閾值，那么信號會傳輸給下一個神經元。

神經元與神經元之間可以進行相互連接，從而形成復雜的深度神經網絡。深度神經網絡的網絡結構如圖1.4所示。圓形節點即神經元，也稱為節點或單元。整個網絡結構可分為輸入層、隱藏層及輸出層，層與層之間通過有向箭頭進行連接，代表信號的傳輸。其中，輸入層用于接收輸入數據，該層神經元的個數應與輸入數據的個數保持一致。隱藏層位于輸入層與輸出層之間，用于處理復雜的非線性問題，可以有一個或者多個隱藏層，每個隱藏層可以有多個神經元。一般情況下，隱藏層層數越多，隱藏層中的神經元越多，隱藏層處理非線性問題的效果越好。輸出層用于輸出最終的預測結果，根據不同的預測結果，神經元的個數也會有所不同。當用神經網絡進行分類時，輸出層神經元的個數與類別的個數一致。

值得注意的是，神經網絡中的神經元是按層進行排列的，也有些資料文獻把神經元的層數稱為神經網絡的深度。最簡單的神經網絡是單層神經網絡。單層神經網絡只有輸入層和輸出層。