2.5 本章小結

本章希望讀者能夠在無須了解任何機器學習框架和相關數學背景的前提下，從代碼入手，直接用最基本的Python代碼來實現簡單的單層網絡，完成機器學習的分類和預測。

本章從最簡單的感知器原理講起，用Python實現了感知器分類，然后迅速進入對線性分類的概念介紹中，用圖示闡述基于機器學習分類的基本原理，并引入了兩個關鍵概念：損失函數與梯度下降；隨后用實際的Python代碼實現線性回歸算法，展示了梯度下降的具體實現過程，并引入隨機梯度下降和mini batch的概念，通過代碼表現了如何對全量數據訓練進行優化；最后從單神經元感知器的實現進化到完整神經網絡的設計和開發，通過實現包含一個隱藏層的完整神經網絡代碼，將本章的概念結合起來，以坐標點的分類為例，使用純Python代碼實現了包括前向傳播、反向傳播、鏈式法則和權重更新，并可自定義隱藏層的神經元個數的一個靈活的全連接神經網絡。在此之上，我們通過實驗對比了增加網絡寬度和深度的實際效果，并做了簡單的分析和對比，引出了深度神經網絡的概念。