1.3 單層神經(jīng)網(wǎng)絡(luò)的概述

1.3.1 回歸模型

當(dāng)一個(gè)神經(jīng)網(wǎng)絡(luò)只有輸入層與輸出層時(shí)，它是一個(gè)單層神經(jīng)網(wǎng)絡(luò)，是最為簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)，可用于實(shí)現(xiàn)線性回歸分析，也可用于解決簡(jiǎn)單的二分類問題，還可用于解決多分類問題。

當(dāng)使用單層神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)線性回歸分析時(shí)，其原理與使用機(jī)器學(xué)習(xí)實(shí)現(xiàn)線性回歸分析的原理完全一致。單變量線性回歸模型如圖1.6所示。其中x為自變量，y為因變量。

單變量線性回歸模型的數(shù)學(xué)表達(dá)式如下。

式中，θ表示權(quán)重，需要通過訓(xùn)練得到最優(yōu)值。

對(duì)于線性回歸模型，損失函數(shù)一般使用均方誤差（Mean Square Error，MSE），如下式所示。

式中，m表示樣本總數(shù)；表示預(yù)測(cè)結(jié)果；i表示m個(gè)樣本中的第i個(gè)。

線性回歸模型可以使用TensorFlow實(shí)現(xiàn)，代碼如下所示。

運(yùn)行代碼，結(jié)果如下所示。

TensorFlow線性回歸模型案例損失函數(shù)圖像如圖1.7所示。

線性回歸模型也可以使用PyTorch實(shí)現(xiàn)，代碼如下所示。

運(yùn)行代碼，結(jié)果如下所示。

PyTorch線性回歸模型案例損失函數(shù)圖像如圖1.8所示。

以上就是使用TensorFlow和PyTorch實(shí)現(xiàn)單變量線性回歸模型的代碼，可以看出兩種框架之間的實(shí)現(xiàn)方法存在一些差異，但是整體原理都是相同的，同時(shí)代碼的運(yùn)行結(jié)果是一樣的。