1.1.3 定義損失函數(shù)

完成了網(wǎng)絡(luò)定義后，我們可以針對指定的輸入x獲得對應(yīng)的預(yù)測值y，我們自然希望預(yù)測值y與真實(shí)值y_之間的差距越小越好，理想的情況就是在數(shù)據(jù)集上預(yù)測值y和真實(shí)值y_總是完全一樣。但是事實(shí)上這幾乎是無法做到的，我們需要定義預(yù)測值和真實(shí)值之間的差距，也就是理想和現(xiàn)實(shí)之間的差距。可以認(rèn)為深度學(xué)習(xí)訓(xùn)練的過程，就是不斷追求損失函數(shù)最小化的過程。以Keras為例，常見的損失函數(shù)有以下幾種：

·mean_squared_error或mse

·mean_absolute_error或mae

·mean_absolute_percentage_error或mape

·mean_squared_logarithmic_error或msle

·squared_hinge

·hinge

·categorical_hinge

·binary_crossentropy

·logcosh

·categorical_crossentropy

·sparse_categorical_crossentrop

其中二分類問題經(jīng)常使用的是binary_crossentropy，多分類問題經(jīng)常使用的是categorical_crossentropy，回歸問題使用mse和mae。