2.3　TensorFlow類庫的下載與安裝（基于GPU模式）

2.2節(jié)中安裝的是基于CPU模式的TensorFlow類庫，這也是一般默認(rèn)安裝的TensorFlow模式，而往往在進(jìn)行大規(guī)模數(shù)據(jù)計算時需要安裝基于GPU模式的TensorFlow，輸入如下代碼：

     pip install tensorflow-gpu

等待提示成功后即可認(rèn)為基于GPU模式的TensorFlow安裝完畢。但是如果需要真正使用GPU模式對數(shù)據(jù)進(jìn)行處理，除了安裝tensorflow-gpu庫包以外，還需要安裝CUDA與cuDNN，這是NVIDIA為了使用GPU進(jìn)行程序運算專門提供的工具包。

2.3.1　CUDA配置

由于本書使用的是最新的tensorflow-gpu版本，其對應(yīng)cuda 9.0.dll，因此就要下載cuda 9.0對應(yīng)Windows版本的安裝文件。

（1）下載地址：https://developer.nvidia.com/cuda-90-download-archive。

（2）下一步是選擇下載的版本（如圖2-18所示），這里NVIDIA提供了多種版本，請讀者自行選擇對應(yīng)的操作系統(tǒng)以及版本號。

圖2-18　選擇的版本號

（3）還需注意最后的Installer Type選項，exe（network）是在線安裝版（如圖2-19所示），也就是執(zhí)行這個安裝程序需要聯(lián)網(wǎng)。exe（local）是離線安裝版（如圖2-20所示），這個文件比較大。選完后，單擊下面的Download按鈕就可以下載。

圖2-19　在線安裝程序

圖2-20　離線下載程序

（4）下載完成后，雙擊運行文件然后單擊OK按鈕，等進(jìn)度條走完，就會進(jìn)入安裝界面，如圖2-21所示。

圖2-21　進(jìn)入安裝界面

（5）之后繼續(xù)下一步，進(jìn)入加載界面，如圖2-22所示。

圖2-22　進(jìn)入加載界面

（6）檢查系統(tǒng)兼容性，如果檢測通過了，那么恭喜你，你的顯卡可以安裝CUDA，如果沒有通過，只能抱歉地告訴你，只能pip uninstall tensorflow-gpu，然后執(zhí)行pip install tensorflow，這種情況是你的電腦顯卡不支持tensorflow-gpu加速。

（7）之后是軟件許可協(xié)議，如圖2-23所示，單擊“同意并繼續(xù)”按鈕。

圖2-23　軟件許可協(xié)議

（8）此時出現(xiàn)安裝選項，如圖2-24所示。選中“精簡”單選按鈕，然后單擊“下一步”按鈕，之后等待安裝完成即可。

圖2-24　選擇安裝模式

（9）完成后，在環(huán)境變量檢查PATH路徑。在計算機(jī)桌面上的“計算機(jī)”圖標(biāo)上右擊，打開屬性→高級系統(tǒng)設(shè)置→環(huán)境變量，發(fā)現(xiàn)已經(jīng)有CUDA_PATH和CUDA_PATH_V9_0兩個環(huán)境變量。

CUDA_PATH是C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA9.0，僅僅如此是不夠的，還需要在環(huán)境變量里的PATH全局變量中加入bin和lib\x64目錄的路徑：

     CUDA_SDK_PATH = C:\ProgramData\NVIDIA Corporation\CUDA Samples\v9.0
     CUDA_LIB_PATH = %CUDA_PATH%\lib\x64
     CUDA_BIN_PATH = %CUDA_PATH%\bin
     CUDA_SDK_BIN_PATH = %CUDA_SDK_PATH%\bin\win64
     CUDA_SDK_LIB_PATH = %CUDA_SDK_PATH%\common\lib\x64

打開cmd，輸入$ nvcc -V可以驗證CUDA的安裝是否成功。

2.3.2　cuDNN配置

對于TensorFlow而言，真正實現(xiàn)加速的是cuDNN，cuDNN調(diào)用的是CUDA顯卡驅(qū)動。所以最后我們要配置cuDNN這個模塊。

cuDNN的全稱為NVIDIA CUDA Deep Neural Network library，是NVIDIA專門針對深度神經(jīng)網(wǎng)絡(luò)（Deep Neural Networks）中的基礎(chǔ)操作而設(shè)計的基于GPU的加速庫。cuDNN為深度神經(jīng)網(wǎng)絡(luò)中的標(biāo)準(zhǔn)流程提供了高度優(yōu)化的實現(xiàn)方式，例如convolution、pooling、normalization以及activation layers的前向以及后向過程。

cuDNN只是NVIDIA深度神經(jīng)網(wǎng)絡(luò)軟件開發(fā)包中的其中一種加速庫。想了解NVIDIA深度神經(jīng)網(wǎng)絡(luò)加速庫中的其他包，請訪問鏈接https://developer.nvidia.com /deep-learning-software。

下面我們說一下正確安裝cuDNN的方式，其實按官方安裝說明進(jìn)行安裝就可以了。

（1）從https://developer.nvidia.com/cudnn上下載cuDNN相應(yīng)版本的壓縮包（可能需要注冊或登錄）。

（2）如果這個壓縮包不是.tgz格式的，把這個壓縮包重命名為.tgz格式。解壓當(dāng)前的.tgz格式的軟件包到系統(tǒng)中的任意路徑，解壓后的文件夾名為CUDA。文件夾中包含三個子文件夾：一個為include；一個為lib；還有一個是bin。

（3）復(fù)制上述3個文件夾到CUDA_PATH指定的路徑下面（見圖2-25）。檢查一下環(huán)境變量中是否有l(wèi)ib/x64文件夾的配置，這一步很重要。

圖2-25　解壓后的cuDNN文件

（4）之后仿照上一節(jié)的代碼對其進(jìn)行驗證。這里需要注意的是，第一次使用tensorflow-gpu模式進(jìn)行處理的時候，由于需要對顯卡進(jìn)行甄別，加載的速度較慢，同時打印的內(nèi)容也較多，如圖2-26所示。

圖2-26　第一次加載tensorflow-gpu模式