超級詳細的Windows10+Anaconda3+PyTorch+GPU+CUDA+cuDNN+虛擬環境 的安裝和配置過程，建議收藏！！！

寫在前面

  Tips：如果是建立虛擬環境，然後使用conda進行下載，那麼大可不必在安裝pytorch之前安裝CUDA，因爲conda已經將此打包好了。並且虛擬環境(文件夾)裏面conda和cudnn和外面的沒關係，系統可以不裝cuda，虛擬環境裏面有就可以，但是顯卡驅動需要裝。所以這種情況可以直接看1.2節和第3節。
  此外，我在安裝Pytorch時沒有使用國內的下載源，使用的默認的。國內的我沒有連接上。

0 Anaconda的安裝和配置

  這部分參考的我的這個博客：Anaconda安裝、環境的配置以及Jupyter和Spyder的打開

1 CUDA

  在安裝GPU版本的Pytorch之前需要安裝好CUDA和cuDNN，這裏先安裝CUDA。CUDA的官網是：https://developer.nvidia.com/cuda-zone

1.1 什麼是CUDA?

  CUDA是NVIDIA開發的一種並行計算平臺和編程模型，用於圖形處理單元（GPU）上的常規計算。藉助CUDA，開發人員能夠利用GPU的功能來顯着加快計算應用程序的速度。簡而言之就是用來加速的.
  在GPU加速的應用程序中，工作負載的順序部分在CPU上運行（針對單線程性能進行了優化），而應用程序的計算密集型部分則在數千個GPU內核上並行運行。

1.2 安裝之前對計算機的檢查

  在安裝之前自己計算機的配置是比較重要的，可以知道自己的計算機是否支持GPU等問題。

1.2.1 檢查電腦的顯卡

  在確定是否有支持CUDA的GPU之前，我們需要知道電腦是什麼顯卡，以及計算機的計算能力（現在的不知道你不知道也沒關係，都能滿足所要求的計算能力）。

1. 右鍵點擊桌面
2. 如果在彈出窗口中看到“ NVIDIA控制面板”或“ NVIDIA顯示”，則說明具有NVIDIA GPU
3. 在彈出窗口中單擊“ NVIDIA控制面板”或“ NVIDIA顯示"
4. 打開後我們可以看到如下圖所示的信息：
   
     這裏我們可以看到計算機的顯卡是英偉達的GrForce 940M（咳咳，版本有點菜），下一步我們可以檢查其是否支持CUDA.

1.2.2 檢查電腦裏的顯卡是否支持CUDA

  在上一步1.2.1裏我們已經知道了計算機的顯卡（這裏是GrForce 940M），這一步我們查看其是否支持CUDA。
  1.進入到網站 https://developer.nvidia.com/cuda-gpus
  2.找到下圖所示內容

  3.這裏的是GeForce的產品，所以我們單擊其前面的圖標。
  4.如果可以找到類似下圖的信息，則說明我們的計算機支持CUDA。其中5.0代表計算機的計算能力。

1.3 下載並安裝CUDA

  經過1.2節的檢查我們已經知道自己的計算機是否支持CUDA了，下面進行安裝。
  1、進入下載網站：https://developer.nvidia.com/cuda-downloads?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exelocal
  2、選擇合適的版本下載，我的是10.1版本的。
  3、通過比較MD5碼，檢查下載的CUDA的完整性。這一步參考鏈接2.2。也可以不進行這一步。
  4、我的安裝步驟完全按照提示進行的（這也是官網推薦的，但會覆蓋計算機本來的版本）。

如何查看計算機本來CUDA的版本呢？只需要在1.2.1節的圖片中，點擊“幫助”>“系統信息”>“組件”，這樣我們就可以看到了。

1.4 檢查CUDA是否安裝成功

官方驗證步驟：https://docs.nvidia.com/cuda/cuda-installation-guide-microsoft-windows/index.html#compiling-examples__valid-results-from-sample-cuda-bandwidthtest-program
  在此之前，可以添加環境變量。這裏我按照官網上的步驟並沒有添加
First：通過nvcc -V驗證
  1、按Windows+R，輸入cmd，進去cmd.exe
  2、輸入nvcc -V
  3、顯示類型下圖的版本信息

  還有另外的方法進行驗證
Second： 運行deviceQuery或bandwidthTest 示例程序

2 cuDNN

2.1 什麼是cuDNN?

  NVIDIA CUDA Deep Neural Network library（cuDNN）是GPU加速的用於深度神經網絡的原語庫。cuDNN爲標準例程提供了高度優化的實現，例如前向和後向卷積，池化，規範化和激活層。cuDNN是NVIDIA Deep Learning SDK的一部分。

2.2 安裝前滿足的條件

  計算機計算能力大於3.0

2.3 安裝

  1、先去網站https://developer.nvidia.com/cudnn，下載對應的版本。
  2、進行解壓：會生成include、lib、bin三個目錄；
  3、分別將include、lib、bin三個目錄中的拷貝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1（這個是CUDA的默認安裝路徑），替換原來的include、lib、bin目錄下即可。
  4、將bin所在的目錄添加到環境變量 PATH 中。
這一部分可以參考官網的步驟：https://docs.nvidia.com/deeplearning/sdk/cudnn-install/index.html#install-windows

3 安裝PyTorch-GPU

  1、以管理員方式運行Anaconda Prompt
  2、創建名爲pytorch_gpu的虛擬環境

conda create -n pytorch_gpu pip python=3.7

虛擬環境的名字可以設置一個好記的

  3、進入虛擬環境

conda activate pytorch_gpu

  4、安裝Pytorch
  按照官網的方式需要下載這三個packages。

方法一：
  直接使用官網上的方法，我失敗了，原因是下載的源不對。我之前添加了清華的源和中科院的源。
方法二：
  換回了默認源，使用官網的方式。
  這個方法有時候時間很長，第一次我是在晚上，運行了命令就去睡覺了，第二天起來顯示連接失敗。於是，第二天一大早我再次運行命令(conda install pytorch torchvision cudatoolkit=10.1 -c pytorch)，很快就下載完了pytorch-1.5.0，但是還有兩個沒有下載成功，也不是再次運行同樣的命令，結果很快下載完了cudatoolkit-10.1.243。最後運行同樣的命令，很快下載完了torchvision-0.6.0。
  5、驗證是否成功
  輸入python，輸入import torch，沒有出現錯誤即安裝完成。

  6、檢驗其輸出是否可以正常調用CUDA
  運行print(torch.cuda.is_available())，顯示True,則表示可以正常調用。

4 在PyCharm中使用PyTorch

參考：https://blog.csdn.net/snail9610/article/details/106206976

5 其他的發現

5.1 其他下載源的發現

  如下所示，進入Anaconda的官網，從搜索欄裏可以找到自己想要的庫以及下載命令(點開某一個，在下方就可以看到)。

5.2 其他人的下載方法

1、使用pip和清華的源[3]

pip install https://download.pytorch.org/whl/cu90/torch-1.0.1-cp36-cp36m-win_amd64.whl -i https://pypi.tuna.tsinghua.edu.cn/simple some-package

pip install torchvision  -i https://pypi.tuna.tsinghua.edu.cn/simple some-package

參考鏈接

1. https://blog.csdn.net/weixin_41738030/article/details/90545071
2. https://blog.csdn.net/Mind_programmonkey/article/details/99688839
3. https://blog.csdn.net/weixin_36836622/article/details/89376546
4. https://blog.csdn.net/cmat2/article/details/80407059
5. https://www.cnblogs.com/taosiyu/p/11443377.html