原创 《基於CUDA的並行程序設計》學習筆記(一)

第1章 並行計算概述 1.1 並行計算簡介 對於計算機而言,“並行”就是同一時間間隔內,增加操作量,多個運算部件共同完成一個任務。並行計算(parallel computing)就是由運行在多個部件上的小任務合作來求解一個大規

原创 莫煩PyTorch學習筆記(四)——快速搭建法

本文主要是用PyTorch來實現另一種快速搭建神經網絡的方法。 編輯器:spyder 1.用類構建神經網絡 class Net(torch.nn.Module): def __init__(self, n_featu

原创 Windows+Anaconda3安裝PyTorch

本文主要參考的是知乎上的一篇《PyTorch在64位Windows下的Conda包》:https://zhuanlan.zhihu.com/p/26871672 該安裝十分簡單,主要是用了樓上作者提供的PyTorch的windo

原创 《基於CUDA的並行程序設計》學習筆記(二)

第2章 GPU概述 2.1 顯卡、GPU和CUDA 在進入CUDA編程學習之前,我們需要先搞清楚幾個概念:顯卡、GPU和CUDA分別是什麼。 2.1.1 顯卡 顯卡(Video card,Graphics card)全稱顯示接

原创 莫煩PyTorch學習筆記(三)——分類

本文主要是用PyTorch來實現一個簡單的分類任務。 編輯器:spyder 1.引入相應的包及建立數據集 import torch from torch.autograd import Variable import tor

原创 PyTorch學習總結(四)——Utilities

1. PackedSequence torch.nn.utils.rnn.PackedSequence 這個類的實例不能手動創建。它們只能被pack_padded_sequence() 實例化。 2. pack_padde

原创 PyTorch學習總結(一)——查看模型中間結果

這裏我們以PyTorch自帶的預訓練模型爲例來講解: # load the pretrained model alexnet = models.alexnet(pretrained=True).cuda() print(ale

原创 PyTorch學習總結(三)——ONNX

1.什麼是ONNX Open Neural Network Exchange (ONNX)是開放生態系統的第一步,它使人工智能開發人員可以在項目的發展過程中選擇合適的工具;ONNX爲AI models提供了一種開源格式。它定義

原创 《基於CUDA的並行程序設計》學習筆記(三)——上

第3章 CUDA編程基礎 3.1 CUDA並行新思維 CUDA並行編程新思維的出現,不僅成功地利用了新一代GPU的硬件架構優勢,同時克服了GPGPU(general purpose computing GPU)編程的缺點,爲程

原创 PyTorch學習總結(二)——基於torch.utils.ffi的自定義C擴展

步驟一 準備好你的C代碼 首先,你寫好你的C函數。 接下來你可以找到一個模塊的forward和backward函數的實現,其主要實現輸入相加的功能。 在你的.c文件中,你可以使用#include <TH/TH.h>和#incl

原创 《基於CUDA的並行程序設計》學習筆記(三)——下

第3章 CUDA編程基礎 3.5 “HelloWorld”CUDA 編程實例 安裝完Visual Studio 2013軟件並配置好CUDA開發環境。本節我們正式CUDA編程。 首先我們打開vs2013,點擊新建工程,選中CU

原创 莫煩PyTorch學習筆記(一)——Torch或Numpy

1.什麼是Numpy Numpy系統是Python的一種開源的數值計算擴展,用python實現的科學計算包。這種工具可用來存儲和處理大型矩陣,包括強大的N維數組對象Array,比較成熟的函數庫等。numpy和稀疏矩陣運算包sc

原创 《基於CUDA的並行程序設計》學習筆記(三)——中

第3章 CUDA編程基礎 3.3 CUDA編程模型 CUDA架構第一次引入了主機(host)端與設備(device)端的概念。如下圖所示,一個完整的CUDA程序由主機代碼和設備代碼兩部分組成。主機代碼在主機端CPU上串行執行,

原创 莫煩PyTorch學習筆記(二)——迴歸

本文主要是用PyTorch來實現一個簡單的迴歸任務。 編輯器:spyder 1.引入相應的包及生成僞數據 import torch import torch.nn.functional as F # 主要實現激活函數 im

原创 關於PyTorch 自動求導機制詳解

今天小編就爲大家分享一篇關於PyTorch 自動求導機制詳解,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧 自動求導機制 從後向中排除子圖 每個變量都有兩個標誌:requires_grad和vol