【小白學PyTorch】3 淺談Dataset和Dataloader

文章目錄:

1 Dataset基類

PyTorch 讀取其他的數據,主要是通過 Dataset 類,所以先簡單瞭解一下 Dataset 類。在看很多PyTorch的代碼的時候,也會經常看到dataset這個東西的存在。Dataset類作爲所有的 datasets 的基類存在,所有的 datasets 都需要繼承它。

先看一下源碼:
在這裏插入圖片描述

這裏有一個__getitem__函數,__getitem__函數接收一個index,然後返回圖片數據和標籤,這個index通常是指一個list的index,這個list的每個元素就包含了圖片數據的路徑和標籤信息。之後會舉例子來講解這個邏輯

其實說着了些都沒用,因爲在訓練代碼裏是感覺不到這些操作的,只會看到通過DataLoader就可以獲取一個batch的數據,這是觸發去讀取圖片這些操作的是DataLoader裏的__iter__(self)(後面再講)。

2 構建Dataset子類

下面我們構建一下Dataset的子類,叫他MyDataset類:

import torch 
from torch.utils.data import Dataset,DataLoader

class MyDataset(Dataset):
    def __init__(self):
        self.data = torch.tensor([[1,2,3],[2,3,4],[3,4,5],[4,5,6]])
        self.label = torch.LongTensor([1,1,0,0])

    def __getitem__(self,index):
        return self.data[index],self.label[index]

    def __len__(self):
        return len(self.data)

2.1 Init

  • 初始化中,一般是把數據直接保存在這個類的屬性中。像是self.data,self.label

2.2 getitem

  • index是一個索引,這個索引的取值範圍是要根據__len__這個返回值確定的,在上面的例子中,__len__的返回值是4,所以這個index會在0,1,2,3這個範圍內。

3 dataloader

從上文中,我們知道了MyDataset這個類中的__getitem__的返回值,應該是某一個樣本的數據和標籤(如果是測試集的dataset,那麼就只返回數據),在梯度下降的過程中,一般是需要將多個數據組成batch,這個需要我們自己來組合嗎?不需要的,所以PyTorch中存在DataLoader這個迭代器(這個名詞用的準不準確有待考究)。

繼續上面的代碼,我們接着寫代碼:

mydataloader = DataLoader(dataset=mydataset,
                          batch_size=1)

我們現在創建了一個DataLoader的實例,並且把之前實例化的mydataset作爲參數輸入進去,並且還輸入了batch_size這個參數,現在我們使用的batch_size是1.下面來用for循環來遍歷這個dataloader:

for i,(data,label) in enumerate(mydataloader):
    print(data,label)

輸出結果是:

意料之中的結果,總共輸出了4個batch,每個batch都是隻有1個樣本(數據+標籤),值得注意的是,這個輸出過程是順序的

我們稍微修改一下上面的DataLoader的參數:

mydataloader = DataLoader(dataset=mydataset,
                          batch_size=2,
                          shuffle=True)

for i,(data,label) in enumerate(mydataloader):
    print(data,label)

結果是:

可以看到每一個batch內出現了2個樣本。假如我們再運行一遍上面的代碼,得到:

兩次結果不同,這是因爲shuffle=True,dataset中的index不再是按照順序從0到3了,而是亂序,可能是[0,1,2,3],也可能是[2,3,1,0]。

【個人感想】

Dataloader和Dataset兩個類是非常方便的,因爲這個可以快速的做出來batch數據,修改batch_size和亂序都非常地方便。有下面兩個希望注意的地方:

  1. 一般標籤值應該是Long整數的,所以標籤的tensor可以用torch.LongTensor(數據)或者用.long()來轉化成Long整數的形式。
  2. 如果要使用PyTorch的GPU訓練的話,一般是先判斷cuda是否可用,然後把數據標籤都用to()放到GPU顯存上進行GPU加速。
device = 'cuda' if torch.cuda.is_available() else 'cpu'
for i,(data,label) in enumerate(mydataloader):
    data = data.to(device)
    label = label.to(device)
    print(data,label)

看一下輸出:

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章