原创 AlexNet模型代碼整理

1. 網絡模型 (論文是用兩塊gpu並行訓練的,所以圖中的模型是上下兩部分的,第一層卷積核的個數是48+48=96) 2. 模型參數 3.  模型代碼 import torch.nn as nn import torch clas

原创 VGG模型代碼整理

1. VGG模型 2. 用2次3*3卷積代替5*5卷積,3次3*3卷積代替7*7卷積。 (1)卷積結果對應原圖的感受野計算:   (F(i)表示第i層的感受野,如果是最上層的就是1,如果多次卷積就多次迭代計算。)        例如:三

原创 ResNet模型代碼整理

1. ResNet模型 2.  左圖爲18層,34層模型的一個殘差塊,右圖爲50層,101層,152層的殘差塊 3.  18層,34層的殘差塊(虛線部分表示輸入要進行一次下采樣操作) 4. 50,101,152層的殘差塊 5. 3

原创 可分離卷積:空間可分離卷積和深度可分離卷積

空間可分離卷積:將一個卷積核分爲兩部分(降低計算複雜度,但並非所有的卷積核都可以分)              深度可分離卷積的過程:先深度卷積,再點態卷積 (對卷積中的通道數不瞭解的請參考:關於卷積中的通道數問題) 1. 深

原创 pytorch筆記12--無監督的AutoEncoder(自編碼)

1. AutoEncoder: 給特徵屬性降維 2. Data---->壓縮(提取Data的關鍵信息,減小網絡的運算壓力)---->data(具有代表性的特徵)---->解壓(還原數據信息)---->Pred_Data 3. 使用Mnis

原创 pytorch筆記11_RNN迴歸

用sin曲線擬合cos上的數據: # 用sin曲線擬合cos曲線上的數據 import torch import torch.nn as nn import numpy as np import matplotlib.pyplot

原创 pytorch筆記8--optimizer

對比各種優化器的效果 數據分佈如下圖: import torch import torch.utils.data as Data import torch.nn.functional as Func from matplotlib i

原创 深度學習筆記--Fashion_mnist+softmax的簡單實現

1. 主文件 import torch import All_function as func import torch.nn as nn #獲取數據 batch_size=256 train_iter,test_iter=func.

原创 pytorch筆記7--批訓練

import torch import torch.utils.data as Data #用於小批訓練 torch.manual_seed(1) #爲cpu設置隨機種子,使多次運行結果一致 # torch.cuda.manu

原创 機器學習實戰--決策樹算法實例之判斷海洋生物(ID3)

1.實例描述: 下表中有5組數據,兩個特徵,根據着兩組特徵判斷這個樣本是不是魚類。 海洋生物數據   不付出水面是否可以生存(no surfacing) 是否有腳蹼(flippers) 屬於魚類 1 1 1 yes 2 1 1 yes 3

原创 梯度下降:BGD、SGD、MBGD的區別

梯度下降法分爲三種形式:批量梯度下降(Batch Gradient Descent)、隨機梯度下降(Stochastic Gradient Descent)和小批量梯度下降(Mini-Batch Gradient Descent) 批量

原创 卷積過程中關於通道數的問題

以RGB圖像爲例。 一個12*12的像素圖,對其進行5*5的卷積,最後得到一個8*8的像素圖。 RGB圖像有3個通道(12*12*3),所以卷積核也要有3個通道(5*5*3),對像素圖進行卷積後得到的結果是8*8*1而不是8*8*3的圖像

原创 語義分割論文V3+總結

論文:《Encoder-Decoder with Atrous Separable Convolution for Semantic Image Segmentation》 論文主要的進展和貢獻 1. DeepLabv3+ = Dee

原创 深度學習筆記--Kaggle比賽之房價預測

#獲取和讀取數據 import torch import torch.nn as nn import pandas as pd #處理數據 import All_function as func #自定義包

原创 關於深度可分離卷積可以減少計算量的問題

一、什麼是深度可分離卷積?深度可分離卷積的操作流程? 二、爲什麼深度可分離卷積的計算量比普通卷積的計算量要小? 例如:12*12*3的原始圖像用256個5*5*3的卷積核卷出8*8*256的結果(stride=1) 1. 使用原始的卷積方