原创 pytorch_task10 GAN

task10GAN GAN 給定這樣一個模型,我們可以對類似於訓練數據分佈的綜合數據點進行採樣。例如,給定大量的面孔照片,我們可能希望能夠生成新的真實感圖像,看起來好像它可能來自同一數據集。這種學習稱爲生成建模。 GAN的核心思想

原创 初識Tensor

TensorTensor概念torch.tensor數據類型dtype張量的形狀shape張量所在的設備device創建Tensor的方法grad_fn是否需要梯度requires_grad是否是葉子節點張量的創建直接創建通過nu

原创 Pytorch池化層、線性層、激活函數層

層池化層最大池化、平均池化pytorch實現池化(下采樣)最大池化平均池化pytorch實現反池化(上採樣)最大值反池化線性層激活函數層sigmoidtanhrelu 池化層 最大池化、平均池化 pytorch實現池化(下采樣)

原创 python實現SI、SIS、SIR、SIRS、SEIR、SEIRS模型

傳染病傳播模型SISISSIRSIRSSEIR(相比較貼合新冠狀病毒)SEIRS 在家閒着無事,搜了一些關於傳染病模型的知識,在此做個總結。 SI 最簡單的SI模型首先把人羣分爲2種,一種是易感者(Susceptibles),易感

原创 Task2:數據的探索性分析(EDA)

Task2:數據的探索性分析(EDA)什麼是EDAEDA目標主要工作導入、觀察數據數據總覽相關統計量數據類型數據檢測缺失值檢測異常值檢測預測分佈總體分佈概況(無界約翰遜分佈等)查看偏度和峯度查看預測值的具體頻數特徵分析類別特徵un

原创 Task3 二手車數據特徵工程

Task3 特徵工程前言特徵工程是什麼特徵工程常見方法主要工作長尾截斷箱線圖去異常值缺失值處理特徵構造數據分桶(特徵離散化)歸一化對類別特徵one_hot編碼特徵篩選 前言 在之前的工作中Task2 數據探索性分析 探索數據和了解

原创 pytorch_權值初始化

權值初始化梯度消失與爆炸梯度爆炸初始化網絡權值方差梯度消失Xavier初始化(適用飽和函數)Kaiming初始化(適用於非飽和)十種初始化方法 梯度消失與爆炸 梯度爆炸 要使網絡輸出不能太大不能太小 初始化網絡權值方差 爲了使

原创 pytorch_task4機器翻譯及相關技術;注意力機制與Seq2seq模型

機器翻譯 機器翻譯(MT):將一段文本從一種語言自動翻譯爲另一種語言,用神經網絡解決這個問題通常稱爲神經機器翻譯(NMT)。 主要特徵:輸出是單詞序列而不是單個單詞。 輸出序列的長度可能與源序列的長度不同。 步驟: 1、數據預處理

原创 pytorch_Task2(文本預處理、語言模型、循環神經網絡)

----------文本預處理讀入文本分詞建立字典,將每個詞映射到一個唯一的索引(index)其他分詞工具語言模型n元語法時序數據採樣隨機採樣相鄰採樣RNN循環神經網絡裁剪梯度困惑度定義模型訓練函數代碼實現 文本預處理 文本是一類

原创 pytorch_Task1(線性迴歸、softmax、多層感知機)

———————線性迴歸損失函數優化器-隨機梯度下降pytorch實現課後題目softmax分類問題神經網絡圖直接使用輸出層的輸出有兩個問題計算效率交叉熵損失函數pytorch實現多層感知機概念公式引入激活函數ReLuSigmoid

原创 邏輯迴歸算法總結

邏輯迴歸邏輯迴歸和線性迴歸聯繫與區別邏輯斯諦分佈邏輯迴歸原理邏輯迴歸損失函數梯度下降 邏輯迴歸和線性迴歸聯繫與區別 線性迴歸解決的是連續變量問題,那麼在分類任務中可以用線性迴歸嗎?例如判斷是良性腫瘤還是惡性腫瘤,判斷是垃圾郵件還是

原创 pytorch_task3過擬合欠擬合;梯度消失爆炸;循環神經網絡

Task3過擬合、欠擬合及其解決方案訓練誤差、泛化誤差模型選擇驗證數據集K折交叉驗證過擬合欠擬合概念模型複雜度解決過擬合權重衰減(加上L2範數懲罰項)丟棄法梯度消失、梯度爆炸初始化模型參數Xavier隨機初始化協變量偏移標籤偏移概

原创 LeNet-pytorch-FashionMNIST分類識別

LeNetLeNet模型構造讀入數據和數據預覽定義device定義網絡計算準確率訓練測試侷限 LeNet 1、使用全連接層的侷限性: 圖像在同一列鄰近的像素在這個向量中可能相距較遠。它們構成的模式可能難以被模型識別。對於大尺寸的輸

原创 SSD pytorch訓練自己的數據集(windows+colab)

目錄下載數據集訓練代碼修改config.py新建cancer.py作爲數據讀入__init__文件ssd.pytrain.pymultibox_loss.py驗證eval.py代碼修改爬坑實錄!使用Colab 對於一個小白,想對自

原创 pytorch自動求導與邏輯迴歸

自動求導與邏輯迴歸自動求導邏輯迴歸 自動求導 retain_graph設爲True,可以進行兩次反向傳播 邏輯迴歸 import torch import torch.nn as nn import matplotlib