原创 對抗樣本(二)L-BFGS

文章目錄一、論文相關信息  1.論文題目  2.論文時間  3.論文文獻二、論文背景及簡介三、論文內容總結四、論文所使用的符號及數據等信息五、論文主要內容1、第一個特徵 神經元的語義信息2、第二個特徵 神經網絡的盲點五、實驗

原创 深度基礎知識系列(一) 優化器介紹

文章目錄一、梯度下降法(Gradient Descent)1、批量梯度下降法(BGD, Batch Gradient Descent)2、隨機梯度下降法(SGD, Stochastic Gradient Descent)3、小批量

原创 對抗樣本(六)CPPN EA Fool

文章目錄一、論文相關信息  1.論文題目  2.論文時間  3.論文文獻二、論文背景及簡介三、論文內容總結四、論文主要內容1、介紹2、方法2.1 該論文所使用的模型2.2 用進化算法生成圖片3、結果3.1 進化出不規則的圖片來匹

原创 對抗攻擊之目錄

文章目錄對抗樣本綜述系列1、對抗樣本入門一--綜述對抗攻擊系列1、對抗樣本入門二--L-BFGS2、對抗樣本入門三--FGSM3、對抗樣本入門四--BIM&ILLC4、對抗樣本入門五--DeepFool5、對抗樣本入門六--CPP

原创 對抗樣本(五)DeepFool

文章目錄一、論文相關信息  1.論文題目  2.論文時間  3.論文文獻二、論文背景及簡介三、論文內容總結四、論文主要內容1、Introduction2、DeepFool For Binary Classifiers3、DeepF

原创 訓練小技巧

文章目錄1、參數初始化2、數據預處理方式3、梯度裁剪 1、參數初始化 幾種方式,結果差不多。但是一定要做。否則可能會減慢收斂速度,影響收斂結果,甚至造成Nan等一系列問題。 優秀的初始化應該使得各層的激活值和狀態梯度的方差在傳播過

原创 Pytorch 小操作

文章目錄1.指定GPU編號2、查看模型每層輸出詳情3、梯度裁剪(Gradient Clipping)4、學習率衰減5、在不同的層使用不同的學習率6、凍結某些層的參數 該文章部分轉載於 https://zhuanlan.zhihu.

原创 對抗樣本(四)BIM&ILLC

文章目錄一、論文相關信息  1.論文題目  2.論文時間  3.論文文獻二、論文背景及簡介三、論文內容總結四、論文主要內容1、Introduction2、Methods Of Generating Adversarial Imag

原创 深度學習知識系列(二) 各種卷積形式

文章目錄一、卷積的本質二、2D卷積三、3D卷積四、轉置卷積五、1x1卷積六、深度可分離卷積七、空洞卷積八、圖卷積 一、卷積的本質     首先,我們先從數學和圖像處理應用的意義上來看一下卷積到底是什麼操作。我們先回到數學教科書中來

原创 對抗樣本(一)以綜述入門

文章目錄一、論文相關信息  1.論文題目  2.論文時間  3.論文文獻二、論文背景及簡介三、論文的主要內容四、論文的安排五、論文的主要內容 Section Ⅱ 簡介 Section Ⅲ 術語介紹 Section Ⅳ 對抗攻擊方

原创 AI小知識系列(二) 訓練過程Trick合集

文章目錄1. 寫代碼之前要做的事情2.設置端到端的訓練評估框架1)固定隨機種子2)簡單化3)繪製測試集損失4)在初始階段驗證損失函數5)初始化6)人類基線7)設置一個獨立於輸入的基線8)過擬合一個batch9)驗證減少訓練損失10

原创 對抗攻擊(四)BIM&ILLC

文章目錄一、論文相關信息  1.論文題目  2.論文時間  3.論文文獻二、論文背景及簡介三、論文主要內容1、Introduction2、Methods Of Generating Adversarial Images3、Phot

原创 深度學習知識系列(三) 卷積網絡模型介紹

文章目錄1、LeNet2、AlexNet3、VGG4、GoogLeNet5、ResNet6、ResNeXt7、DenseNet8、SeNet 1、LeNet     LeNet 誕生於 1994 年,是最早的卷積神經網絡之一,並

原创 AI小知識系列(三) Pandas常用操作

文章目錄Pandas常用操作1.讀取csv文件2.寫csv文件3.DataFrame與Numpy格式的轉換4.DataFrame數據的創建5.DataFrame數據的統計性描述6.DataFrame數據的查看7.DataFrame

原创 AI小知識系列(四) Matplotlib常用操作

文章目錄Matplotlib常用操作1.折線圖2.保存繪製的圖像3.matplotlib輸出中文問題4.繪圖中的其他的操作5.子圖--subplot講解6.條形圖繪製7.散點圖的繪製8.直方圖的繪製9.盒圖10.餅狀圖 Matpl