原创 網絡權重初始化方法總結(上):梯度消失、梯度爆炸與不好的初始化

文章目錄前向傳播與反向傳播回顧梯度消失與梯度爆炸激活函數的影響權重矩陣的影響不良初始化參考 博客:blog.shinelee.me | 博客園 | CSDN 前向傳播與反向傳播回顧 神經網絡的訓練過程可以簡化成以下步驟, 輸入預

原创 從AlexNet(2012)開始

文章目錄寫在前面網絡結構創新點其他有意思的點參考 博客:blog.shinelee.me | 博客園 | CSDN 寫在前面 本文重點在於回顧深度神經網絡在CV領域的First Blood——AlexNet,AlexNet是首個在

原创 Inception系列回顧

博客:博客園 | CSDN | blog 文章目錄寫在前面Inception-V1 (GoogLeNet)BN-InceptionInception-V2, V3Inception-V4,Inception-ResNet-v1,I

原创 ResNet詳解與分析

文章目錄Resnet要解決的是什麼問題Residual Block的設計ResNet 網絡結構error surface對比Residual Block的分析與改進小結參考 博客:博客園 | CSDN | blog Resnet要

原创 通俗易懂DenseNet

文章目錄寫在前面Dense Block與Transition LayerDenseNet網絡架構與性能理解DenseNetPlain Net、ResNet與DenseNet參考 博客:博客園 | CSDN | blog 寫在前面

原创 遠程桌面MATLAB啓動失敗問題解決

博客:博客園 | CSDN | blog 遠程桌面打開MATLAB會報錯,解決辦法,打開matlab的licenses路徑,如matlab/R2017b/licenses/,路徑下存有license文件,如license_stan

原创 常用數據結構操作與算法複雜度總結

文章目錄時間複雜度常用數據結構操作與算法的複雜度輸入規模較小時的情況引用 博客:blog.shinelee.me | 博客園 | CSDN 時間複雜度 如何評估一個算法的計算時間? 一個算法的實際運行時間很難評估,當時的輸入、CP

原创 python中如何查看指定內存地址的內容

博客:博客園 | CSDN | blog python中一般並不需要查看內存內容,但作爲從C/C++過來的人,有的時候還是想看看內存,有時是爲了驗證內容是否與預期一致,有時是爲了探究下內存佈局。 from sys import g

原创 數字圖像處理,計算機視覺,計算機圖形學,計算攝影

博客:博客園 | CSDN | blog 先上圖,下圖通過輸入輸出來區分不同學科。 計算機視覺(Computer Vision, CV),輸入爲圖像或圖像序列,輸出爲某種信息或描述,目的在於理解圖像,獲得語義信息。比如目標識別任

原创 理解numpy中ndarray的內存佈局和設計哲學

博客:博客園 | CSDN | blog 文章目錄ndarray是什麼ndarray的設計哲學ndarray的內存佈局爲什麼可以這樣設計小結參考 本文的主要目的在於理解numpy.ndarray的內存結構及其背後的設計哲學。 nd

原创 直觀理解爲什麼分類問題用交叉熵損失而不用均方誤差損失?

文章目錄交叉熵損失與均方誤差損失損失函數角度softmax反向傳播角度參考 博客:blog.shinelee.me | 博客園 | CSDN 交叉熵損失與均方誤差損失 常規分類網絡最後的softmax層如下圖所示,傳統機器學習方法

原创 Batch Normalization詳解

文章目錄動機單層視角多層視角什麼是Batch NormalizationBatch Normalization的反向傳播Batch Normalization的預測階段Batch Normalization的作用幾個問題卷積層如何

原创 計算機視覺中的濾波

文章目錄寫在前面Padding濾波雜談參考 博客:博客園 | CSDN | blog 寫在前面 在計算機視覺中,濾波(filtering)是指 Image filtering: compute function of loca