原创 Python手寫神經網絡之(三)循環神經網絡

目的   這個博客簡要分享下RNN神經網絡的python3寫法。同時歡迎大家指出代碼中潛在問題,一起學習與討論~   直接上代碼:https://github.com/Site1997/RNN-implementation 個人r

原创 Leetcode 375 (DP O(n^2)解法)

題意 對方從1~n裏面選一個數字,然後我來猜,每次猜後,對方會告訴我是大了,小了,還是正確。假如我猜xxx,猜錯的的話要付給他xxx元前,問我得錢包裏至少放多少錢才能保證我能猜到他的數字。 O(n^3) 解法 這個題O(n3)O(

原创 Actor Critic算法簡要理解

問題: 給定一個state,如何找到一個action,使得這個action帶來的reward最大? Actor Critic算法: 網絡定義 Actor和critic分別是兩個結構不同神經網絡。 (其實,它們還各有一個與自身結構相同,

原创 決策樹相關算法

本博文記錄決策樹相關算法原理,用來對付面試問題… 決策樹 決策樹信息熵: entropy(D)=−∑i=1nPilog2Pientropy(D) = -\sum_{i=1}^n P_ilog_2 P_ientropy(D)=−∑i=1

原创 PCA算法筆記

(此博文只是自己的學習筆記,不具參考價值) Principal component analysis (PCA) PCA算法將高維特徵轉換成低維特徵(非線性相關),同時減小計算量。 原理 將原始數據按列組成mmm行nnn列矩陣XXX

原创 R-CNN,Fast R-CNN,Faster R-CNN學習筆記

引言    近年來,目標檢測最流行的方法可謂是Faster R-CNN了,下面我會簡要概括這些方法的步驟,同時詳細敘述一些key points。先供上來自Coursera-DeepLearning中Andrew Ng對R-CNN發展中

原创 突出左側欄標題能有分割線

由於左側欄目的文章數量大於零才能顯示欄目,而我有些欄目就是爲了作爲分割線的,所以寫這篇博客,強制製造一個標題分割線出來哈哈

原创 反向傳播算法

  在神經網絡中,爲了最小化損失函數loss(w)loss(w) ,我們會逐一對各個wiwi 進行求偏導,然後沿着梯度方向更新各個wiwi 的值。但是直接求導的話這整個過程會產生重複計算。   例如z=f(g(x))=f(y)z=f(g

原创 hdu 6304

(找規律) 題意:   給定一個數列,以及TT (T<105T<105 )個詢問。每個詢問包含一個數字nn (n<1018n<1018 ),輸出這個數列的前nn 項和。 思路:   先打表,看看anan 和SnSn (將數列的前

原创 Python手寫神經網絡之(一)BP神經網絡

目的   在學習完BP神經網絡的推導後,我會用python(不帶深度學習框架!)自己手寫出一個簡單的BP神經網絡,以此加深對神經網絡的理解,同時歡迎大家指出問題,一起學習與討論~ 設計思路   本次我只使用了numpy庫,爲了簡明易懂,使

原创 Python 畫多個曲線的折線圖(matplotlib.pyplot.plot)

  這裏我利用的是matplotlib.pyplot.plot的工具來繪製折線圖,這裏先給出一個段代碼和結果圖: # -*- coding: UTF-8 -*- import numpy as np import matplotlib a

原创 Faster R-CNN的測試過程分析

引言   這篇博客裏,我主要分析一下faster rcnn的測試過程是如何實現的。每個小結我都會以某個py文件的名字作爲標題,表示以下內容是對此文件的分析。 test.py   test.py是用來測試網絡的準確度的主要代碼,下面我來分析

原创 Tensorflow-製作與使用tfrecord數據集

引言   本次博文目的是記錄下tfrecord數據集的製作與使用方式。(踩了無數坑OTZ)   這裏貼上一個數據讀取的官方教程:Tensorflow導入數據以及使用數據   接下來舉個例子說明怎麼用tfrecord,假設我要做個圖片分

原创 Faster R-CNN中的anchor理解

  首先,RPN是怎麼選出候選區域的?見上面示意圖。在VGG網絡提取整個特徵圖像後,我們使用一個3*3的滑窗在這個圖像上滑動,對於每一個位置,我們同時預測k個不同region proposals,所以左上角的分類層含有2k個輸出(表明是

原创 Python手寫神經網絡之(二)LeNet卷積神經網絡

目的   在學習完BP神經網絡的推導以及卷積神經網絡的推導後,我已經用python(不帶任何深度學習框架!)自己手寫出一個LeNet卷積神經網絡了!同時歡迎大家指出問題,一起學習與討論~   由於篇幅限制,這裏只會貼出核心代碼(保證運行