原创 高斯迴歸過程核函數(RBF,Matern,RationalQuadratic,ExpSineSquared,DotProduct)

轉載源:http://www.sohu.com/a/252035553_99917536 最近在做高斯迴歸過程小車倒擺實驗。修改了Actor中網絡神經元后,及Critic中Batch後,打算看看核函數。 內核操作是把1~2個基內核與新內核

原创 Python深度學習讀書筆記(九)(函數式API-多輸入模型-多輸出模型)

Sequential模型假設,網絡只有一個輸入和一個輸出,並且網絡是層的線性堆疊。然而有的網絡看起來像層構成的圖。許多最新開發的神經架構要求非線性的網絡拓撲結構,即網絡結構爲有向無環圖。 使用函數式API,直接操作張量,把層當做函數來用,

原创 Python深度學習讀書筆記(七)(溫度預測問題Dense,GRU,dropout)

循環神經網絡的高級技巧:循環dropout  ,堆疊循環層,  雙向循環層。 GRU層工作原理和LSTM相同,做了簡化,運行計算代價更低。 #觀察數據集中數據 import os data_dir='D:\\jupyter_code\\

原创 Python深度學習讀書筆記(八)(RNN&LSTM和雙向LSTM優化IMDB)

循環神經網絡RNN:遍歷所有序列元素,並保存一個狀態,其中包含已查看和內容相關的信息。實際上是一類具有內部環的神經網絡。重複使用前一次迭代的計算結果。 前饋網絡:將所有待處理數據轉換爲一個大向量,然後一次性處理。 SimpleRNN能夠像

原创 Python深度學習讀書筆記(五)(卷積神經網絡可視化)

卷積神經網絡的可視化:可視化卷積神經網絡中間輸出(中間激活),可視化卷積神經網絡的過濾器,可視化圖像中類激活的熱力圖。 可視化中間激活:對於指定輸入,展示網絡中各個卷積層和池化層輸出的特徵圖(層的輸出通常叫做層的激活)          

原创 Python深度學習讀書筆記(六)(使用預訓練的詞嵌入優化IMDB評論分類)

第六章,深度學習用於文本和序列   深度學習不會接收原始文本作爲輸入,只能處理數值張量,文本向量化是指將文本轉換爲數值張量的過程。(文本可分割爲標記:單詞,字符,n-gram,分解爲標記的過程叫做分詞,然後將其轉換爲張量) one-hot

原创 Python深度學習讀書筆記(二)(機器學習基礎)

第四章,機器學習基礎          二分類,多分類,標量回歸都屬於監督學習的例子。 機器學習四大分支:        監督學習:學會將輸入數據映射到已知目標,也叫做標註。        監督學習變體:序列生成,語法樹檢測,目標檢測,圖

原创 Python深度學習讀書筆記(一)(經典二分類,多分類,迴歸代碼)

第一章.什麼是深度學習   機器學習的技術定義:在預先定義好的可能性空間中,利用反饋信號的指引尋找輸入數據的有用表示。 深度學習的深度是指一系列連續的表示層。分層表示通過叫做神經網絡的模型來學習。 決策樹類似於流程圖結構,對輸入數據點進行

原创 Python深度學習讀書筆記(三)(Kaggle貓狗分類)

第五章,深度學習用於計算機視覺     密集連接層和卷積層的根本區別在於:Dense層(全連接層)從輸入特徵空間中學到是全局模式,卷積層學到的是局部模式。     卷積神經網絡學到的模式具有平移不變性,可以學到模式的空間層次結構。    

原创 Python深度學習讀書筆記(四)(使用VGG16優化kaggle貓狗分類)

預訓練網絡:之前在大型數據集上訓練好,保存好的網絡。如果原始數據集足夠大,足夠通用,則預訓練網絡學到特徵的空間層次結構可以有效的作爲通用模型。 使用預訓練網絡的兩種方法: 特徵提取:對於卷積神經網絡而言,特徵提取就是取出之前訓練好網絡的卷