原创 梯度消失和梯度爆炸以及過擬合和欠擬合
其實梯度爆炸和梯度消失問題都是因爲網絡太深，網絡權值更新不穩定造成的，本質上是因爲梯度反向傳播中的連乘效應 梯度消失與梯度爆炸 梯度消失 主要原因：在反向傳播的過程中，每層的梯度大於0小於1（sigmoid函數的最大梯度爲0.25
2020-06-19 04:38:23
2
原创 irq/132-nvidia 或者 irq/127-nvidia解決辦法
irq/132-nvidia 或者 irq/127-nvidia解決辦法 ubuntu16.04 系統調用 gtx1080 顯卡進行深度學習訓練的過程中，每當程序意外終止， 或者手動停止後，總會出現 一個進程：irq/132-nvid
2018-10-13 06:37:46
3
原创 線性迴歸
線性迴歸 給定有由 dd 個屬性的描述的示例 x=(x1;x2;...;xd)x=(x1;x2;...;xd) ，其中 xixi 是 xx 在第 ii 個屬性上的取值，線性模型是圖學一個通過屬性的線性組合來進行預測的函數，即：f
2018-08-24 06:11:44
原创 TensorFlow讀取數據
TensorFlow讀取數據 TensorFlow程序讀取數據一共有3種方法: 供給數據（feed） 從文件讀取數據 預加載數據：適用於數據量較小的情況 1、供給數據 TensorFlow的數據供給機制允許在TensorFlow運算
2018-08-24 06:11:40
3
原创 opencv 讀寫視頻
opencv 讀寫視頻 OpenCV 2 中提供了兩個類來實現視頻的讀寫。讀視頻的類是 VideoCapture， 寫視頻的類是 VideoWriter。 一、讀視頻 VideoCapture 既可以從視頻文件讀取信息，也可以從計算機外接
2018-08-24 06:11:40
1
原创 隱馬爾可夫
隱馬爾可夫模型（HMM） 一、隱馬爾可夫模型 隱馬爾可夫模型是結構最簡單的動態貝葉斯網，是一種著名的有向圖模型，主要用於時序數據建模，在語音識別、自然語言處理等方面有廣泛引用。 如上圖所示，隱馬爾可夫模型中的變量可以分爲兩組，第一
2018-08-24 06:11:38
原创 K-近鄰學習（KNN）
KNN 分類學習算法 K近鄰學習算法是一種基本的分類與迴歸學習算法，能力有限，簡單介紹一下分類算法。K近鄰學習算法是一種常用的監督學習算法。 算法機制 給定測試樣本，基於某種距離度量找出訓練集中的與其最靠近的K個訓練樣本，然後基於找到的K
2018-08-24 06:11:38
1