原创 Python信號處理：波束形成及目標方位估計，CBF、MVDR
摘要：一直以來都是用MATLAB做信號處理，得到預處理的特徵後再用Python進一步應用神經網絡之類的方法。這裏利用Python實現了常規波束形成(CBF)、MVDR波束形成以及波束掃描方位估計。本文實現的都是窄帶波束形成，一種簡
2020-07-01 14:56:55
43
原创 Python信號處理：cvxpy工具包求解稀疏約束優化問題
摘要：MATLAB中的CVX工具包十分強大，信號處理中的各種波束形成問題、壓縮感知問題都可以轉化爲凸優化的標準格式，然後通過工具箱直接求解。Python中的cvxpy也是由CVX團隊開發的，但用起來好像沒CVX那麼強大(主要是複數
2020-07-01 14:56:54
92
原创 Python信號處理：自相關函數(對標MATLAB中的autocorr)
摘要：Python中，更確切地說是numpy、scipy、statsmodels這些庫中都有計算相關的方法。但numpy和scipy中的correlate方法的定義和MATLAB中的不同，導致計算結果不太一樣。看上去MATLAB和
2020-07-01 14:56:54
7
原创 Python信號處理：快速傅里葉變換(FFT)，短時傅里葉變換(STFT)，窗函數，以及濾波
摘要：一直以來都是用MATLAB做信號處理，得到預處理的特徵後再用Python進一步應用神經網絡之類的方法。這裏將MATLAB中的FFT、STFT、加窗以及帶通濾波通過Python接口實現，防止以後MATLAB用不了了，一定程度上
2020-07-01 14:56:54
102
原创 深度學習：深度複數網絡(Deep Complex Networks)-從論文到pytorch實現
摘要：實數網絡在圖像領域取得極大成功，但在音頻中，信號特徵大多數是複數，如頻譜等。簡單分離實部虛部，或者考慮幅度和相位角都丟失了複數原本的關係。論文按照複數計算的定義，設計了深度複數網絡，能對複數的輸入數據進行卷積、激活、批規範化
2020-06-24 09:11:22
47
原创 深度學習：生成對抗網絡-論文閱讀(GAN，CGAN，DCGAN和pix2pix的總結)
Papers Reading For GAN 文獻閱讀，主要涉及生成對抗網絡(GAN)。 從本質上來說，生成對抗網絡（GAN）是一種特殊的損失函數。
2020-06-24 09:11:22
52
原创 深度學習：正則化-多任務學習
摘要：首先簡單介紹多任務學習的方法，然後結合【1】給出權重自適應變化代價函數的原理與論文源碼進行實現。使用Keras框架，參考論文鏈接。 目錄 多任務學習簡介 不確定性加權的多任務學習 主要參考文獻 【1】“Multi-Tas
2020-06-24 09:11:22
3
原创 深度學習：卷積神經網絡-類激活圖可視化
摘要：本文介紹一種卷積網絡的可視化方法，類激活圖可視化。使用預訓練的VGG16模型，對一張網上隨便找的動物圖片進行分析，並將生成的熱力圖與原圖像結合觀察網絡模型的分類依據。使用Keras框架。 目錄 類激活圖原理簡介 Keras
2020-06-24 09:11:22
1
原创 深度學習：正則化-權重衰減-(2). AdamW實現
摘要：第一部分中解釋了權重衰減及其現有框架實現的不合理處，這部分從源碼出發，在不影響原始Adam優化器使用的情況下添加解耦權重衰減。使用Tensorflow框架。 目錄 Adam源碼修改 結果對比 主要參考文獻 源碼的修改根
2020-06-24 09:11:22
1
原创 安裝gym時遇到問題
直接pip安裝gym後，使用LunarLander出現如下報錯： module ‘gym.envs.box2d’ has no attribute ‘LunarLander’ 發現需要安裝box2d和box2d-kengz，然
2020-06-24 09:11:22
原创 深度學習：深度壓縮感知-從ISTA到LISTA及其pytorch實現方法
摘要：傳統的壓縮感知方法在重構時的速度通常比較慢。通過將深度學習和壓縮感知結合，可以大大提高重構速度。Learned Iterative Shrinkage and Thresholding Algorithm (LISTA)應該
2020-06-24 09:11:22
92
原创 深度學習：學習率規劃-餘弦退火CosineAnnealing和WarmRestart原理及實現
摘要：文獻【1】中除了權重衰減還利用了餘弦退火(Cosine Annealing)以及Warm Restart，本文介紹這兩種方法的原理及numpy和Keras的實現方法，其中Keras實現中繼承回調函數Callbacks。 目錄
2020-06-24 09:11:22
172
原创 深度學習：正則化-權重衰減-(1). 原理及實現
摘要：介紹權重衰減的基本原理，及其和L2L_2L2正則化的不同，並分別給出L2L_2L2正則化和權重衰減的Tensorflow實現方式。使用兩者能夠等效的隨機梯度下降作爲例子說明兩者的不同。在使用一些自適應優化算法時最好使用解
2020-06-24 09:11:22
原创 深度學習：神經網絡-BP算法原理及利用python從零實現
摘要：給出反向傳播算法的具體推導，並通過一個例子對反向傳播的計算流程進行介紹。最後利用python從零實現一個神經網絡。代碼僅作爲公式的理解，不具備重複使用能力。 目錄 BP算法原理 簡單實例 python從零實現 各資料中的B
2020-06-04 02:29:59
原创 深度學習：代價函數-分類，迴歸，多任務學習，多標籤學習
摘要：持續更新，羅列部分常用的代價函數，以及論文中性能優越的代價函數，方便遇到不同問題時代價函數的選擇。第一部分介紹最常見的幾個代價函數，第二部分介紹論文中看到的不錯的代價函數。 損失函數（Loss Function ）是定義在單
2020-06-04 02:29:59