原创 python中運算符除法"/"和取整除“//”
在python中可以經常看到運算符/和運算符//那麼這二者有什麼區別呢？/表示除法，對於整數除法而言，會取整，而對於小數除法，則得到小數，比如：10/3 = 3 7/2 = 3 9.0/3 = 3.0 9.0/2 = 4.5而//表示取整
2020-02-23 08:31:15
原创 線性模型（一）之前言
線性模型是研究變量之間關係的一種模型，在線性模型中，未知參數僅以線性形式出現。 這是在百度百科上查到的關於線性模型的定義。依據該定義，在本系列博客中的模型，可能不一定全是線性模型，但卻和線性模型有着密切關係。另外，本系列博
2020-02-23 08:31:15
原创 常用的向量矩陣求導公式
轉載自 https://blog.csdn.net/lipengcn/article/details/52815429先轉載過來，等我以後有機會再整理整理總結下數理推導中常用的向量矩陣求導公式，方便以後查詢。1、2、3、4、5、
2020-02-23 08:31:15
原创 Makefile中:=, =, ?=和+=的含義
在Makefile語法中，時不時會見到各種“=”號的賦值語句，除了常見的“=”和“:=”，還有“?=”等 那麼這些賦值等號分別表示什麼含義呢？ 1. “=” “=”是最普通的等號，然而在Makefile中確實最容易搞錯的賦值等號
2020-02-23 08:31:15
原创 在python中以相同順序shuffle兩個list的方法
今天小編就爲大家分享一篇在python中以相同順序shuffle兩個list的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧 通常做機器學習問題時，需要準備訓練數據，通常會把樣本數據和標籤存放
2018-12-13 23:33:16
18
原创 深度學習中的梯度下降算法
在深度學習中，梯度下降算法應該是使用的最普遍的優化方法了。一直想要對深度學習中的梯度下降算法做個總結，但無意之中看到了總結的非常好的博客。於是轉載過來，多謝原先博主的總結。 博客原文地址http://ruder.io/opt
2018-08-26 12:28:58
2
原创 L1正則爲什麼更容易獲得稀疏解
L1和L2正則常被用來解決過擬合問題。而L1正則也常被用來進行特徵選擇，主要原因在於L1正則化會使得較多的參數爲0，從而產生稀疏解，將0對應的特徵遺棄，進而用來選擇特徵。 但爲什麼L1正則會產生稀疏解呢？這裏利用公式進行解釋。
2018-08-26 12:28:47
2
原创 線性模型（五）之邏輯斯蒂迴歸
邏輯斯蒂迴歸（logistic regression，LR）名字中包含“迴歸”二字，乍一聽，還以爲是一種迴歸算法，實則不然，邏輯斯蒂迴歸是不折不扣的分類算法。 感知機算法是最直接的將線性迴歸用於分類的算法，其直接在線性迴歸的模型上
2018-08-26 12:28:44
原创 機器學習中的方差、偏差和噪聲
機器學習算法一般都會有訓練和測試的過程，而且算法在不同訓練集（訓練集來自同一個分佈）上學得的模型，測試的結果也很可能不同。 一般來說，算法的方差衡量了訓練集的變動導致的模型性能的變化，即多次訓練的模型之間的性能差異性。偏差則是度量
2018-08-26 12:28:44
原创 softmax loss層的求導反向傳播
深度學習中的分類網絡，一般都是使用softmax和交叉熵作爲損失函數。關於softmax和cross entropy的介紹和解釋可以詳見我的另一篇博客softmax loss。這篇博客僅解釋如何對softmax loss層進行求導反向
2018-08-26 12:28:44
原创 softmax loss
1. softmax softmax函數比較簡單，可以用如下公式表示 softmax(xj)=exj∑Ci=1exisoftmax(xj)=exj∑i=1Cexi 其中CC 表示共有CC 個類，即有CC 個輸出。並且一般將softma
2018-08-26 12:28:44
5
原创 python中文件複製操作
一般在做機器學習算法之前，或多或少都會涉及到數據的清洗工作，而清洗時，又經常需要把文件進行復制操作（比如，把清洗好的文件拿出來放到另一個目錄）。 在python中，一般使用shutil包進行復制操作，如下： 複製文件到文件 sh
2018-08-26 12:28:44
1
原创 線性模型（七）之人工神經網絡（ANN）
前面介紹了三種用於分類的模型，感知機、邏輯斯蒂迴歸和支持向量機。如果只就二分類任務而言，其實它們都可以認爲是在尋找一個超平面wTx+bwTx+b 將正負樣本劃分開。只不過尋找超平面的思路/想法不一致。但它們的目標都是要確定ww 和bb
2018-08-26 12:28:44
原创 numpy中的reshape操作
reshape操作，顧名思義，就是調整矩陣的形狀。在Python中，reshape用於調整矩陣的維度和形狀，比如將2*3的矩陣調整爲3*2的矩陣。在使用reshape函數調整矩陣AA 形狀時，可以使用p.reshape(A, [?,?
2018-08-26 12:28:40
原创 c/c++計算程序運行時間
在c/c++中經常需要獲取某段程序的運行時間，那麼如何來實現呢？ 方式一：使用time函數 使用time函數計算某段程序運行時間的代碼如下： time_t start_time; time(&start_time); ... ti
2018-08-26 12:28:40