原创 吳恩達機器學習筆記-支持向量機

優化目標 之前的課程有學習過Logistic迴歸的假設函數: $$ h_\theta(x) = \frac{1}{1+e^{-\theta^Tx}} $$ 其圖像如下: 從圖像可以看出,如果$y=1$的話,那麼我們希望$h_\theta(

原创 吳恩達機器學習筆記-機器學習系統設計

確定執行的優先級 我們已經學習過一些機器學習的算法,那麼如何設計一個機器學習系統呢,課程中舉了一個垃圾郵件分類器的例子,例子比較簡單這裏就不再贅述: 那麼如何來提升這個分類器的準確度呢?有下面幾個建議: 收集更多的數據 增加更復雜的特徵

原创 吳恩達機器學習筆記-應用機器學習的建議

評估假設 我們之前已經學習過一些機器學習的算法,現在我們來談談如何評估算法學習得到的假設。當發現預測的結果和實際的數據有誤差的時候,我們需要進行一些調整來保證預測的準確性,大部分情況下,有以下幾種辦法來調整假設函數: 獲取更多的訓練集 減

原创 吳恩達機器學習筆記-反向傳播算法練習

直觀感受反向傳播的概念 上篇文章講述了神經網絡的反向傳播算法的基本概念,現在來詳細的對此算法進行一些講解。回憶一下神經網絡的代價函數: 如果我們只考慮一個簡單的只有一個輸出單元的情況,即k=1,那麼代價函數則變成: 直觀的說,$\del

原创 吳恩達機器學習筆記-神經網絡的代價函數和反向傳播算法

代價函數 在神經網絡中,我們需要定義一些新的參數來表示代價函數。 L = total number of layers in the network $s_l$ = number of units (not counting bias u