機器學習——筆記02（迴歸分析）

機器學習

• 任務：找到一個function
• 步驟：
  ①模型
  ②代價函數
  
  
  ③找到最好function
  
  
  局部最優，不一定是全局最優。跟起始位置有關。如上圖，從左邊起，微分爲零找到的是局部最優；從右邊起，微分爲零找到的是全局最優。
  兩個參數的情況如下，分別計算偏微分，一步步修正兩個參數。
  
  
  
  注意，鞍點是微分是零但不是極值的點。還有，特別平滑的地方可能會被誤以爲是極值點附近了，停止更新。（線性迴歸問題不必擔心）
  
  偏微分的計算

迴歸分析

迴歸分析，輸出一個數值

demo

Python
jupyter notebook，matplotlib繪圖

結果

過擬合現象，複雜的模型不一定總是可以給出很好的擬合。

過擬合。

重新設計模型

考慮到寶可夢的種類因素的影響，重新設計模型。

衝擊函數（多因素）

根據猜測將可能有關的因素丟進模型中，CP、HP、W、H等。

結果，過擬合了。

正則化（平滑函數）

輸入的變化並不會太大的影響輸出，即爲平滑。在多數情況下，平滑的函數更有可能是正確的。