深度前饋網絡(deep feedforward network): 也叫作 前饋神經網絡(feedforward neural network)或者 多層感知機(multilayer perceptron, MLP),是典型的深度學習模型。前饋網絡的目標是近似某個函數 f∗。
線性模型: 線性模型,例如邏輯迴歸和線性迴歸,是非常吸引人的, 因爲無論是通過閉解形式還是使用凸優化,它們都能高效且可靠地擬合。線性模型也有明顯的缺陷,那就是該模型的能力被侷限在線性函數裏,所以它無法理解任何兩個輸入變量間的相互作用。
? :非線性變換爲什麼可以理解任意兩個輸入變量之間的相互作用