人工神經元

神經元是構成神經網絡的最基本單位，構造一個人工神經網絡系統的首要任務就是構造人工神經網絡模型。
1、人工神經元的基本構成
我們希望人工神經元可以模擬生物神經元的一階特性—輸入信號的加權和。對於每一個人工神經元來說，可以接受一組來自系統中其他神經元的輸入信號，每個輸入對應一個權，所有輸入的加權，所有輸入的加權和決定該神經元的激活狀態（Activation）。
設n個輸入分別用x₁、x₂、... x_n表示，它們對應的連接權值依次爲w₁，w₂，...，w_n，所有的輸入及對應的連接權值分別構成輸入向量X和連接權向量W：
                      X = (x₁,x₂,...,x_n)
                      W = (w₁,w₂,...,w_n)^T
用net表示該神經元所獲得的輸入信號的累積效果，稱爲該神經元的網絡輸入：

2、激活函數

神經元在獲得網絡輸入後，它應該給出適當的輸出。按照生物神經元的特性，每個神經元有一個閥值，當該神經元所獲得的輸入信號的積累效果超過閥值時，它就處於激發態；否則，應該處於抑制態。人工神經元提供一個更一般的變換函數，用來執行對該神經元所獲得的網絡輸入的變換，這就是激活函數。典型的激活函數有線性函數、非線性斜面函數、階躍函數、s型函數等。