一. 生物神經元結構及脈衝發放
生物神經系統中的信號是以細胞膜的電位變化來傳導的。神經元細胞膜內外的電位有差別,外正內負,70-80mv。周圍環境和內部變化可以引起膜電位的高低變化。但是這類變化當幅度不大時只是局部的,隨着變化幅度的增加,達到一定閾值時,膜電位纔會發生突然的變化,產生沿軸突傳導的動作電位,也稱爲脈衝。這種神經元傳遞的脈衝持續時間爲1-2ms,它可以跨越較遠的距離進行傳遞而不致衰減。電位變化的幅度和傳導速度都因神經軸突纖維的種類不同而不同。但對一種纖維來說,動作電位和傳到速度是一定的,在全範圍內,動作電位的產生與否取決於刺激強度是否大於閾值,這種現象稱爲“全或無”(all or none)定律。
如上圖所示,神經元未受刺激時,細胞膜內外兩側存在電位差,稱爲靜息電位(resting potential),一般在-80~-40mv。當神經元受到外界刺激時,突觸後電位的總和超過某一閾值時,神經元產生一個不衰減的“全或無”式的沿神經纖維的神經活動,即動作電位或脈衝。動作電位的動態變化過程包括一個迅速的去極化正向電位變化和緩慢的復極化負向電位變化。動作電位的另一特徵是電位的極性在峯電位頂端倒轉,細胞內由靜息時的負電位變爲正電位,這一過程叫做超射。神經元動作電位的產生會導致局部的興奮性發生一系列的變化。大致在動作電位的復極化階段(repolarization phase),無論用任何強的刺激都不能再引起動作電位,這個階段稱爲絕對不應期(absolute refraction period);在隨後的短時間內,動作電位進入超極化階段(hyperpolarization phase),用比原來強的刺激方能引起動作電位,而且反應幅度還會小一些,這個階段稱爲相對不應期(relative refraction period),神經元對信號的傳遞方式在很大程度上與神經元的電學特性有關。
生物神經系統在內外刺激作用下,使得神經元按照一定時間間隔產生一系列的動作電位,稱爲脈衝序列(spike train)。神經元發放的單個動作電位或者脈衝是信號傳遞的基本單元,因爲所有脈衝的波形都是相似的,所以動作電位的形狀不會攜帶任何信息,而傳遞有用神經信息的是脈衝的發放時間和頻率。一個神經元就是一個整合器,隨時都在接受成百上千的信息,隨時都在對外接受的信息進行加工,使相同的信息加在一起,相反的信息互相抵消,然後決定是興奮還是保持抑制,這就是神經元的整合(integration)作用。如下圖,一個生物神經元通過其大量的樹突接受其他突觸前神經元發放的各不相同的脈衝序列作爲輸入,通過突觸的作用和神經元胞體的信息整合,神經元發放一定時間間隔的脈衝序列,又通過軸突成爲其他神經元的輸入。
從突觸前神經元傳入的脈衝信號引起突觸後神經元膜電位發生的變化成爲突觸後電位(postsynaptic potential),具有局部電位的性質。一個神經元通常有許多突觸,其中有些是興奮性的,有些是抑制性的。對於從突觸前神經元傳來的多個脈衝,由於突觸類型的不同,突觸後電位可分爲興奮性和抑制性兩類。興奮性突觸使得突觸後神經元的膜去極化,產生正的突觸後電位,成爲興奮性突觸後電位(excitatory postsynaptic potential,EPSP)。EPSP在傳入脈衝到達突觸後神經元0.3-0.5ms之後產生,它有一個較快的上升過程和緩慢的指數衰減過程,電位總共持續10-20ms。抑制性突觸使突觸後神經元的膜超極化,產生負的突觸後電位,稱爲抑制性突觸後電位(inhibitory postsynaptic potential,IPSP),IPSP到達峯值時間和EPSP相似。
如果突觸前神經元快速發放一系列動作電位,而突觸後電位的消退需要一定時間,則相繼產生的突觸後電位會隨時間產生累計效應。而一個神經元接受其他很多突觸前神經元同時傳來的脈衝所產生的突觸後電位的總體效應稱爲空間累加。時間累加和空間累加都會對突觸後電位產生影響。生物神經元的動態特性是非常複雜的,從神經元傳遞信息的功能和特點歸納出以下幾點:
- 突觸後電位有興奮性和抑制性兩種類型;
- 突觸在傳遞信息的過程中有一定的延遲時間;
- 神經元信息的整合有時間累加和空間累加;
- 具有數/模互相轉換功能,類似數字信號的突觸前神經元動作電位,通過突觸傳遞過程,轉換成類似於模擬信號的突觸後神經元的突觸後電位,而突觸後神經元對這些模擬信號進行快速整合,一旦超過閾值就形成發放,動作電位還是數字的;
- 神經元脈衝的發放存在不應期;
- 突觸傳遞信息的強度隨時間是可變的,包括突觸傳遞增強和突觸傳遞減弱,突觸可塑性是學習和記憶的基礎。
二. 脈衝神經元的建模方法
1. 神經元的房室建模方法
當前對神經元數值模擬的研究主要是從細胞膜屬性和幾何形態這兩個方面進行,其理論基礎是Hodgkin-Huxley的神經元模型和Rall的神經元被動電纜理論(passive cable theory),被動電纜的空間拓撲結構可以採用典型的房室建模方法(compartmental modeling approach)進行離散描述。房室模型是利用有限差分法將空間上連續的單個神經元分割成很短的區域,並假設其在區域內是等電位的。每個離散的區域電位被視爲一個單獨的房室,房室之間相互連接後整體描述神經元的時空變化。
神經元的房室模型可用下圖所示的等效電路來模擬,其中表示第k個房室的膜電位,此房室可以用來表示細胞體、樹突或軸突,分別表示相鄰兩個房室的膜電位;表示第k個房室與第k-1個房室的軸電阻,表示第k個房室與第k+1個房室的軸電阻。
根據神經元房室的等效電路,單個房室的膜電位變化可表示爲:
其總共包含4類電流,即神經元的漏電流,房室上所有的鈉離子通道、鉀離子通道等門控電流之和,相鄰房室的外向整合延遲電流,I表示外部注入電流。
2. 脈衝神經元的建模層次
對於脈衝神經元模型的建立,從平衡神經元的功能特性和計算效率的角度出發,將脈衝神經元的數學建模分爲三個層次,包括詳細房室模型(detailed compartmental model)、縮減房室模型(reduced compartmental model)和單房室模型(single compartmental model)。
2.1 詳細房室模型
真實的神經元具有在形態和生理兩方面都極爲複雜的樹突樹和軸突及其分支,脈衝神經元的詳細房室模型依據樹突和軸突的空間幾何形狀特徵進行建模。根據Rall的被動電纜理論和房室建模方法,可建立定量研究樹突整合功能的理論框架。數學上房室模型是對非線性的電纜方程的某種有限差分逼近,一般用常微分方程來取代連續電纜方程。對於每一時間間隔,運用數值方法來求解由這些方程構成的高維繫統。
2.2 縮減房室模型
儘管詳細房室模型很好地近似了神經元的空間幾何形態,並表現了豐富的動力學特性,但其存在以下缺點:①這種高維模型很難從數學分析的角度研究神經元的突現特徵;②由於其計算的複雜性,很難進行大規模網絡的模擬研究。
縮減房室模型在神經元的功能特性和計算效率之間進行了折衷,僅用一個或幾個房室來表達神經脈衝在樹突與胞體之間的交互。
2.3 單房室模型
單房室模型忽略了神經元的形態特徵,將神經元抽象成一個點,僅考慮各種離子電流對神經元閾下行爲和脈衝生成的影響。最爲典型的單房室脈衝神經元模型就是描述神經元膜電位和離子電導變化關係的 Hodgkin-Huxley模型。
三. 單房室脈衝神經元模型
基於對生物神經元不同的認知和計算功能的需要,在過去的幾十年湧現了很多單房室脈衝神經元的計算模型,根據神經元的構造方法的差異將這些模型分爲四類:
①生物可解釋性的生理模型;②脈衝生成機制的非線性模型;③固定閾值的脈衝發放模型;④分段線性化的解析模型。
1. 生物可解釋性的生理模型
生物神經元的離子是傳遞電信號的重要媒介,電信號的產生是由於細胞膜兩側的離子發生流動而形成了濃度差,從而導致了細胞膜內外電位差的變化。
1.1 Hodgkin-Huxley神經元模型
Hodgkin等人通過大量實驗和分析,確認神經軸突膜上有兩種主要的離子通道——鈉離子通道和鉀離子通道,這兩個離子通道的電導不是恆定的,它們強烈依賴於膜電位。這時由於兩通道中存在着幾個由膜中有機分子所控制的門,門打開或關閉的概率與膜電位有關。此外,膜中還有次要的其他離子的通道,形成漏電流。等效電路如下圖:
細胞膜上流過的電流主要取決於離子通道的阻抗以及細胞膜上的電容,總的離子電流主要由組成。表示鈉離子電流,表示鉀離子電流,表示漏電流,I表示突觸輸入或外部注入電流。V表示膜電位,方向由膜的外側指向內測,即外正內負。
根據實驗數據分析可知,之間沒有耦合關係,Hodgkin-Huxley神經元模型由四個非線性微分方程給出,可以表示爲:
式中,表示膜電容;代表漏電導;表示漏電逆轉電位,也稱靜息電位;和分別表示和通道最大電導值;和分別表示對應的逆轉電位。電流由三個活化門m和一個去活化門h控制,電流由四個活化門n控制 ,這些門控變量通常隨膜電位變化而變化,表達式如下:
在Hodgkin-Huxley神經元模型中,通常膜電容的取值爲,膜電位V的單位爲mV,時間的單位爲ms。各種離子對應的逆轉電位分別爲:。各種離子的最大電導值分別爲:。外部注入電流的單位爲。
1.2 Morris-Lecar神經元模型
1981年,Morris等通過對藤壺神經細胞膜電位的測量發現:當電流注入肌肉纖維時,可測的藤壺肌肉纖維震盪的電壓,電壓震盪現象與鉀離子通道和鈣離子通道驅動的電壓有關。它們在實驗研究的基礎上給出瞭如圖所示的等效電路來模擬這類神經細胞的膜系統,其中表示鈣離子電流,表示鉀離子電流,表示漏電流
,I表示突觸輸入或外部注入電流。V表示膜電位,方向是由膜的外側指向內側,即外正內負。
Morris-Lecar神經元模型由兩個非線性微分方程組成,可以表示爲:
式子中,隨膜電位變化的控制變量表示爲:
Mossis-Lecar神經元模型中參數取值爲,外部注入電流的單位爲。
2. 脈衝生成機制的非線性模型
從非線性動力學系統的角度來看,神經元產生興奮性的原因是由於存在從靜息狀態到持續脈衝的轉變,即分岔(bifurcation)機制所致。FitzHugh和Nagumo等最早採用相平面和零線研究了Hodgkin-Huxley神經元模型,並提出了一個更簡單的模型,這個模型用一條倒N型的三次曲線代表膜電位的零線,用一條直線代表變量的零線,大大簡化了的二維模型可以很好的描述Hodgkin-Huxley系統的特性,這就是著名的FitzHugh-Nagumo神經元模型。Hindmarsh-Rose神經元模型可以表現出非常複雜的神經計算特性。
雖然這類模型沒有離子通道機理,模型中的參數也不具有實際的生物學意義,但從動力學角度來看,它們具有和Hodgkin-Huxley神經元模型相似的分岔機制和動力學特性,從而表現出類似生物神經元的脈衝發放特性。這類模型比較簡單,可實現大規模脈衝神經網絡的模擬,但它仍然是非線性的微分方程,一般無法得到神經元狀態變量的解析式,只能進行近似的數值模擬。
2.1 FitzHugh-Nagumo神經元模型
krinski等發現Hodgkin-Huxley模型中的門控變量n與h之和可以近似爲一個常數,這使得四維的Hodgkin-Huxley神經元模型簡化爲二維模型成爲可能。FitzHugh-Nagumo神經元模型把神經元的行爲通過Duffing-van der Pol振子來進行描述,雖然FitzHugh-Nagumo神經元模型存在多種形式的表述,但是其本質描述了神經元的耦合振盪機制。該模型可表示爲:
式子中,V表示快變量(膜電位);U表示慢變量(恢復變量);變量I代表突觸電流或外部注入刺激電流的強度(無量綱);都是常數,。通過數值計算發現,FitzHugh-Nagumo神經元模型可以很好的模擬大腦神經元的脈衝發放情況。
2.2 Hindmarsh-Rose神經元模型
Rose等提出了幾種不同的神經元模型,其中最流行的是一種關於神經脈衝簇放電的模型,可由下面的三維非線性微分方程描述:
式子中,是根據經驗所推導出來的函數,可表示爲:
Hindmarsh-Rose神經元模型中,I表示所施加的電流,表示當前緩慢適應的時間尺度,s表示緩慢動態性的影響尺度,這決定了神經元的發放方式,即當有一個連續的外部輸入時神經元是以簇的形式發放還是以其他形式發放。
3. 固定閾值的脈衝發放模型
具有固定閾值的脈衝發放神經元模型具有更高的抽象層次,這類模型依賴於所有突觸前神經元輸入脈衝的積累,當膜電位高達某一個固定閾值時,神經元發放脈衝。這類神經元模型的典型代表就是Integrate-and-Fire和Resonate-and-Fire神經元模型,它們分別表示累積器(integrator)和共振器(resonator),前者用一維微分方程表示;後者用二維微分方程表示。這些模型具有一些共同的特徵:都是用線性微分方程來描述神經元,都具有固定的發放閾值和復位機制,都在靜息狀態具有唯一的穩定平衡點。不同之處在於Integrate-and-Fire神經元模型的平衡點是結點,而Resonate-and-Fire神經元模型的平衡點是焦點。
實質上,具有固定閾值的脈衝發放模型不能算作真正的脈衝神經元模型,因爲它們不具備脈衝生成機制,當膜電位達到閾值時,神經元生成的脈衝是假象的,因此這類模型具有有限的神經計算特性。儘管存在很多缺點,但這類模型,特別是Integrate-and-Fire神經模型,長期以來在神經計算領域得到了廣泛應用,主要原因在於它是簡單的線性模型,不僅可以通過膜電位的解析式對神經元的性質進行定量研究,而且可以應用事件驅動模擬策略實現脈衝神經網絡的精確模擬。
3.1 Integrate-and-Fire神經元模型
1907年,Lapicque用電子線路模擬神經元的神經生理現象,構造了最早的神經元模型,當時,人們對神經元動作電位形成機制的認識還不清楚。最簡單的是漏電Integrate-and-Fire神經元模型,僅考慮Hodgkin-Huxley神經元模型中的漏電流。漏電Integrate-and-Fire神經元模型的等效電路如下圖所示,神經元的內部電路中並聯着一個膜電容和一個膜電阻。當突觸前神經元產生一個脈衝時,會在突觸後神經元相連接的突觸上產生相應的電流I。該電流分爲兩部分,一部分用來給膜電容充電,另一部分從膜電阻流走。一旦在神經元膜電容上的電壓超過發放閾值,神經元會發放一個脈衝。
漏電Integrate-and-Fire模型非常直觀地描述了神經元的膜電位V和其輸入電流I之間的關係,其膜電位V的變化過程由下面一階微分方程描述:
變形可得:
上式中,,稱爲膜時間常量;I爲各個突觸前神經元放電行爲所產生的突觸電流之和。當膜電位V大於等於閾值電位時,神經元立即產生興奮,即發放脈衝,伴隨動作電位的傳導,同時將膜電位復位到,並在絕對不應期之內保持不變;當膜電位V小於閾值電位時,神經元不會產生動作電位,且膜電位將按膜時間常量衰減直到靜息電位。
漏電Integrate-and-Fire神經元模型表現爲第1類興奮性,脈衝可以以任意低的頻率發放,並且頻率隨着突觸輸入電流I的增大而增大。
3.2 Resonate-and-Fire神經元模型
Resonate-and-Fire神經元模型是二維動力學系統,可表示爲如下所示的線性微分方程組:
類似於Integrate-and-Fire神經元模型,上式在複平面的座標可表示爲:
式子中,複數變量,描述神經元的阻尼振盪特性,其中實值部分x表述電流的變量,描述電壓門控(voltage-gated)或突觸輸入電流的動態特性,虛值部分y表示電壓的變量;,表示神經元在靜息狀態的復特徵值,b<0和w>0分別表示神經元模型的參數。當神經元的膜電位到達閾值電位時,神經元發放一個脈衝,並將Z復位到。
4. 分段線性化的解析模型
如果要讓構建的脈衝神經元模型即能表達豐富的神經計算特性,又可通過解析方法對神經元進行定量的分析,可以採用分段線性這種最簡單的非線性動力學系統來實現。具體模型在這裏不做陳述,有興趣的可以自己查查。
來自脈衝神經網絡原理與應用一書