1. 馬爾可夫鏈
隨機過程
下一狀態只依賴當前狀態
用一句話來概括馬爾科夫鏈的話,那就是某一時刻狀態轉移的概率只依賴於它的前一個狀態。舉個簡單的例子,假如每天的天氣是一個狀態的話,那個今天是不是晴天只依賴於昨天的天氣,而和前天的天氣沒有任何關係。這麼說可能有些不嚴謹,但是這樣做可以大大簡化模型的複雜度,因此馬爾科夫鏈在很多時間序列模型中得到廣泛的應用,比如循環神經網絡RNN,隱式馬爾科夫模型HMM等。
假設狀態序列爲⋯,由馬爾科夫鏈定義可知,時刻的狀態只與有關,用數學描述就是:
既然某一時刻狀態轉移的概率只依賴前一個狀態,那麼只要求出系統中任意兩個狀態之間的轉移概率,這個馬爾科夫鏈的模型就定了。看一個具體的例子。
這個馬爾科夫鏈是表示股市模型的,共有三種狀態:牛市(Bull market), 熊市(Bear market)和橫盤(Stagnant market)。每一個狀態都以一定的概率轉化到下一個狀態。比如,牛市以0.025的概率轉化到橫盤的狀態。這個狀態概率轉化圖可以以矩陣的形式表示。如果我們定義矩陣陣P某一位置P(i, j)的值爲P(j|i),即從狀態i變爲狀態j的概率。另外定義牛市、熊市、橫盤的狀態分別爲0、1、2,這樣我們得到了馬爾科夫鏈模型的狀態轉移矩陣爲:
當這個狀態轉移矩陣P確定以後,整個股市模型就已經確定!
2. 馬爾可夫的平穩分佈
馬氏鏈
不可約性(Irreducible)
非週期性(Aperiodic)
時間均勻性(Homogeneous)
有限狀態(Finite States)
3. 模塊度(Modularity)與Fast Newman算法講解與代碼實現
4.拉普拉斯矩陣
4.1拉普拉斯矩陣的定義
拉普拉斯矩陣(Laplacian matrix)),也稱爲基爾霍夫矩陣, 是表示圖的一種矩陣。給定一個有n個頂點的圖,其拉普拉斯矩陣被定義爲:,其中爲圖的度矩陣,爲圖的鄰接矩陣。舉一個簡單的例子如下:
把G轉化爲鄰接矩陣W
度矩陣D,對角線是每個頂點的度數
根據拉普拉斯矩陣的定義,可得拉普拉斯矩陣L爲:
4.2拉普拉斯矩陣的性質
對於鄰接矩陣,定義圖中A子圖與B子圖之間所有邊的權值之和如下:
其中,定義爲節點i到節點j的權值,如果兩個節點不是相連的,權值爲零。
與某結點鄰接的所有邊的權值和定義爲該頂點的度d,多個d 形成一個度矩陣 (對角陣)
拉普拉斯矩陣 具有如下性質:
- L是對稱半正定矩陣
5.向量和矩陣的範數
5.1 向量範數
- 1-範數:,即向量元素絕對值之和。
- 2-範數:,Euclid範數(歐幾里得範數,常用計算向量長度),即向量元素絕對值的平方和再開方
- ∞-範數:,即所有向量元素絕對值中的最大值
- -∞-範數:,即所有向量元素絕對值中的最小值
- p-範數:,即向量元素絕對值的p次方和的1/p次冪
5.2 矩陣範數
- 1-範數:,列和範數,即所有矩陣列向量絕對值之和的最大值
- 2-範數:的最大特徵值,譜範數,即A’A矩陣的最大特徵值的開平方。
- ∞-範數:,行和範數,即所有矩陣行向量絕對值之和的最大值
- F-範數:,Frobenius範數,即矩陣元素絕對值的平方和再開平方
6.詳解pageRank
7.一些小問題
不可約是指從任意狀態出發經過有限次轉移都能夠到達任意其他狀態