數分+高代+概率論+其他

本博客記錄的是基礎的數學知識，整理後，方便查閱。
內容包括：數學分析、高等代數、常微分方程、其他數理知識
內容不是一蹴而就，自己在邊學習邊整理，希望能夠幫助到大家。

歡迎轉載，轉載請註明出處：https://blog.csdn.net/qq_41709378/article/details/106639967

---

1 數學分析

2 高等代數

2.1 矩陣

2.1.1 實對稱矩陣

【定義】
　　如果有n階矩陣A，其矩陣的元素都爲實數，且矩陣A的轉置等於其本身$（a_{ij}=a_{ji}）$(i,j爲元素的腳標），則稱A爲實對稱矩陣。
【例1】

【主要性質】
（1）實對稱矩陣A的不同特徵值對應的特徵向量是正交的。
（2）實對稱矩陣A的特徵值都是實數，特徵向量都是實向量。
（3）n階實對稱矩陣A必可相似對角化，且相似對角陣上的元素即爲矩陣本身特徵值。
（4）若A具有k重特徵值$λ_0$必有k個線性無關的特徵向量，或者說秩$r(λ_0E-A)$至多爲n-k，其中E爲單位矩陣。

2.1.2 正定矩陣&半正定矩陣

1 正定矩陣：
【定義】
　　設M是n階方陣，如果對任何非零向量z，都有$z^TMz> 0$，其中$z^T$表示z的轉置，就稱M爲正定矩陣。
【例2】 實對稱矩陣是否是正定矩陣？

【性質】
（1）正定矩陣的行列式恆爲正；
（2）實對稱矩陣A正定當且僅當A與單位矩陣合同；
（3）若A是正定矩陣，則A的逆矩陣也是正定矩陣；
（4）兩個正定矩陣的和是正定矩陣；
（5）正實數與正定矩陣的乘積是正定矩陣。

2 半正定矩陣：
【定義】
　　設A是n階方陣，如果對任何非零向量X，都有X’AX≥0，其中X’表示X的轉置，就稱A爲半正定矩陣。

【性質】
（1）半正定矩陣的行列式是非負的。
（2）兩個半正定矩陣的和是半正定的。
（3）非負實數與半正定矩陣的數乘矩陣是半正定的

3 兩者比較：
根據正定矩陣和半正定矩陣的定義，我們也會發現：半正定矩陣包括了正定矩陣，與非負實數 和正實數之間的關係很像。

正定矩陣和半正定矩陣的直觀解釋：

3 概率論與數理統計

4 其他數理知識

4.1 二次規劃問題

二次規劃的一般形式可以表示爲：

　　其中G是Hessian矩陣，τ是有限指標集，c，x和 ，都是R中的向量。如果Hessian矩陣是半正定的，則我們說該式是一個凸二次規劃，在這種情況下該問題的困難程度類似於線性規劃。如果有至少一個向量滿足約束並且在可行域有下界，則凸二次規劃問題就有一個全局最小值。如果是正定的，則這類二次規劃爲嚴格的凸二次規劃，那麼全局最小值就是唯一的。如果是一個不定矩陣，則爲非凸二次規劃，這類二次規劃更有挑戰性，因爲它們有多個平穩點和局部極小值點。
　　　　　　

（1）二次規劃問題的解法（拉格朗日乘子法）
用來求解線性優化問題、線性約束優化問題。

最終，求出了$x$。

（2）二次規劃問題的解法（有效集法）
用來求解非線性約束優化問題。
　　　　　　
　　　　　　
　　　　　　

通過一個例子進行分析。
鏈接: 有效集法.