数分+高代+概率论+其他

本博客记录的是基础的数学知识，整理后，方便查阅。
内容包括：数学分析、高等代数、常微分方程、其他数理知识
内容不是一蹴而就，自己在边学习边整理，希望能够帮助到大家。

欢迎转载，转载请注明出处：https://blog.csdn.net/qq_41709378/article/details/106639967

---

1 数学分析

2 高等代数

2.1 矩阵

2.1.1 实对称矩阵

【定义】
　　如果有n阶矩阵A，其矩阵的元素都为实数，且矩阵A的转置等于其本身$（a_{ij}=a_{ji}）$(i,j为元素的脚标），则称A为实对称矩阵。
【例1】

【主要性质】
（1）实对称矩阵A的不同特征值对应的特征向量是正交的。
（2）实对称矩阵A的特征值都是实数，特征向量都是实向量。
（3）n阶实对称矩阵A必可相似对角化，且相似对角阵上的元素即为矩阵本身特征值。
（4）若A具有k重特征值$λ_0$必有k个线性无关的特征向量，或者说秩$r(λ_0E-A)$至多为n-k，其中E为单位矩阵。

2.1.2 正定矩阵&半正定矩阵

1 正定矩阵：
【定义】
　　设M是n阶方阵，如果对任何非零向量z，都有$z^TMz> 0$，其中$z^T$表示z的转置，就称M为正定矩阵。
【例2】 实对称矩阵是否是正定矩阵？

【性质】
（1）正定矩阵的行列式恒为正；
（2）实对称矩阵A正定当且仅当A与单位矩阵合同；
（3）若A是正定矩阵，则A的逆矩阵也是正定矩阵；
（4）两个正定矩阵的和是正定矩阵；
（5）正实数与正定矩阵的乘积是正定矩阵。

2 半正定矩阵：
【定义】
　　设A是n阶方阵，如果对任何非零向量X，都有X’AX≥0，其中X’表示X的转置，就称A为半正定矩阵。

【性质】
（1）半正定矩阵的行列式是非负的。
（2）两个半正定矩阵的和是半正定的。
（3）非负实数与半正定矩阵的数乘矩阵是半正定的

3 两者比较：
根据正定矩阵和半正定矩阵的定义，我们也会发现：半正定矩阵包括了正定矩阵，与非负实数 和正实数之间的关系很像。

正定矩阵和半正定矩阵的直观解释：

3 概率论与数理统计

4 其他数理知识

4.1 二次规划问题

二次规划的一般形式可以表示为：

　　其中G是Hessian矩阵，τ是有限指标集，c，x和 ，都是R中的向量。如果Hessian矩阵是半正定的，则我们说该式是一个凸二次规划，在这种情况下该问题的困难程度类似于线性规划。如果有至少一个向量满足约束并且在可行域有下界，则凸二次规划问题就有一个全局最小值。如果是正定的，则这类二次规划为严格的凸二次规划，那么全局最小值就是唯一的。如果是一个不定矩阵，则为非凸二次规划，这类二次规划更有挑战性，因为它们有多个平稳点和局部极小值点。
　　　　　　

（1）二次规划问题的解法（拉格朗日乘子法）
用来求解线性优化问题、线性约束优化问题。

最终，求出了$x$。

（2）二次规划问题的解法（有效集法）
用来求解非线性约束优化问题。
　　　　　　
　　　　　　
　　　　　　

通过一个例子进行分析。
链接: 有效集法.