原创 01. 矩陣乘法

定義 考慮一個矩陣乘法問題 A∗B=C 設A爲m行n列的矩陣，B爲n行p列的矩陣，那麼C爲m行p列的矩陣 設Ci,j 爲矩陣C的i行j列的元素，用Ai 表示A的第i行所代表的向量，用Bj 表示B的第j列所代表的向量,則 C

2020-07-02 17:49:04

原创 08. 矩陣的四個基本子空間

四個子空間的符號表示 設有矩陣A，設矩陣的秩爲r 四個子空間如下 列空間C(A) 行空間C(AT) 零空間N(A) 左零空間N(AT) 列空間 我們已經很熟悉列空間了 我們可以很容易地找到列空間的一個基 矩陣的所有主列就

2020-07-02 17:49:04

原创 06. 解空間

定義 解空間意爲Ax=b 的所有解的集合 求解 設 A=⎡⎣⎢1232462682810⎤⎦⎥b=⎡⎣⎢b1b2b3⎤⎦⎥ 寫出其增廣矩陣 ⎡⎣⎢⎢1 2 32462682810b1b2b3⎤⎦⎥⎥ 對增廣矩陣進行消元，得到 ⎡⎣⎢⎢1

2018-09-05 20:56:14

原创 04. 零空間

零空間定義 線性方程組Ax=0 的所有解x的集合稱爲矩陣A的零空間 零空間求解 設 A=⎡⎣⎢1 2 32462682810⎤⎦⎥ 求 x=⎡⎣⎢⎢⎢x1x2x3x4⎤⎦⎥⎥⎥ 消元 ⎡⎣⎢1 2 32462682810⎤⎦⎥→⎡⎣⎢

2018-09-05 20:56:13

原创 03. 矩陣的逆

可逆矩陣 設矩陣A可逆，其逆矩陣用A−1 表示,以下均討論方陣 則有性質 AA−1=I I爲單位矩陣 首先說下什麼情況是不可逆的 設 A=[1 236] 這是一個不可逆矩陣，爲什麼不可逆呢 假設存在逆矩陣A−1 ，也就是說

2018-09-05 20:56:13 3

原创 邏輯迴歸模型

邏輯迴歸（Logistic Regression，簡稱LR）是最常見的一種分類模型。 這裏簡單介紹下其推導過程。 設有訓練數據(x1,y1),(x2,y2),...,,(xm,ym) 其中 xi 爲特徵（feature），是一個n維向

2018-09-05 20:56:13

原创 09. 正交概念

向量正交 正交意味着垂直，設向量x與向量y正交 根據勾股定理，有如下推導 ||x||2+||y||2xTx+yTyxTx+yTyxTy=||x+y||2=(x+y)T(x+y)=xTx+yTy+2xTy=0 如果向量x與向量y滿足x

2018-09-05 20:56:13

原创 07. 線性相關、基、維數

線性相關 對n個向量v1,v2,...,vn 若其存在一個非0的線性組合能得到零向量，則爲線性相關，否則爲線性無關。 另一種描述： 將每個向量作爲一個矩陣的列向量，得到一個矩陣 [v1v2⋯vn] 若該矩陣的零空間存在一個非0向

2018-09-05 20:56:12

原创 02. 高斯消元

消元 考慮一個求解線性方程組問題，直接用矩陣表示 ⎡⎣⎢1 3 0284111⎤⎦⎥⎡⎣⎢x y z⎤⎦⎥=⎡⎣⎢2 12 2⎤⎦⎥ 對上式中的矩陣進行符號定義 A=⎡⎣⎢1 3 0284111⎤⎦⎥x=⎡⎣⎢x y z⎤⎦⎥b=⎡⎣

2018-09-05 20:56:12

原创 05. 矩陣的零空間與列空間

向量空間 設向量集合D，所有元素的任意線性組合仍屬於D，則稱D爲向量空間。 子空間 向量空間內的一個向量集合，其中所有元素都屬於母空間，但自身又構成一個向量空間。 比如，設向量空間R3 ，任意一個包含原點的平面構成一個子空間。 性質：任意

2018-09-05 20:56:11