原创 整環

整環是無零因子的有幺交換環。整環可以看作對整數環\(\Z(+,\cdot)\)的抽象。相比於一般的環,整環這一抽象保留了整數環中“整除”的概念,使得我們能夠討論其元素的“因子”與“分解”。 多項式環 給定環\(R\),可以給出多項式環\(R

原创 Zorn's Lemma

Zorn's Lemma陳述如下:在偏序集\(P\)中,如果\(P\)的每一條鏈都有一個\(P\)中元素作爲上界,那麼\(P\)中存在極大元。 Proof 反證法,假如\(P\)中沒有極大元。那麼對於\(P\)的任意一條鏈\(C\subse

原创 單純形法的平滑分析

我們採用這樣的形式來討論線性規劃:\(\max c^\top x\) subject to \(Ax\leq b\),其中\(x,c\in \R^n\),\(A \in \R^{m\times n},b\in \R^m\)。其中\(P=\{

原创 羣的直積

外直積與內直積(External Direct Product & Internal Direct Product)\(\newcommand{\ord}{\text{ord}}\) 假設我們有兩個羣,它們可以是毫不相關的,記爲\(H,K\

原创 高斯信道

正態分佈 正態分佈的微分熵 \(\newcommand{\d}{\text{ d}}\)\(\newcommand{\E}{\mathbb{E}}\)當\(X\)滿足正態分佈\(N(\mu,\sigma^2)\)時,\(f(x)=\dfra

原创 微分熵

微分熵\(\newcommand{\d}{\text{ d}}\) 對於連續的隨機變量\(X\),假如它有概率密度函數\(f(x)\),那麼我們仿照離散熵的表達式,定義\(X\)的微分熵爲\(h(X)=-\displaystyle\int_

原创 羣與子羣

羣(Group)的定義 代數是用字母表示數,是對數的運算與關係研究的一種抽象(抽象即一般化的討論)。在這種抽象下,\(2+3\)、\(12+35\)這類表達式都可以用一個抽象的代數表達式\(x+y\)來描述。這是對運算對象的抽象,可以研究數

原创 羣的同態與同構

同態(Homomorphism) 現在我們能夠更深刻地理解“羣”到底描述了什麼。羣描述且僅描述一個給定集合以及定義在該集合上的唯一的一個二元運算。任意給定羣裏的兩個元素,我們總能通過“運算”這一方式確定是羣裏的哪個元素與這兩個元素對應。如果

原创 羣在集合上的作用

在上一部分中,我們由羣\(G\)中某個元素\(g\)的左乘引發的單射討論了陪集、同態等內容。現在,我們把這種左乘推廣到任意的一個集合\(X\)上。給定一個羣\((G,\cdot)\)和一個非空集合\(X\),如果我們能夠定義一個\(G\)中

原创 陪集與正規子羣

陪集(Coset) 在Cayley定理的證明中,以及在證明對稱羣中奇置換與偶置換數量相等時,我們都用到了羣的這樣一個性質:如果以羣\(G\)中的任意一個特定元素\(g\in G\)來產生一個映射\(G\to G:f(x)=g\circ x\

原创 有限羣的結構

有限交換羣 對於交換羣而言,所有子羣都是正規子羣。因此,所有的商集都會形成商羣。由此我們能得到關於(有限)交換羣的一系列重要性質。 設\(G\)是有限交換羣,\(|G|=n\)。假如存在素數\(p\)使得\(n=pm\),則\(G\)中存在

原创 循環羣與置換羣

循環羣(Cyclic Group) 生成子羣 對於任意羣\(G\)的非空子集\(A\),定義\(\lang A\rang =\bigcap\limits_{i \in I}H_i\),其中\(H_i\)是所有包含\(A\)的\(G\)的子

原创 羣(III)

羣在集合上的作用(The Group Action On a Set) 在上一部分中,我們由羣\(G\)中某個元素\(g\)的左乘引發的單射討論了陪集、同態等內容。現在,我們把這種左乘推廣到任意的一個集合\(X\)上。給定一個羣\((G,\

原创 羣(II)

陪集(Coset) 在Cayley定理的證明中,以及在證明對稱羣中奇置換與偶置換數量相等時,我們都用到了羣的這樣一個性質:如果以羣\(G\)中的任意一個特定元素\(g\in G\)來產生一個映射\(G\to G:f(x)=g\circ x\

原创 數據的壓縮編碼

\(\newcommand{\E}{\mathbb{E}}\)\(\newcommand{\X}{\mathcal{X}}\)現在我們要開始討論熵的意義,爲此我們依然要回到數據的壓縮編碼這一核心概念上。 首先我們要嚴格地定義編碼。在這裏,我