陪集(Coset)
在Cayley定理的證明中，以及在證明對稱羣中奇置換與偶置換數量相等時，我們都用到了羣的這樣一個性質：如果以羣\(G\)中的任意一個特定元素\(g\in G\)來產生一個映射\(G\to G:f(x)=g\circ x\)，則\(f\)一定是單射。這本質上緣於羣具有“消去律”的性質：如果\(g\circ x_1=g\circ x_2\)，那麼\(x_1=x_2\)。如果\(G\)是有限的，我們進一步得知\(f\)是雙射，也即“左乘\(g\)”實際上給出了一個permutation。這個性質是如此重要，以至於我們要從它出發更深入地討論羣的性質。
對於\(G\)的一個子羣\(H\)，每個\(g\in G\)我們都可以定義\(H\to G\)的映射\(f_g(x)=g\circ x\)，這依然是一個單射，因爲消去律成立。對於給定的\(H\)，不同的\(g\)就給出了不同的單射，單射的像一定落在\(G\)中（封閉性），構成\(G\)的一個子集。因此對於每個\(g\)我們都可以給出一個像集，我們稱之爲由\(g\)生成的子羣\(H\)的左陪集(left coset)：\(gH=\{g\circ h\mid h\in H\}\)。同樣的，也可以定義右陪集\(Hg\)。從下面開始我們只討論左陪集，因爲右陪集的性質是完全相同的。例如，令\(G=(\Z,+)\)，對於特定的正整數\(k\)，\(G\)有子羣\(H=(k\Z,+)\)。那麼\(0,1,2,\cdots,k-1\)都會生成互不相同的\(H\)的陪集（由於是阿貝爾羣，左陪集等於右陪集），\(k\)生成的陪集與\(0\)相同。因此我們說\(H\)有\(k\)個不同的陪集。
我們已經知道對於有限集，\(f\)是雙射。因此如果\(H\)是有限羣，一定成立\(|H|=|gH|\)。有限子羣的陪集大小一定與子羣本身大小相等。
Lagrange定理
從整數加法羣的例子中我們注意到這樣一件看上去巧合的事實：每一個不同的陪集間都互不相交，並且所有陪集並起來恰好得到了\(G\)。換言之，陪集構成了\(G\)的一個partition。是不是所有羣的陪集都滿足這樣的性質呢？我們來證明的確是這樣的。
首先我們來驗證，不同的陪集之間是互不相交的。對於\(a,b\in G,H\preceq G\)，設\(b\in aH\)，也即存在\(h\in H\)使得\(ah=b\)，那麼對於所有的\(h'\in H\)都成立\(bh'=(ah)h'=a(hh')\in aH\)，這說明\(bH\subseteq aH\)；同時，對於所有的\(h'\in H\)都成立\(ah'=(bh^{-1})h'=b(h^{-1}h')\in bH\)，這說明\(aH\subseteq bH\)。因此\(aH=bH\)。也就是說，\(aH\)中的每個元素\(b\)生成的陪集都必定是\(aH\)本身。反之，假設對於\(a,b\in G\)已知\(aH=bH\)，那麼由於\(H\)中有單位元，\(b\in bH=aH\)，對稱的也有\(a\in bH\)。這說明\(aH=bH\)與\(b\in aH\)（或\(a\in bH\)）是當且僅當的，一個陪集中的任何一個元素都可以充當生成元而不改變任何事情。現在假設對於\(a,b\in G\)，\(aH\)與\(bH\)的交集是非空的，也即存在\(c\in G\)使得\(c\in aH\)且\(c\in bH\)。那麼存在\(h_1\in H\)使得\(c=ah_1\)，存在\(h_2\in H\)使得\(c=bh_2\)。那麼\(ah_1=bh_2\)，也即\(a(h_1h_2^{-1})=b\)。而\(h_1h_2^{-1}\in H\)，這說明\(b\in aH\)，等價於\(aH=bH\)。所以我們證明了，只要兩個陪集有交，那麼這兩個陪集必須相等！現在我們令\(g\)遍歷\(G\)中的所有元素，由於每個\(g\)本身肯定包含在\(gH\)中，因此所有可能的\(gH\)並起來一定會得到全集\(G\)。而不同的\(gH\)間又互不相交。所以陪集的確構成了\(G\)上的一個partition！
可以驗證（並且根據對稱性顯然），左陪集的數量與右陪集的數量相等（如果是無窮則集合的勢相等）。因爲我們可以構造左陪集集合到右陪集集合的雙射\(\psi(aH)=Ha^{-1}\)：如果\(Ha^{-1}=Hb^{-1}\)，那麼\(b^{-1}\in Ha^{-1}\)，也即存在\(h\in H\)使得\(b^{-1}=ha^{-1}\)，也即\(a=bh\)，那麼\(a\in bH\)，等價於\(aH=bH\)，因此是單射。同時，\(a^{-1}\)取遍所有\(G\)中元素，因此是滿射。
\(aH=bH\iff b\in aH\iff a^{-1}b\in H\)
陪集構成partition這一事實可以理解爲，我們用陪集給出了\(G\)上的一個等價類，一個陪集\(gH\)中的所有元素就被看爲“等價的”，因爲我們確實容易驗證這種關係是自反、傳遞、對稱的。更具體的，由陪集給出的等價類定義了一個自然映射\(\pi:G\to G/H\)，其中\(G/H\)定義爲\(\{gH\mid g \in G\}\)，它是所有不同陪集構成的集合。\(\pi(g)=gH\)。（右陪集集合則記爲\(G\backslash H\)）。現在，對於有限羣\(G\)，每個陪集的大小都相等且爲\(|H|\)，所以我們直接得到不同的陪集個數必定爲\(\dfrac{|G|}{|H|}\)。這稱爲Lagrange定理：記有限羣\(G\)中子羣\(H\)的不同陪集個數爲\([G:H]\)，稱爲\(H\)在\(G\)中的index(指數)，則\(|G|=[G:H]\cdot |H|\)。在\(G/H\)中，“除號”形象地體現出了這種如同整數除法一樣的對集合的劃分，我們通常把\(G/H\)稱爲商集(Quotient Set)。
Lagrange定理像我們揭示了有限羣的很重要的一個性質：任何子羣的大小都必須是\(G\)的大小的約數！這爲我們理解子羣的性質提供了大量的便利。
Lagrange定理的應用
現在我們知道對於有限羣\(G\)，其元素\(a\in G\)生成的循環羣\(\lang a\rang\)既然是\(G\)的一個子羣，其大小就一定是\(|G|\)的約數。假如\(|G|\)是素數，那麼其約數只有\(1\)或\(|G|\)本身。取\(G\)中任何一個非單位元作爲生成元生成一個循環羣，這個羣一定是不止一階的，那麼它只能是\(|G|\)階的。那麼，這個循環羣就是\(G\)本身了！也就是說，\(G\)是一個循環羣，並且除了單位元以外所有元素都可以作爲生成元。我們證明了，任何素階羣都一定是循環羣！
Lagrange定理的另一個重要的結論就是數論上的Euler定理，它的本質就是作爲子羣的循環羣。我們驗證過\((\Z_n^*,\cdot)\)是羣（\(\Z_n^*\)中的元素是\(1\)到\(n-1\)中所有與\(n\)互質的數，共\(\varphi(n)\)個）。那麼取任意一個與\(n\)互質的數\(a\)，\(a\)在模\(n\)意義下一定與\(\Z_n^*\)中的一個元素相等（如果不能則說明\(a-kn\)有\(n\)的因子，與\(gcd(a,n)=1\)矛盾）。所以我們不妨假設\(1\leq a<n\)。那麼\(\lang a\rang\)構成了\(\Z_n^*\)的一個子羣，根據Lagrange定理其大小一定是\(\varphi(n)\)的約數。那麼此時必定成立\(a^{\varphi(n)}\equiv 1\pmod n\)。這就是Euler定理的全部內容了。取\(n\)爲素數\(p\)，此時\(\varphi(p)=p-1\)。那麼得到推論\(a^{p-1}\equiv 1\pmod p\)，這就是Fermat小定理。Euler定理是密碼學中RSA算法的核心。具體見大一下的算法內容數的算法。
正規子羣(Normal Groups)
我們已經看到通過陪集，我們把全集\(G\)分成了若干個等價類。這些等價類構成了商集\(G/H\)。我們現在要追問，\(G/H\)本身能否構成一個羣呢？也就是說，何時我們能由子羣\(H\)得到商羣(Quotient Subgroup)\(G/H\)？要能構成羣，我們首先要定義一個陪集與陪集間的代數運算。這裏，我們回憶起在給出子羣的等價定義時，我們定義過在羣的代數運算\(\circ\)下集合的乘積與逆，並證明了\(H\preceq G\)\(\iff H\circ H \subseteq H\and H^{-1}\subseteq H\)\(\iff H\circ H=H\and H^{-1}=H\)。我們看到，陪集只是單個元素構成的集合與子羣的乘積。爲了討論商羣，我們要更深入地研究一下這種集合間的乘積運算。
首先，這種乘積運算是有結合律的。對於集合\(A,B,C\)，始終滿足\((AB)C=A(BC)\)。這實際上正是羣的運算\(\circ\)的結合律的直接結果。
另一個問題是乘積運算能否保子羣的性質？如果\(H\preceq G,K\preceq G\)，是否成立\(HK\preceq G\)？下面我們證明，這是需要額外條件的：\(HK\preceq G\iff HK=KH\)。左推右，因爲\(HK\)是子羣，根據等價定義得到\((HK)^{-1}=HK\)，而\((HK)^{-1}=K^{-1}H^{-1}\)，而\(H,K\)都是子羣，因此等於\(KH\)；右推左，\((HK)^{-1}=K^{-1}H^{-1}=KH=HK\)，同時\((HK)(HK)=H(KH)K\)\(=H(HK)K=(HH)(KK)=HK\)，因此\(HK\preceq G\)。（我們注意到，如果\(G\)本身就是阿貝爾羣，那麼\(HK=KH\)是顯然成立的，在這種情形下\(HK\)總是\(G\)的子羣。但反過來\(HK=KH\)並不能推出\(G\)是阿貝爾羣。另外我們還注意到，任何一個包含\(H\)中所有元素且包含\(K\)中所有元素的子羣都必須包含\(HK\)中的所有元素，因此如果\(HK\preceq G\)，那麼\(HK\)就是包含\(H\)和\(K\)的最小子羣了，也即此時\(HK\)是\(H\cup K\)生成的子羣。）
現在我們開始討論陪集與陪集的乘積。對於\(H\preceq G\)，要能得到商羣，我們希望陪集與陪集的乘積依然是陪集。然而這並不是對任意\(H\)都能滿足的。對於\(a,b\in G\)，一定有\(ab \in (aH)(bH)\)。如果\((aH)(bH)\)是陪集，那陪集作爲等價類意味着它一定只能是\((ab)H\)。下面我們證明，如果要能使得對於任意的\(a,b\in G\)都滿足\((aH)(bH)=abH\)， 當且僅當\(\forall c \in G,cH=Hc\)：右推左，\((aH)(bH)=\)\(a(Hb)H=a(bH)H=ab(HH)=abH\)；左推右，\(\forall c\)，\((cH)(c^{-1}H)=(cc^{-1})H=H\)。而\(\forall c,cHc^{-1}\subseteq cHc^{-1}H=H\)，因爲\(H\)裏含有單位元。\(cHc^{-1}\subseteq H\)展開，等價於\(\forall h\in H,\exists h'\in H\)使得\(chc^{-1}=h'\)，這等價於\(h=c^{-1}h'c\)，也即\(\forall h \in H,h\in c^{-1}Hc\)。也即\(H\subseteq c^{-1}Hc,\forall c\)。對於任意固定的\(c\)，\(cHc^{-1}\subseteq H\)，取\(c'=c^{-1}\)，有\(H\subseteq c'^{-1}Hc'=cHc^{-1}\)，因此\(H=cHc^{-1},\forall c\)。兩個相等的集合有相同的關於\(c\)的右陪集，因此\(Hc=cH,\forall c\)。
換言之，要使得\(H\)的陪集在乘積作用下保持陪集性質，它必須是一個不區分左右陪集的子羣。只有具有這樣良好的性質，我們才可能定義商羣\(G/H\)。我們特別把這類特殊的子羣\(H\)稱爲\(G\)的正規子羣(Normal Subgroup)，記爲\(H\unlhd G\)。如果\(H\)是\(G\)的正規真子羣，則記爲\(H\lhd G\)。\(H\)是\(G\)的正規子羣當且僅當\(\forall c\in G,cH=Hc\)。這一條件有很多等價的表達方式，我們可以驗證\(cH=Hc,\forall c\)\(\iff cHc^{-1}=H,\forall c\)\(\iff cHc^{-1}\subseteq H,\forall c\iff H\)的每個左陪集都是某個\(H\)的右陪集\(\iff H\)的每個右陪集都是某個\(H\)的左陪集。其中，前三條我們在剛纔的證明中實際上已經證明了，第四條證明如下：由第一條推第四條顯然；反過來，已知\(\forall c,\exists c'\)使得\(cH=Hc'\)，那麼\(\forall \hat c \in cH\)，則\(cH=\hat c H\)。而\(\hat c \in Hc'\)，因此\(Hc'=H\hat c\)。那麼\(\hat cH=H\hat c\)。由於\(c\)可以取任意元素，因此\(\hat c\)一定也可以取遍任意元素，證畢。第五條同理。
那麼我們就來驗證對於正規子羣\(N\unlhd G\)，\(G/N=\{gN\mid g \in G\}\)關於集合的乘積運算是羣。根據正規子羣的定義，封閉性成立；結合律：\((aNbN)cN=abcN=aN(bNcN)\)；商羣中陪集的單位元就是\(G\)的單位元的陪集\(e_GN=N\)；陪集的逆就是生成元的逆的陪集。綜上，正規子羣的商集的確構成了羣（商羣）。作爲一個例子，我們可以取\(G\)爲\(n\)階可逆方陣構成的集合，\(N\)取\(n\)階的行列式爲1的矩陣的集合。容易驗證\(N\)是子羣，而我們可以進一步驗證\(N\)是正規子羣：\(\forall A\in N,P\in G\)，\(\det(PAP^{-1})=\det(P)\det(A)\det(P^{-1})=\det(A)=1\)，因此\(PNP^{-1}\subseteq N,\forall P\)，所以是正規子羣。