陪集(Coset)
在Cayley定理的證明中，以及在證明對稱羣中奇置換與偶置換數量相等時，我們都用到了羣的這樣一個性質：如果以羣\(G\)中的任意一個特定元素\(g\in G\)來產生一個映射\(G\to G:f(x)=g\circ x\)，則\(f\)一定是單射。這本質上緣於羣具有“消去律”的性質。如果\(G\)是有限的，我們進一步得知\(f\)是雙射，也即“左乘\(g\)”實際上給出了一個permutation。這個性質是如此重要，以至於我們要從它出發更深入地討論羣的性質。
陪集的定義
對於\(G\)的一個子羣\(H\)，每個\(g\in G\)我們都可以定義\(H\to G\)的映射\(f_g(x)=g\circ x\)，這依然是一個單射，因爲消去律成立。對於給定的\(H\)，不同的\(g\)就給出了不同的單射，單射的像一定落在\(G\)中（封閉性），構成\(G\)的一個子集。因此對於每個\(g\)我們都可以給出一個像集，我們稱之爲由\(g\)生成的\(H\)的左陪集(left coset)：\(gH=\{g\circ h\mid h\in H\}\)。同樣的，也可以定義右陪集\(Hg\)。從下面開始我們只討論左陪集，因爲右陪集的性質是完全相同的。例如，令\(G=(\Z,+)\)，對於特定的正整數\(k\)，\(G\)有子羣\(H=(k\Z,+)\)。那麼\(0,1,2,\cdots,k-1\)都會生成互不相同的\(H\)的陪集（由於是阿貝爾羣，左陪集等於右陪集），\(k\)生成的陪集與\(0\)相同。因此我們說\(H\)有\(k\)個不同的陪集。
我們已經知道，對於有限集\(f\)是雙射。因此如果\(H\)是有限羣，一定成立\(|H|=|gH|\)。有限子羣的陪集大小一定與子羣本身大小相等。
Lagrange定理
從整數加法羣的例子中我們注意到這樣一件巧合的事實：每一個不同的陪集間都互不相交，並且所有陪集並起來恰好得到了\(G\)。換言之，陪集構成了\(G\)的一個partition。是不是所有羣的陪集都滿足這樣的性質呢？我們來證明的確是這樣的。首先我們來驗證，不同的陪集之間是互不相交的。設\(a,b\in G\)，\(b\in aH\)，也即存在\(h\in H\)使得\(ah=b\)，那麼對於所有的\(h'\in H\)都成立\(bh'=ahh'\in aH\)，這說明\(bH\subseteq aH\)；同時，對於所有的\(h'\in H\)都成立\(ah'=bh^{-1}h'\in bH\)，這說明\(aH\subseteq bH\)。因此\(aH=bH\)。也就是說，\(aH\)中的每個元素\(b\)生成的陪集都必定是\(aH\)本身。反之，假設對於\(a,b\in G\)已知\(aH=bH\)，那麼由於\(H\)中有單位元，\(b\in bH=aH\)，對稱的也有\(a\in bH\)。這說明\(aH=bH\)與\(b\in aH\)（或\(a\in bH\)）是當且僅當的，一個陪集中的任何一個元素都可以充當生成元而不改變任何事情。現在假設對於\(a,b\in G\)，\(aH\)與\(bH\)的交集是非空的，也即存在\(c\in G\)使得\(c\in aH\)且\(c\in bH\)。那麼存在\(h_1\in H\)使得\(c=ah_1\)，存在\(h_2\in H\)使得\(c=bh_2\)。那麼\(ah_1=bh_2\)，也即\(a(h_1h_2^{-1})=b\)。而\(h_1h_2^{-1}\in H\)，這說明\(b\in aH\)，等價於\(aH=bH\)。所以我們證明了，只要兩個陪集有交，那麼這兩個陪集必須相等！現在我們令\(g\)遍歷\(G\)中的所有元素，由於每個\(g\)本身肯定包含在\(gH\)中，因此所有可能的\(gH\)並起來一定會得到全集\(G\)。而不同的\(gH\)間又互不相交。所以陪集的確構成了\(G\)上的一個partition！
可以驗證（並且根據對稱性顯然），左陪集的數量（如果是無窮則考慮集合的勢）與右陪集的數量相等。因爲我們可以構造左陪集集合到右陪集集合的雙射\(\psi(aH)=Ha^{-1}\)：如果\(Ha^{-1}=Hb^{-1}\)，那麼\(b^{-1}\in Ha^{-1}\)，也即存在\(h\in H\)使得\(b^{-1}=ha^{-1}\)，也即\(a=bh\)，那麼\(a\in bH\)，等價於\(aH=bH\)，因此是單射。同時，\(a^{-1}\)取遍所有\(G\)中元素，因此是滿射。
陪集構成partition這一事實可以理解爲，我們用陪集給出了\(G\)上的一個等價類，一個陪集\(gH\)中的所有元素就被看爲“等價的”，因爲我們確實容易驗證這種關係是自反、傳遞、對稱的。更具體的，由陪集給出的等價類定義了一個自然映射\(\pi:G\to G/H\)，其中\(G/H\)定義爲\(\{gH\mid g \in G\}\)，它是所有不同陪集構成的集合。\(\pi(g)=gH\)。（右陪集集合則記爲\(G\backslash H\)）。現在，對於有限羣\(G\)，每個陪集的大小都相等且爲\(|H|\)，所以我們直接得到不同的陪集個數必定爲\(\dfrac{|G|}{|H|}\)。這稱爲Lagrange定理：記有限羣\(G\)中子羣\(H\)的不同陪集個數爲\([G:H]\)，稱爲\(H\)在\(G\)中的index(指數)，則\(|G|=[G:H]\cdot |H|\)。在\(G/H\)中，“除號”形象地體現出了這種如同整數除法一樣的對集合的劃分，我們通常把\(G/H\)稱爲商集(Quotient Set)。
Lagrange定理像我們揭示了有限羣的很重要的一個性質：任何子羣的大小都必須是\(G\)的大小的約數！這爲我們理解子羣的性質提供了大量的便利。
在循環羣上的應用
現在我們知道對於有限羣\(G\)，其元素\(a\in G\)生成的循環羣\(\lang a\rang\)既然是\(G\)的一個子羣，其大小就一定是\(|G|\)的約數。假如\(|G|\)是素數，那麼其約數只有\(1\)或\(|G|\)本身。取\(G\)中任何一個非單位元作爲生成元生成一個循環羣，這個羣一定是不止一階的，那麼它只能是\(|G|\)階的。那麼，這個循環羣就是\(G\)本身了！也就是說，\(G\)是一個循環羣，並且除了單位元以外所有元素都可以作爲生成元。任何素階羣都一定是循環羣！
Lagrange定理的另一個重要的結論就是數論上的Euler定理，它的本質就是作爲子羣的循環羣。我們驗證過\((\Z_n^*,\cdot)\)是羣（\(\Z_n^*\)中的元素是\(1\)到\(n-1\)中所有與\(n\)互質的數，共\(\varphi(n)\)個）。那麼取任意一個與\(n\)互質的數\(a\)，\(a\)在模\(n\)意義下一定與\(\Z_n^*\)中的一個元素對應（如果不能則說明\(a-kn\)有\(n\)的因子，與\(gcd(a,n)=1\)矛盾）。所以我們不妨假設\(1\leq a<n\)。那麼\(\lang a\rang\)構成了\(\Z_n^*\)的一個子羣，根據Lagrange定理其大小一定是\(\varphi(n)\)的約數。那麼此時必定成立\(a^{\varphi(n)}\equiv 1\pmod n\)。這就是Euler定理的全部內容了。取\(n\)爲素數\(p\)，此時\(\varphi(p)=p-1\)。那麼得到推論\(a^{p-1}\equiv 1\pmod p\)，這就是Fermat小定理。Euler定理是密碼學中RSA算法的核心。具體見大一下的算法內容數的算法。
正規子羣(Normal Groups)
我們已經看到通過陪集，我們把全集\(G\)分成了若干個等價類。這些等價類構成了商集\(G/H\)。我們現在要追問，\(G/H\)本身能否構成一個羣呢？也就是說，何時我們能由子羣\(H\)得到商羣(Quotient Subgroup)\(G/H\)？要能構成羣，我們首先要定義一個陪集與陪集間的代數運算。這裏，我們回憶起在給出子羣的等價定義時，我們定義過在羣的代數運算\(\circ\)下集合的乘積與逆，並證明了\(H\preceq G\)\(\iff H\circ H \subseteq H\and H^{-1}\subseteq H\)\(\iff H\circ H=H\and H^{-1}=H\)。我們看到，陪集只是單個元素構成的集合的乘積。爲了討論商羣，我們要更深入地研究一下這種集合間的乘積運算。
首先，這種乘積運算是有結合律的。對於集合\(A,B,C\)，始終滿足\((AB)C=A(BC)\)。這實際上正是羣的運算\(\circ\)的結合律的直接結果。
另一個問題是乘積運算能否保子羣的性質？如果\(H\preceq G,K\preceq G\)，是否成立\(HK\preceq G\)？下面我們證明，這是需要額外條件的：\(HK\preceq G\iff HK=KH\)。左推右，因爲\(HK\)是子羣，根據等價定義得到\((HK)^{-1}=HK\)，而\((HK)^{-1}=K^{-1}H^{-1}\)，而\(H,K\)都是子羣，因此等於\(KH\)；右推左，\((HK)^{-1}=K^{-1}H^{-1}=KH=HK\)，同時\((HK)(HK)=H(KH)K\)\(=H(HK)K=(HH)(KK)=HK\)，因此\(HK\preceq G\)。（我們注意到，如果\(G\)本身就是阿貝爾羣，那麼\(HK=KH\)是顯然成立的，在這種情形下\(HK\)總是\(G\)的子羣。但反過來\(HK=KH\)並不能推出\(G\)是交換羣。另外我們還注意到，任何一個包含\(H\)中所有元素且包含\(K\)中所有元素的子羣都必須包含\(HK\)中的所有元素，因此如果\(HK\preceq G\)，那麼\(HK\)就是包含\(H\)和\(K\)的最小子羣了，也即此時\(HK\)是\(H\cup K\)生成的子羣。）
現在我們開始討論陪集與陪集的乘積。對於\(H\preceq G\)，要能得到商羣，我們希望陪集與陪集的乘積依然是陪集。然而這並不是對任意\(H\)都能滿足的。對於\(a,b\in G\)，一定有\(ab \in (aH)(bH)\)。如果\((aH)(bH)\)是陪集，那陪集作爲等價類意味着它一定只能是\((ab)H\)。下面我們證明，如果要能使得對於任意的\(a,b\in G\)都滿足\((aH)(bH)=abH\)， 當且僅當\(\forall c \in G,cH=Hc\)：右推左，\((aH)(bH)=\)\(a(Hb)H=a(bH)H=ab(HH)=abH\)；左推右，\(\forall c\)，\((cH)(c^{-1}H)=(cc^{-1})H=H\)。而\(\forall c,cHc^{-1}\subseteq cHc^{-1}H=H\)，因爲\(H\)裏含有單位元。\(cHc^{-1}\subseteq H\)展開，等價於\(\forall h\in H,\exists h'\in H\)使得\(chc^{-1}=h'\)，這等價於\(h=c^{-1}h'c\)，也即\(\forall h \in H,h\in c^{-1}Hc\)。也即\(H\subseteq c^{-1}Hc,\forall c\)。對於任意固定的\(c\)，\(cHc^{-1}\subseteq H\)，取\(c'=c^{-1}\)，有\(H\subseteq c'^{-1}Hc'=cHc^{-1}\)，因此\(H=cHc^{-1},\forall c\)。兩個相等的集合有相同的關於\(c\)的右陪集，因此\(Hc=cH,\forall c\)。
換言之，要使得\(H\)的陪集在乘積作用下保持陪集性質，它必須是一個不區分左右陪集的子羣。只有具有這樣良好的性質，我們纔可能定義商羣\(G/H\)。我們特別把這類特殊的子羣\(H\)稱爲\(G\)的正規子羣(Normal Subgroup)，記爲\(H\unlhd G\)。如果\(H\)是\(G\)的正規真子羣，則記爲\(H\lhd G\)。\(H\)是\(G\)的正規子羣當且僅當\(\forall c\in G,cH=Hc\)。這一條件有很多等價的表達方式，我們可以驗證\(cH=Hc,\forall c\)\(\iff cHc^{-1}=H,\forall c\)\(\iff cHc^{-1}\subseteq H,\forall c\iff H\)的每個左陪集都是某個\(H\)的右陪集\(\iff H\)的每個右陪集都是某個\(H\)的左陪集。其中，前三條我們在剛纔的證明中實際上已經證明了，第四條證明如下：由第一條推第四條顯然；反過來，已知\(\forall c,\exists c'\)使得\(cH=Hc'\)，那麼\(\forall \hat c \in cH\)，則\(cH=\hat c H\)。而\(\hat c \in Hc'\)，因此\(Hc'=H\hat c\)。那麼\(\hat cH=H\hat c\)。由於\(c\)可以取任意元素，因此\(\hat c\)一定也可以取遍任意元素，證畢。第五條同理。
那麼我們就來驗證對於正規子羣\(N\unlhd G\)，\(G/N=\{gN\mid g \in G\}\)關於集合的乘積運算是羣。根據正規子羣的定義，封閉性成立；結合律已經驗證過了；商羣中陪集的單位元就是\(G\)的單位元的陪集；陪集的逆就是生成元的逆的陪集。綜上，正規子羣的商集的確構成了羣（商羣）。作爲一個例子，我們可以取\(G\)爲\(n\)階可逆方陣構成的集合，\(N\)取\(n\)階的行列式爲1的矩陣的集合。容易驗證\(N\)是子羣，而我們可以進一步驗證\(N\)是正規子羣：\(\forall A\in N,P\in G\)，\(\det(PAP^{-1})=\det(P)\det(A)\det(P^{-1})=\det(A)=1\)，因此\(PNP^{-1}\subseteq N,\forall P\)，所以是正規子羣。
同態(Homomorphism)
現在我們能夠更深刻地理解“羣”到底描述了什麼。對於一個給定的集合，以及一個二元關係，每當我們拿出羣裏的兩個元素我們總能確定是羣裏的哪個元素通過“運算”這一方式與這兩個元素聯繫在一起。如果我們拋開羣中每個元素的具體名字不看，元素個數與這種由每兩個元素之間的唯一確定第三個元素的方式就是一個羣描述的全部信息。所以我們定義了羣與羣的同構，同構恰好描述了元素的個數以及元素間跳轉的方式在這兩個羣裏是完全相同的。
所以當我們可以用同構來描述兩個羣之間的關係時，說明這兩個羣除了元素的具體命名方式不同以外沒有任何區別。它們幾乎是完全相等的，換言之同構的要求是非常高的。有沒有不那麼嚴格一些地描述兩個羣之間結構的相似性的刻畫呢？下面我們引入稱爲“同態”(Homomorphism)的定義。稱\(f:G\to G'\)是羣\((G,\cdot)\)與\((G',\circ)\)之間的同態映射，如果\(\forall a,b\in G\)，\(f(a\cdot b)=f(a)\circ f(b)\)。我們發現，同態與同構的定義很類似，都要求映射保運算。只不過在同態映射中，我們不要求\(f\)在\(G\)與\(G'\)之間形成雙射，只需要是任何一個普通的映射就好了。同構是一種非常特殊的同態，同態是更廣義的同構。同態的這種保運算的性質使得我們能繼承同構中得到的一些不依賴於雙射的結論，例如\(f(e_G)=e_{G'}\)，\(f(a^{-1})=f(a)^{-1}\)等。
那麼同態是如何刻畫兩個羣之間結構的相似性的？結論是，我們只需關注同態映射\(f\)將多少不同的\(G\)中的元素映射到了\(G'\)的單位元\(e_{G'}\)上。這樣的元素越多，相似性就越差。極端地，如果\(f\)把所有元素都映射到了單位元，那麼顯然保運算的性質永遠滿足，它確實是一個同態映射。但這種同態映射沒有爲羣的結構相似性提供任何有幫助的信息。下面我們要嚴格地來描述這一點。
我們首先把映射到\(e_{G'}\)的集合嚴格地描述出來。定義同態映射\(f\)的kernel(核)爲\(\ker f=\{a\in G\mid f(a)=e_{G'}\}\)。我們發現，\(\ker f\)構成了\(G\)的一個正規子羣！首先，\(\ker f\)是子羣，因爲根據子羣的等價定義，我們能夠證明\(\forall a,b\in \ker f\)，\(f(a\cdot b^{-1})=f(a)\circ f(b)^{-1}=e_{G'}\)，因此\(a\cdot b^{-1}\in \ker f\)。進一步，\(\forall c \in G\)，\(c(\ker f)c^{-1}\subseteq\ker f\)，因爲\(\forall d\in \ker f\)，\(f(cdc^{-1})=f(c)\circ f(d)\circ f(c)^{-1}\)\(=f(c)\circ f(c)^{-1}=e_{G'}\)。（在羣到其一個商羣的自然映射\(\pi:G\to G/N\)中，\(\pi\)本身就是一個同態映射，因爲\(\pi(a)\pi(b)=aNbN=(ab)N=\pi(ab)\)。我們稱\(\pi\)爲自然同態(Natural Homomorphism)。其中，\(\pi(g)=N\)當且僅當\(g\in N\)，而\(N\)是\(G/N\)的單位元。因此\(N\)就是\(\pi\)的kernel。）
我們還要引入一些術語。如果同態映射\(f\)同時是一個單射，那麼就稱\(f\)爲單同態(Monomorphism)映射。相應的，如果\(f\)是滿射，就稱之爲滿同態(Epimorphism)。\(f\)是雙射則直接稱爲同構(Isomorphism)。類似我們定義過集合到其本身的同構爲自同構(Automorphism)，集合到其本身的同態稱爲自同態(Endomorphism)。下面我們證明，\(f\)是單同態當且僅當\(\ker f=\{e_{G'}\}\)：左推右顯然；右推左，若\(f(a)=f(b)\)，則\(f(a)^{-1}=f(b)^{-1}\)，因此\(f(a)\circ f(a)^{-1}=e_{G'}=f(a)\circ f(b)^{-1}=f(a\cdot b^{-1})\)，因此\(a\cdot b^{-1}=e_G\)，也即\(a=b\)。這再次反映出了\(\ker f\)能描述同構的清晰程度。