羣(Group)的定義
代數是用字母表示數，是對數的運算與關係研究的一種抽象（抽象即一般化的討論）。在這種抽象下，\(2+3\)、\(12+35\)這類表達式都可以用一個抽象的代數表達式\(x+y\)來描述。這是對運算對象的抽象，可以研究數的性質。如果更一般化地我們對“運算”也進行抽象，例如將\(+\)抽象爲某個一般的運算符號\(\circ\)，就可以研究運算本身的性質。
對於整數集合\(\Z\)和整數的運算符號\(+\)，我們發現了這樣的集合滿足如下幾個性質：兩個整數做加法依然得到整數；整數加法滿足結合律；任何整數和0做加法都得到自身；任意整數都存在相反數。當然，整數加法還滿足交換律等等許多別的性質。但假若我們只抽象出以上四條性質，一般地討論滿足這四條性質集合及其運算， 我們就得到了“羣”(Group)。爲此，我們首先要對整數集合和加法運算做抽象。現在，整數集合抽象爲一個一般的集合\(G\)。加法運算是\(G\)中元素的一個二元函數，對於任意的\(a,b \in G\)都有一個唯一的\(c\)使得\(a+b=c\)，我們把這樣的運算抽象爲符號\(\circ\)，稱爲\(G\)上的一個代數運算。由此給出羣的定義：羣是一個\lang u\rang非空的</u\rang集合\(G\)，在\(G\)上定義了元素的二元運算\(\circ\)，滿足：①封閉性(Closure)，\(\forall a,b\in G,a\circ b \in G\)；②結合律(Associativity)，\(\forall a,b,c,a\circ (b\circ c)=(a\circ b)\circ c\)；③存在單位元(identity)\(e\)使得\(\forall a \in G,a\circ e=e\circ a =a\)；④存在逆元(inverse)，\(\forall a \in G\)總存在\(a^{-1}\in G\)使得\(a \circ a^{-1}=a^{-1}\circ a=e\)。
一些羣的例子
由此可見，\((\Z,+)\)就是一個羣，稱爲“整數加法羣”。如果在羣的定義上附加上交換律成立，就稱爲“阿貝爾羣”（Abelian Group），或稱“交換羣”。\((\Z,+)\)就是一個阿貝爾羣。\((\Z,\cdot)\)不是羣，因爲此時單位元是\(1\)，\(2\)的逆元\(1/2\)並不是整數；\((\Q,\cdot)\)也不是羣，因爲0不存在一個逆元與它相乘等於1。如果去掉0，可以驗證\((\Q^*,\cdot)\)就是一個羣，同時是一個阿貝爾羣。矩陣乘法不滿足交換律，對於確定的\(n\)，以所有\(n\)階實矩陣爲元素，矩陣的乘法爲運算，能得到一個羣，但不是阿貝爾羣。
以上都只討論了元素個數無限的羣。事實上也存在有限的羣。例如只有一個元素的羣\(G=\{e\}\)，定義\(e\circ e=e\)，這就是一個滿足要求的羣。對於任意給定的有限整數\(n\)，可以定義\(G=\{0,1,\cdots,n-1\}\)，定義\(\circ\)是模\(n\)意義下的加法\(+_{\text{mod } n}\)，這就是一個羣\((\Z_n,+)\)。這樣我們就證明了存在任何有限大小的羣。
\((\Z_n,\cdot_{\text{mod } n})\)無法構成羣，因爲單位元是\(1\)，而\(0\)沒有逆元；去掉0，\((\Z_n^*,\cdot)\)也不一定能構成羣，例如\((\Z^*_4,\cdot)\)中\(2\cdot 2=0\)，不封閉。然而我們可以證明，\((\Z^*_p,\cdot)\)一定是羣，也即\(n\)爲素數時羣的性質總是滿足，這恰好是由擴展歐幾里得導出的\(\Z_p^*\)在模\(p\)意義下乘法逆元始終存在的結果。進一步，對於任意的\(n\)，取出所有與\(n\)互素的數（共\(\varphi(n)\)個）也在模\(p\)乘法下構成羣，這也記爲\((\Z_n^*,\cdot)\)：對於任意的與\(n\)互素的\(i,j\)，一定有\(ij\mod n\)與\(n\)互素，不然對於\(ij=kn+r\)有\(gcd(r,n)=d>1\)，那麼\(d\mid ij\)，那麼\(d\)與\(i\)不互素與\(d\)與\(j\)不互素中至少有一個成立，說明\(n\)不可能與\(i,j\)都互素，矛盾。由此封閉性成立。其餘的羣的性質是顯然的。
羣的性質
單位元的唯一的。假設存在兩個不相等的單位元\(e\neq e'\)，那麼根據單位元的定義，因爲\(e'\)是單位元有\(e \circ e'=e'\circ e=e\)，因爲\(e\)是單位元有\(e' \circ e=e\circ e'=e'\)。因此\(e'=e\)，矛盾。
任何一個元素有唯一的逆元。對於任意\(a\)，假設\(a\)有兩個不同的逆元\(b,b'\)。那麼\(b=e\circ b\)，代入\(b'\circ a =e\)，有\(b=(b'\circ a)\circ b\)，根據結合律\(b=b'\circ (a\circ b)\)。而\(a\circ b=e\)，因此\(b=b'\circ e=b'\)，矛盾。由此可見，始終有\((a\circ b)^{-1}=b^{-1}\circ a^{-1}\)。因爲我們可以驗證\((a\circ b)(b^{-1}\circ a^{-1})=(b^{-1}\circ a^{-1})(a\circ b)=e\)，而逆元是唯一的。更一般的，\((a_1\circ \cdots \circ a_n)=a_n^{-1}\circ \cdots \circ a_1^{-1}\)。
消去律成立。\(a\circ b=a\circ c\iff b= c\)。左推右，由於二元運算是函數，因此\(a^{-1}\circ (a\circ b)=a^{-1}\circ (a\circ c)\)，運用結合律即可。右推左，運用二元運算的函數性質即可。同理，\(b\circ a=c\circ a \iff b=c\)。
引入羣上的指數運算。記\(a\circ a=a^2\)，\(a\circ a\circ a=a^3\)以此類推，那麼根據結合律容易證明：\(a^{m+n}=a^m\circ a^n\)，\(a^{mn}=(a^m)^n\)。
羣的等價定義
在羣的定義中，我們要求單位元同時作爲任意元素的左單位元和右單位元，要求任意元素既有左逆又有右逆。事實上我們可以弱化這一條件，只要求任意元素存在左單位元，同時任意元素具有左逆。下面我們證明這兩種定義方式是等價的，於是以後我們就可以用這種簡化了的羣的等價定義了：由原定義推出簡化定義是顯然的，我們只需證明簡化定義可以推出原定義。假設任意元素都有左逆（關於左單位元\(e_L\)），那麼\(\forall a,\exists a'\)使得\(a'\circ a=e_L\)。\(a'\)也有左逆，存在\(a''\)使得\(a''\circ a'=e_L\)。那麼\(a\circ a'=(e_L\circ a) \circ a'=((a''\circ a')\circ a)\circ a'\)，代入\(a'\circ a = e_L\)，根據結合律有\(a''\circ (e_L\circ a')=a''\circ a'=e_L\)。可見\(a\)的左逆同時也是\(a\)的右逆（關於左單位元）。對於任意的\(a\)，假設其逆元爲\(a'\)，那麼\(a\circ e_L=a\circ (a'\circ a)=(a\circ a')\circ a=e_L\circ a=a\)，可見左單位元一定也是右單位元，證畢。綜上，我們得到了一個羣的等價定義：封閉；結合律；存在左單位元；存在左逆。
“存在單位元與存在逆元”與以下條件等價：對於任何\(a,b\in G\)，存在\(x\in G\)使得\(a\circ x=b\)，存在\(y\in G\)使得\(y\circ a=b\)。左推右顯然，只需取\(x=a^{-1}\circ b\)，\(y=b\circ a^{-1}\)。右推左，對於固定的\(a\)，存在\(y_0\)使得\(y_0\circ a=a\)；\(\forall g \in G\)，一定存在\(x_0\in G\)使得\(a\circ x_0=g\)，那麼\(y_0\circ g=y_0\circ (a\circ x_0)=(y_0\circ a)\circ x_0=a\circ x_0=g\)，可見\(y_0\)是左單位元\(e_L\)。而對於任意的\(h \in G\)，根據條件一定存在\(z\in G\)使得\(h\circ z=e_L\)，可見任何元素都存在右逆。而存在左逆和存在左單位元等價於存在逆元和存在單位元。由此可見，羣的另一種等價定義爲：封閉；結合律；對於任何\(a,b\in G\)，存在\(x\in G\)使得\(a\circ x=b\)，存在\(y\in G\)使得\(y\circ a=b\)。
對於<u\rang有限</u\rang羣，我們注意到這樣一條性質：設\(G=\{g_1,\cdots,g_n\}\)，定義函數\(f_a(g_i)=a\circ g_i\)，如果左消去律成立，也即如果成立\(a\circ g_i=a\circ g_j\implies g_i=g_j\)，那麼其逆否命題告訴我們\(g_i\neq g_j\implies a \circ g_i \neq a\circ g_j\)，也即\(f_a\)是單射。而羣的運算是封閉的，因此\(f_a\)必然是雙射，\(\{a\circ g_i\}\)是\(\{g_i\}\)的一個permutation。這直接能夠說明對於任意的\(a,b\in G\)，\(a\circ x=b\)都是有根的。同理，右消去律能推出\(y\circ a=b\)有根。而左右消去律本身就是（有限）羣的性質。因此對於有限羣，我們可以把\(a\circ x=b,y\circ a=b\)這一等價定義修改爲左消去律與右消去律成立。有限羣的等價定義爲：封閉；結合律；左消去律；右消去律。注意，在這裏有限很重要。一個無限集合僅滿足封閉、結合律和左右消去律並不一定能構成羣，以\((\N,+)\)爲例，滿足左右消去律，但是任何\(n>0\)都不存在逆元。體現在證明中，一個無限域上的單射並不能推出雙射，因此不能沿用剛纔的證明。
子羣(Subgroup)
如果羣\(G\)的一個非空子集\(H\)也是一個羣，就稱\(H\)是\(G\)的子羣，記爲\(H \preceq G\)。如果\(H \neq G\)，則稱\(H\)是\(G\)的真子羣，記爲\(H \prec G\)。僅由單位元構成的羣\(\{e\}\)一定是\(G\)的子羣，\(G\)本身也永遠是\(G\)的子羣。
下面定義在代數運算\(\circ\)下集合的乘積(product)和逆(inverse)。對於\(A,B\)，定義\(A\circ B:=\{a\circ b\mid a\in A,b\in B\}\)。定義\(A^{-1}:=\{a^{-1}\mid a \in A\}\)。
子羣的等價定義
對於\(G\)的非空子集\(H\)，\(H\preceq G\iff H\circ H \subseteq H\and H^{-1}\subseteq H\)。左推右：因爲\(H\)是封閉的，因此其中任意兩個元素運算後仍落在\(H\)中，因此\(H\circ H \subseteq H\)；因爲\(H\)中每個函數都有落在\(H\)中的逆元，因此\(H^{-1}\subseteq H\)。右推左：\(H\circ H \subseteq H\)意味着\(H\)中的元素關於代數運算封閉；\(H\)的結合律直接繼承\(G\)的結合律；對於任意\(h\in H\)，因爲\(H^{-1}\subseteq H\)，因此\(h^{-1}\in H\)，因此每個元素都在\(H\)中有逆元，且\(h\circ h^{-1}\)就是單位元，它落在\(H\circ H\)中，因此也落在\(H\)中。
我們加強這一等價定義，證明\(H\circ H \subseteq H \and H^{-1}\subseteq H\iff H\circ H=H\and H^{-1}=H\)。右推左顯然。左推右，根據定義\(H\circ H = \bigcup\limits_{h \in H}h\circ H\)，因此\(e\circ H \subseteq H\circ H\)。而\(e\circ H=H\)，且\(H\circ H \subseteq H\)，因此\(H \subseteq H\circ H \subseteq H\)，因此\(H=H\circ H\)；已知\(H^{-1}\subseteq H\)，根據逆元的唯一性兩邊同時取逆包含關係依然成立，因此\((H^{-1})^{-1}\subseteq H^{-1}\)，也即\(H\subseteq H^{-1}\)，因此\(H^{-1}\subseteq H \subseteq H^{-1}\)，因此\(H=H^{-1}\)。
另一個子羣的等價定義寫作：\(H\preceq G \iff\forall a,b\in H,a\circ b^{-1}\in H\)。我們驗證羣的定義的四條性質（結合律可以不用驗證）：取\(a\in H,a\in H\)，有\(a\circ a^{-1}=e\in H\)，因此存在單位元；取\(e\in H,a\in H\)，有\(e\circ a^{-1} = a^{-1}\in H\)，因此存在逆元；取\(a\in H,b\in H\)，則\(b^{-1}\in H\)，因此有\(a\circ (b^{-1})^{-1}=a\circ b \in H\)，因此封閉。證畢。同理也可以證明該定義等價於\(\forall a,b \in H,a^{-1}\circ b \in H\)。
子羣的交與並
設\(H_1,H_2\preceq G\)，如果\(H_1\subseteq H_2\)或\(H_2\subseteq H_1\)，那麼顯然\(H_1\cup H_2\preceq G\)。現在我們要證明，如果不存在這樣的包含關係，即存在\(h_1 \in H_1\and h_1 \not\in H_2\)且\(h_2 \in H_2\and h_2 \not\in H_1\)，那麼一定有\(H_1\cup H_2 \not \preceq G\)。證明如下：假設\(H_1\cup H_2 \preceq G\)，那麼一定有\(h_1\circ h_2 \in H_1\cup H_2\)。如果\(h_1 \circ h_2 \in H_1\)，也即存在\(h_1'\in H_1\)使得\(h_1\circ h_2=h_1'\)，那麼\(h_2=h_1'\circ h_1^{-1}\)，而\(h_1' \in H_1\)，\(h_1^{-1}\in H_1\)，因此\(h_2=h_1'\circ h_1^{-1} \in H_1\)，矛盾；同理\(h_1\circ h_2 \in H_2\)也不成立，因此\(H_1\cup H_2\not\preceq G\)。
容易證明，如果\(H_1,H_2\preceq G\)，那麼\(H_1\cap H_2 \preceq G\)。驗證四條性質即可。
羣的同構(Isomorphism)
定義羣\((G_1,\cdot)\)和\((G_2,\circ)\)同構，如果存在\(G_1,G_2\)的雙射\(f\)滿足\(\forall a,b\in G_1\)，\(f(a\cdot b)=f(a)\circ f(b)\)。記爲\((G_1,\cdot)\cong (G_2,\circ)\)。它直觀上說明了羣的代數運算決定了羣的性質，如果兩個羣的元素一一對應，並且當\(a\cdot b=c\)時也一定同時有\(f(a)\circ f(b)=f(c)\)，這兩個羣的性質就是本質相同的。例如，\((\R,+)\cong (\R^+,\cdot)\)，因爲可以構造指數運算\(f(x)=2^x\)，\(2^{a+b}=2^a\cdot 2^b\)，這表明在封閉、結合律、單位元和逆元的意義下，實數加法的代數結構本質上是和指數乘法的代數結構相同的。
容易證明，如果\((G_1,\cdot)\cong (G_2,\circ)\)，那麼對於雙射\(f\)，單位元和逆總是滿足\(f(e_1)=e_2,f(a^{-1})=f(a)^{-1}\)。