什麼是字符集
在介紹字符集之前，我們先了解下爲什麼要有字符集。我們在計算機屏幕上看到的是實體化的文字，而在計算機存儲介質中存放的實際是二進制的比特流。那麼在這兩者之間的轉換規則就需要一個統一的標準，否則把我們的U盤查到老闆的電腦上文檔就亂碼了，小夥伴QQ上傳過來的文件在我們本地打開又亂碼了。(PS：這裏科普下亂碼的英文native說法是mojibake）。於是爲了實現轉換標準，各種字符集標準就出現了。簡單的說字符集就規定了某個文字對應的二進制數字存放方式（編碼）和某串二進制數值代表了哪個文字（解碼）的轉換關係。
那麼爲什麼會有那麼多字符集標準呢？這個問題實際非常容易回答。問問自己爲什麼我們的插頭拿到英國就不能用了呢？爲什麼顯示器同時有DVI，VGA，HDMI，DP這麼多接口呢？很多規範和標準在最初制定時並不會意識到這將會是以後全球普適的準則，或者處於組織本身利益就想從本質上區別於現有標準。於是，就產生了那麼多具有相同效果但又不相互兼容的標準了。
說了那麼多我們來看一個實際例子，下面就是屌這個字在各種編碼下的十六進制和二進制編碼結果，怎麼樣有沒有一種很屌的感覺？
字符集 16進制編碼
UTF-8 0xE5B18C
UTF-16 0x5C4C
GBK 0x8CC5
什麼是字符編碼
字符集只是一個規則集合的名字，對應到真實生活中，字符集就是對某種語言的稱呼。例如：英語，漢語，日語。而如何用英語來表達你狠屌的意思就是英語詞法語法所需要具體描述的內容了。而對於一個字符集來說要正確編碼轉碼一個字符需要三個關鍵元素：字庫表（character repertoire）、編碼字符集（coded character set）、字符編碼（character encoding form）。其中字庫表是一個相當於所有可讀或者可顯示字符的數據庫，字庫表決定了整個字符集能夠展現表示的所有字符的範圍。編碼字符集，即用一個編碼值code point來表示一個字符在字庫中的位置。字符編碼，將編碼字符集和實際存儲數值之間的轉換關係。一般來說都會直接將code point的值作爲編碼後的值直接存儲。例如在ASCII中A在表中排第65位，而編碼後A的數值是0100 0001也即十進制的65的二進制轉換結果。
看到這裏，可能很多讀者都會有和我當初一樣的疑問：字庫表和編碼字符集看來是必不可少的，那既然字庫表中的每一個字符都有一個自己的序號，直接把序號作爲存儲內容就好了。爲什麼還要多此一舉通過字符編碼把序號轉換成另外一種存儲格式呢？其實原因也比較容易理解：統一字庫表的目的是爲了能夠涵蓋世界上所有的字符，但實際使用過程中會發現真正用的上的字符相對整個字庫表來說比例非常低。例如中文地區的程序幾乎不會需要日語字符，而一些英語國家甚至簡單的ASCII字庫表就能滿足基本需求。而如果把每個字符都用字庫表中的序號來存儲的話，每個字符就需要3個字節（這裏以Unicode字庫爲例），這樣對於原本用僅佔一個字符的ASCII編碼的英語地區國家顯然是一個額外成本（存儲體積是原來的三倍）。算的直接一些，同樣一塊硬盤，用ASCII可以存1500篇文章，而用3字節Unicode序號存儲只能存500篇。於是就出現了UTF-8這樣的變長編碼。在UTF-8編碼中原本只需要一個字節的ASCII字符，仍然只佔一個字節。而像中文及日語這樣的複雜字符就需要2個到3個字節來存儲。
字符編碼方式
ASCII碼
我們知道，計算機內部，所有信息最終都是一個二進制值。每一個二進制位（bit）有0和1兩種狀態，因此八個二進制位就可以組合出256種狀態，這被稱爲一個字節（byte）。也就是說，一個字節一共可以用來表示256種不同的狀態，每一個狀態對應一個符號，就是256個符號，從00000000到11111111。
上個世紀60年代，美國製定了一套字符編碼，對英語字符與二進制位之間的關係，做了統一規定。這被稱爲 ASCII 碼，一直沿用至今。
ASCII 碼一共規定了128個字符的編碼，比如空格SPACE是32（二進制00100000），大寫的字母A是65（二進制01000001）。這128個符號（包括32個不能打印出來的控制符號），只佔用了一個字節的後面7位，最前面的一位統一規定爲0。
非ASCII碼
英語用128個符號編碼就夠了，但是用來表示其他語言，128個符號是不夠的。比如，在法語中，字母上方有注音符號，它就無法用 ASCII 碼錶示。於是，一些歐洲國家就決定，利用字節中閒置的最高位編入新的符號。比如，法語中的é的編碼爲130（二進制10000010）。這樣一來，這些歐洲國家使用的編碼體系，可以表示最多256個符號。
但是，這裏又出現了新的問題。不同的國家有不同的字母，因此，哪怕它們都使用256個符號的編碼方式，代表的字母卻不一樣。比如，130在法語編碼中代表了é，在希伯來語編碼中卻代表了字母Gimel (ג)，在俄語編碼中又會代表另一個符號。但是不管怎樣，所有這些編碼方式中，0–127表示的符號是一樣的，不一樣的只是128–255的這一段。
至於亞洲國家的文字，使用的符號就更多了，漢字就多達10萬左右。一個字節只能表示256種符號，肯定是不夠的，就必須使用多個字節表達一個符號。比如，簡體中文常見的編碼方式是 GB2312，使用兩個字節表示一個漢字，所以理論上最多可以表示 256 x 256 = 65536 個符號。
中文編碼的問題需要專文討論，這篇筆記不涉及。這裏只指出，雖然都是用多個字節表示一個符號，但是GB類的漢字編碼與後文的 Unicode 和 UTF-8 是毫無關係的。
Unicode
正如上一節所說，世界上存在着多種編碼方式，同一個二進制數字可以被解釋成不同的符號。因此，要想打開一個文本文件，就必須知道它的編碼方式，否則用錯誤的編碼方式解讀，就會出現亂碼。爲什麼電子郵件常常出現亂碼？就是因爲發信人和收信人使用的編碼方式不一樣。
可以想象，如果有一種編碼，將世界上所有的符號都納入其中。每一個符號都給予一個獨一無二的編碼，那麼亂碼問題就會消失。這就是 Unicode，就像它的名字都表示的，這是一種所有符號的編碼。
Unicode 當然是一個很大的集合，現在的規模可以容納100多萬個符號。每個符號的編碼都不一樣，比如，U+0639表示阿拉伯字母Ain，U+0041表示英語的大寫字母A，U+4E25表示漢字嚴。具體的符號對應表，可以查詢unicode.org，或者專門的漢字對應表。
需要注意的是，Unicode 只是一個符號集，它只規定了符號的二進制代碼，卻沒有規定這個二進制代碼應該如何存儲。
比如，漢字嚴的 Unicode 是十六進制數4E25，轉換成二進制數足足有15位（100111000100101），也就是說，這個符號的表示至少需要2個字節。表示其他更大的符號，可能需要3個字節或者4個字節，甚至更多。
這裏就有兩個嚴重的問題，第一個問題是，如何才能區別 Unicode 和 ASCII ？計算機怎麼知道三個字節表示一個符號，而不是分別表示三個符號呢？第二個問題是，我們已經知道，英文字母只用一個字節表示就夠了，如果 Unicode 統一規定，每個符號用三個或四個字節表示，那麼每個英文字母前都必然有二到三個字節是0，這對於存儲來說是極大的浪費，文本文件的大小會因此大出二三倍，這是無法接受的。
它們造成的結果是：1）出現了 Unicode 的多種存儲方式，也就是說有許多種不同的二進制格式，可以用來表示 Unicode。2）Unicode 在很長一段時間內無法推廣，直到互聯網的出現。
UTF-8
互聯網的普及，強烈要求出現一種統一的編碼方式。UTF-8 就是在互聯網上使用最廣的一種 Unicode 的實現方式。其他實現方式還包括 UTF-16（字符用兩個字節或四個字節表示）和 UTF-32（字符用四個字節表示），不過在互聯網上基本不用。重複一遍，這裏的關係是，UTF-8 是 Unicode 的實現方式之一。
UTF-8 最大的一個特點，就是它是一種變長的編碼方式。它可以使用1~4個字節表示一個符號，根據不同的符號而變化字節長度。
UTF-8 的編碼規則很簡單，只有二條：
1）對於單字節的符號，字節的第一位設爲0，後面7位爲這個符號的 Unicode 碼。因此對於英語字母，UTF-8 編碼和 ASCII 碼是相同的。
2）對於n字節的符號（n > 1），第一個字節的前n位都設爲1，第n + 1位設爲0，後面字節的前兩位一律設爲10。剩下的沒有提及的二進制位，全部爲這個符號的 Unicode 碼。
字符集只是一個規則集合的名字，
字符集 = 字庫表（character repertoire）、編碼字符集（coded character set）、字符編碼（character encoding form）。
2、字庫表：
字庫表是一個相當於所有可讀或者可顯示字符的數據庫，字庫表決定了整個字符集能夠展現表示的所有字符的範圍。
3、編碼字符集：（簡稱字符集，如Unicode、ASCII）
編碼字符集，用一個編碼值code point來表示一個字符（即該字符在子庫表中的位置），這個值稱爲字符對應於編碼字符集（如：Unicode、ASCII）的序號。
4、字符編碼：
字符編碼，是編碼字符集和實際存儲數值之間的轉換關係。字符，是根據字符編碼方案轉換爲一個二進制數值存儲在計算機中的。
所以，字符編碼是定義在字符集上的映射規則。（字符-------->計算機中的實際存儲值）
注意：編碼字符集Unicode，有UTF-8、UTF-16、UTF-32等多種字符編碼
編碼字符集ASCII,本身就是編碼字符集，又是字符編碼
編碼字符集CB2312，只有EUC-CN一種字符編碼