哈夫曼（huffman）樹和哈夫曼編碼

哈夫曼樹

哈夫曼樹也叫最優二叉樹（哈夫曼樹）   

問題：什麼是哈夫曼樹？

例：將學生的百分制成績轉換爲五分製成績：≥90 分: A，80～89分: B，70～79分: C，60～69分: D，＜60分: E。

    if (a < 60){
        b = 'E';
    }
    else if (a < 70) {
        b = ‘D’;
    }
    else if (a<80) {
        b = ‘C’;
    }
    else if (a<90){
        b = ‘B’;
    }
    else {
      b = ‘A’;
    }

判別樹：用於描述分類過程的二叉樹。

如果每次輸入量都很大，那麼應該考慮程序運行的時間

如果學生的總成績數據有10000條，則5％的數據需 1 次比較，15％的數據需 2 次比較，40％的數據需 3 次比較，40％的數據需 4 次比較，因此 10000 個數據比較的

次數爲：  10000 (5％＋2×15％＋3×40％＋4×40％)＝31500次

此種形狀的二叉樹，需要的比較次數是：10000 (3×20％＋2×80％)＝22000次，顯然：兩種判別樹的效率是不一樣的。

問題：能不能找到一種效率最高的判別樹呢? 

那就是哈夫曼樹

回憶樹的基本概念和術語

路徑：若樹中存在一個結點序列k1,k2,…,kj，使得ki是ki+1的雙親，則稱該結點序列是從k1到kj的一條路徑。

路徑長度：等於路徑上的結點數減1。

結點的權：在許多應用中，常常將樹中的結點賦予一個有意義的數，稱爲該結點的權。

結點的帶權路徑長度：是指該結點到樹根之間的路徑長度與該結點上權的乘積。

樹的帶權路徑長度：樹中所有葉子結點的帶權路徑長度之和，通常記作：

其中，n表示葉子結點的數目，wi和li分別表示葉子結點ki的權值和樹根結點到葉子結點ki之間的路徑長度。

赫夫曼樹（哈夫曼樹，huffman樹）定義：

在權爲w1,w2,…,wn的n個葉子結點的所有二叉樹中，帶權路徑長度WPL最小的二叉樹稱爲赫夫曼樹或最優二叉樹。

例：有4 個結點 a, b, c, d，權值分別爲 7, 5, 2, 4，試構造以此 4 個結點爲葉子結點的二叉樹。

WPL=7´2+5´2+2´2+4´2= 36

WPL=7´3+5´3+2´1+4´2= 46

WPL=7´1+5´2+2´3+4´3= 35 

WPL=7´1+5´2+2´3+4´3= 35 

後兩者其實就是最有二叉樹（也就是哈夫曼樹）

哈夫曼樹的構造(哈夫曼算法)

1.根據給定的n個權值{w1,w2,…,wn}構成二叉樹集合F={T1,T2,…,Tn},其中每棵二叉樹Ti中只有一個帶權爲wi的根結點,其左右子樹爲空.

2.在F中選取兩棵根結點權值最小的樹作爲左右子樹構造一棵新的二叉樹,且置新的二叉樹的根結點的權值爲左右子樹根結點的權值之和.

3.在F中刪除這兩棵樹,同時將新的二叉樹加入F中.

4.重複2、3,直到F只含有一棵樹爲止.(得到哈夫曼樹)

例：有4 個結點 a, b, c, d，權值分別爲 7, 5, 2, 4，構造哈夫曼樹。

根據給定的n個權值{w1,w2,…,wn}構成二叉樹集合F={T1,T2,…,Tn},其中每棵二叉樹Ti中只有一個帶權爲wi的根結點,其左右子樹爲空.

在F中選取兩棵根結點權值最小的樹作爲左右子樹構造一棵新的二叉樹,且置新的二叉樹的根結點的權值爲左右子樹根結點的權值之和.

在F中刪除這兩棵樹,同時將新的二叉樹加入F中.

重複,直到F只含有一棵樹爲止.(得到哈夫曼樹)

關於哈夫曼樹的注意點：

1、滿二叉樹不一定是哈夫曼樹  

2、哈夫曼樹中權越大的葉子離根越近  （很好理解，WPL最小的二叉樹）

3、具有相同帶權結點的哈夫曼樹不惟一

4、哈夫曼樹的結點的度數爲 0 或 2， 沒有度爲 1 的結點。

5、包含 n 個葉子結點的哈夫曼樹中共有 2n – 1 個結點。

6、包含 n 棵樹的森林要經過 n–1 次合併才能形成哈夫曼樹，共產生 n–1 個新結點

再看一個例子：如權值集合W={7,19,2,6,32,3,21,10 }構造赫夫曼樹的過程。

根據給定的n個權值{w1,w2,…,wn}構成二叉樹集合F={T1,T2,…,Tn},其中每棵二叉樹Ti中只有一個帶權爲wi的根結點,其左右子樹爲空.

在F中選取兩棵根結點權值最小的樹

作爲左右子樹構造一棵新的二叉樹，置新的二叉樹的根結點的權值爲左右子樹根結點的權值之和

在F中刪除這兩棵樹,同時將新的二叉樹加入F中.

重複,直到F只含有一棵樹爲止.(得到哈夫曼樹)

 

在F中刪除這兩棵樹,同時將新的二叉樹加入F中.

構造完畢（哈夫曼樹，最有二叉樹），也就是最佳判定樹

哈夫曼編碼

哈夫曼樹的應用很廣，哈夫曼編碼就是其在電訊通信中的應用之一。廣泛地用於數據文件壓縮的十分有效的編碼方法。其壓縮率通常在20%～90%之間。在電訊通信業務中，通常用二進制編碼來表示字母或其他字符，並用這樣的編碼來表示字符序列。 

例：如果需傳送的電文爲 ‘ABACCDA’，它只用到四種字符，用兩位二進制編碼便可分辨。假設 A, B, C, D 的編碼分別爲 00, 01,10, 11，則上述電文便爲 ‘00010010101100’（共 14 位），譯碼員按兩位進行分組譯碼，便可恢復原來的電文。

能否使編碼總長度更短呢？

實際應用中各字符的出現頻度不相同，用短（長）編碼表示頻率大（小）的字符，使得編碼序列的總長度最小，使所需總空間量最少

數據的最小冗餘編碼問題

在上例中，若假設 A, B, C, D 的編碼分別爲 0，00，1，01，則電文 ‘ABACCDA’ 便爲 ‘000011010’（共 9 位），但此編碼存在多義性：可譯爲： ‘BBCCDA’、‘ABACCDA’、‘AAAACCACA’ 等。

譯碼的惟一性問題

要求任一字符的編碼都不能是另一字符編碼的前綴，這種編碼稱爲前綴編碼（其實是非前綴碼）。 在編碼過程要考慮兩個問題，數據的最小冗餘編碼問題，譯碼的惟一性問題，利用最優二叉樹可以很好地解決上述兩個問題

用二叉樹設計二進制前綴編碼

以電文中的字符作爲葉子結點構造二叉樹。然後將二叉樹中結點引向其左孩子的分支標 ‘0’，引向其右孩子的分支標 ‘1’； 每個字符的編碼即爲從根到每個葉子的路徑上得到的 0, 1 序列。如此得到的即爲二進制前綴編碼。

 

編碼： A：0， C：10，B：110，D：111 

任意一個葉子結點都不可能在其它葉子結點的路徑中。

用哈夫曼樹設計總長最短的二進制前綴編碼

假設各個字符在電文中出現的次數（或頻率）爲 wi ，其編碼長度爲 li，電文中只有 n 種字符，則電文編碼總長爲：

設計電文總長最短的編碼，設計哈夫曼樹（以 n 種字符出現的頻率作權），

由哈夫曼樹得到的二進制前綴編碼稱爲哈夫曼編碼   

例：如果需傳送的電文爲 ‘ABACCDA’，即：A, B, C, D 

的頻率（即權值）分別爲 0.43, 0.14, 0.29, 0.14，試構造哈夫曼編碼。

編碼： A：0， C：10，  B：110， D：111 。電文 ‘ABACCDA’ 便爲 ‘0110010101110’（共 13 位）。

例：如果需傳送的電文爲 ‘ABCACCDAEAE’，即：A, B, C, D, E 的頻率（即權值）分別爲0.36, 0.1, 0.27, 0.1, 0.18，試構造哈夫曼編碼。

編碼： A：11，C：10，E：00，B：010，D：011 ，則電文 ‘ABCACCDAEAE’ 便爲 ‘110101011101001111001100’（共 24 位，比 33 位短）。

譯碼

從哈夫曼樹根開始，對待譯碼電文逐位取碼。若編碼是“0”，則向左走；若編碼是“1”，則向右走，一旦到達葉子結點，則譯出一個字符；再重新從根出發，直到電文結束。

電文爲 “1101000” ，譯文只能是“CAT”

哈夫曼編碼算法的實現

由於哈夫曼樹中沒有度爲1的結點，則一棵有n個葉子的哈夫曼樹共有2×n-1個結點，可以用一個大小爲2×n-1 的一維數組存放哈夫曼樹的各個結點。 由於每個結點同時還包含其雙親信息和孩子結點的信息，所以構成一個靜態三叉鏈表。

//haffman 樹的結構
typedef struct
{
    //葉子結點權值
    unsigned int weight;
    //指向雙親，和孩子結點的指針
    unsigned int parent;
    unsigned int lChild;
    unsigned int rChild;
} Node, *HuffmanTree;

//動態分配數組，存儲哈夫曼編碼
typedef char *HuffmanCode;

//選擇兩個parent爲0，且weight最小的結點s1和s2的方法實現
//n 爲葉子結點的總數，s1和 s2兩個指針參數指向要選取出來的兩個權值最小的結點
void select(HuffmanTree *huffmanTree, int n, int *s1, int *s2)
{
    //標記 i
    int i = 0;
    //記錄最小權值
    int min;
    //遍歷全部結點，找出單節點
    for(i = 1; i <= n; i++)
    {
        //如果此結點的父親沒有，那麼把結點號賦值給 min，跳出循環
        if((*huffmanTree)[i].parent == 0)
        {
            min = i;
            break;
        }
    }
    //繼續遍歷全部結點，找出權值最小的單節點
    for(i = 1; i <= n; i++)
    {
        //如果此結點的父親爲空，則進入 if
        if((*huffmanTree)[i].parent == 0)
        {
            //如果此結點的權值比 min 結點的權值小，那麼更新 min 結點，否則就是最開始的 min
            if((*huffmanTree)[i].weight < (*huffmanTree)[min].weight)
            {
               min = i;
            }
        }
    }
    //找到了最小權值的結點，s1指向
    *s1 = min;
    //遍歷全部結點
    for(i = 1; i <= n; i++)
    {
        //找出下一個單節點，且沒有被 s1指向，那麼i 賦值給 min，跳出循環
        if((*huffmanTree)[i].parent == 0 && i != (*s1))
        {
            min = i;
            break;
        }
    }
    //繼續遍歷全部結點，找到權值最小的那一個
    for(i = 1; i <= n; i++)
    {
        if((*huffmanTree)[i].parent == 0 && i != (*s1))
        {
            //如果此結點的權值比 min 結點的權值小，那麼更新 min 結點，否則就是最開始的 min
            if((*huffmanTree)[i].weight < (*huffmanTree)[min].weight)
            {
               min = i;
            }
        }
    }
    //s2指針指向第二個權值最小的葉子結點
    *s2 = min;
}

//創建哈夫曼樹並求哈夫曼編碼的算法如下，w數組存放已知的n個權值
void createHuffmanTree(HuffmanTree *huffmanTree, int w[], int n)
{
    //m 爲哈夫曼樹總共的結點數，n 爲葉子結點數
    int m = 2 * n - 1;
    //s1 和 s2 爲兩個當前結點裏，要選取的最小權值的結點
    int s1;
    int s2;
    //標記
    int i;
    // 創建哈夫曼樹的結點所需的空間，m+1，代表其中包含一個頭結點
    *huffmanTree = (HuffmanTree)malloc((m + 1) * sizeof(Node));
    //1--n號存放葉子結點，初始化葉子結點，結構數組來初始化每個葉子結點，初始的時候看做一個個單個結點的二叉樹
    for(i = 1; i <= n; i++)
    {
       
        //其中葉子結點的權值是 w【n】數組來保存
        (*huffmanTree)[i].weight = w[i];
        //初始化葉子結點（單個結點二叉樹）的孩子和雙親，單個結點，也就是沒有孩子和雙親，==0
        (*huffmanTree)[i].lChild = 0;
        (*huffmanTree)[i].parent = 0;
        (*huffmanTree)[i].rChild = 0;
    }// end of for
    //非葉子結點的初始化
    for(i = n + 1; i <= m; i++)
    {
        (*huffmanTree)[i].weight = 0;
        (*huffmanTree)[i].lChild = 0;
        (*huffmanTree)[i].parent = 0;
        (*huffmanTree)[i].rChild = 0;
    }
    
    printf("\n HuffmanTree: \n");
    //創建非葉子結點，建哈夫曼樹
    for(i = n + 1; i <= m; i++)
    {
        //在(*huffmanTree)[1]~(*huffmanTree)[i-1]的範圍內選擇兩個parent爲0
        //且weight最小的結點，其序號分別賦值給s1、s2
        select(huffmanTree, i-1, &s1, &s2);
        //選出的兩個權值最小的葉子結點，組成一個新的二叉樹，根爲 i 結點
        (*huffmanTree)[s1].parent = i;
        (*huffmanTree)[s2].parent = i;
        (*huffmanTree)[i].lChild = s1;
        (*huffmanTree)[i].rChild = s2;
        //新的結點 i 的權值
        (*huffmanTree)[i].weight = (*huffmanTree)[s1].weight + (*huffmanTree)[s2].weight;
        
        printf("%d (%d, %d)\n", (*huffmanTree)[i].weight, (*huffmanTree)[s1].weight, (*huffmanTree)[s2].weight);
    }
    
    printf("\n");
}

//哈夫曼樹建立完畢，從 n 個葉子結點到根，逆向求每個葉子結點對應的哈夫曼編碼
void creatHuffmanCode(HuffmanTree *huffmanTree, HuffmanCode *huffmanCode, int n)
{
    //指示biaoji
    int i;
    //編碼的起始指針
    int start;
    //指向當前結點的父節點
    int p;
    //遍歷 n 個葉子結點的指示標記 c
    unsigned int c;
    //分配n個編碼的頭指針
    huffmanCode=(HuffmanCode *)malloc((n+1) * sizeof(char *));
    //分配求當前編碼的工作空間
    char *cd = (char *)malloc(n * sizeof(char));
    //從右向左逐位存放編碼，首先存放編碼結束符
    cd[n-1] = '\0';
    //求n個葉子結點對應的哈夫曼編碼
    for(i = 1; i <= n; i++)
    {
        //初始化編碼起始指針
        start = n - 1;
        //從葉子到根結點求編碼
        for(c = i, p = (*huffmanTree)[i].parent; p != 0; c = p, p = (*huffmanTree)[p].parent)
        {
            if( (*huffmanTree)[p].lChild == c)
            {
                //從右到左的順序編碼入數組內
                 cd[--start] = '0';  //左分支標0
            }
            else
            {
                cd[--start] = '1';  //右分支標1
            }
        }// end of for
        //爲第i個編碼分配空間
        huffmanCode[i] = (char *)malloc((n - start) * sizeof(char));
        
        strcpy(huffmanCode[i], &cd[start]);
    }
    
    free(cd);
    //打印編碼序列
    for(i = 1; i <= n; i++)
    {
         printf("HuffmanCode of %3d is %s\n", (*huffmanTree)[i].weight, huffmanCode[i]);
    }
    
    printf("\n");
}

int main(void)
{
    HuffmanTree HT;
    HuffmanCode HC;
    int *w,i,n,wei,m;
    
    printf("\nn = " );
    
    scanf("%d",&n);
    
    w=(int *)malloc((n+1)*sizeof(int));
    
    printf("\ninput the %d element's weight:\n",n);
    
    for(i=1; i<=n; i++)
    {
        printf("%d: ",i);
        fflush(stdin);
        scanf("%d",&wei);
        w[i]=wei;
    }
    
    createHuffmanTree(&HT, w, n);
    creatHuffmanCode(&HT,&HC,n);
    
    return 0;
}

補充：樹的計數

已知先序序列和中序序列可確定一棵唯一的二叉樹；

已知後序序列和中序序列可確定一棵唯一的二叉樹；

已知先序序列和後序序列不能確定一棵唯一的二叉樹。

樹的帶權路徑長度(Weighted Path Length of Tree)：定義爲樹中所有葉結點的帶權路徑長度之和。
結點的帶權路徑長度：結點到樹根之間的路徑長度與該結點上權的乘積。