哈希函數

原創 Weirenren_027 2020-02-22 07:52

Hash查找因爲其O(1)的查找性能而著稱，被對查找性能要求高的應用所廣泛採用。它的基本思想是：
(1) 創建一個定長的線性Hash表，一般可以初始化時指定length;

(2) 設計Hash函數，將關鍵字key散射到Hash表中。其中hash函數設計是最爲關鍵的，均勻分佈、衝突概率小全在它；

(3) 通常採用拉鍊方法來解決hash衝突問題，即散射到同一個hash表項的關鍵字，以鏈表形式來表示(也稱爲桶backet);

(4) 給定關鍵字key，就可以在O(1) + O(m)的時間複雜度內定位到目標。其中，m爲拉鍊長度，即桶深。

Hash應用中，字符串是最爲常見的關鍵字，應用非常普通，現在的程序設計語言中基本上都提供了字符串hash表的支持。字符串hash函數非常多，常見的主要有Simple_hash, RS_hash, JS_hash, PJW_hash, ELF_hash, BKDR_hash, SDBM_hash, DJB_hash, AP_hash, CRC_hash等。它們的C語言實現見後面附錄代碼: hash.h, hash.c。那麼這麼些字符串hash函數，誰好熟非呢？評估hash函數優劣的基準主要有以下兩個指標：

(1) 散列分佈性

即桶的使用率backet_usage = (已使用桶數) / (總的桶數)，這個比例越高，說明分佈性良好，是好的hash設計。

(2) 平均桶長

即avg_backet_len，所有已使用桶的平均長度。理想狀態下這個值應該=1，越小說明衝突發生地越少，是好的hash設計。

hash函數計算一般都非常簡潔，因此在耗費計算時間複雜性方面判別甚微，這裏不作對比。

評估方案設計是這樣的：

(1) 以200M的視頻文件作爲輸入源，以4KB的塊爲大小計算MD5值，並以此作爲hash關鍵字;

(2) 分別應用上面提到的各種字符串hash函數，進行hash散列模擬；

(3) 統計結果，用散列分佈性和平均桶長兩個指標進行評估分析。

測試程序見附錄代碼hashtest.c，測試結果如下表所示。從這個結果我們也可以看出，這些字符串hash函數真是不相仲伯，難以決出高低，所以實際應用中可以根據喜好選擇。當然，最好實際測試一下，畢竟應用特點不大相同。其他幾組測試結果也類似，這裏不再給出。

Hash函數 桶數 Hash調用總數 最大桶長 平均桶長 桶使用率%
simple_hash 10240 47198 16 4.63 99.00%
RS_hash 10240 47198 16 4.63 98.91%
JS_hash 10240 47198 15 4.64 98.87%
PJW_hash 10240 47198 16 4.63 99.00%
ELF_hash 10240 47198 16 4.63 99.00%
BKDR_hash 10240 47198 16 4.63 99.00%
SDBM_hash 10240 47198 16 4.63 98.90%
DJB_hash 10240 47198 15 4.64 98.85%
AP_hash 10240 47198 16 4.63 98.96%
CRC_hash 10240 47198 16 4.64 98.77%

附錄源代碼：

hash.h

view plainprint?
  1. #ifndef _HASH_H
  2. #define _HASH_H
  4. #ifdef __cplusplus
  5. extern "C" {
  6. #endif
  8. /* A Simple Hash Function */
  9. unsigned int simple_hash(char *str);
  11. /* RS Hash Function */
  12. unsigned int RS_hash(char *str);
  14. /* JS Hash Function */
  15. unsigned int JS_hash(char *str);
  17. /* P. J. Weinberger Hash Function */
  18. unsigned int PJW_hash(char *str);
  20. /* ELF Hash Function */
  21. unsigned int ELF_hash(char *str);
  23. /* BKDR Hash Function */
  24. unsigned int BKDR_hash(char *str);
  26. /* SDBM Hash Function */
  27. unsigned int SDBM_hash(char *str);
  29. /* DJB Hash Function */
  30. unsigned int DJB_hash(char *str);
  32. /* AP Hash Function */
  33. unsigned int AP_hash(char *str);
  35. /* CRC Hash Function */
  36. unsigned int CRC_hash(char *str);
  38. #ifdef __cplusplus
  39. }
  40. #endif
  42. #endif

hash.c

view plainprint?
  1. #include <string.h>
  2. #include "hash.h"
  4. /* A Simple Hash Function */
  5. unsigned int simple_hash(char *str)
  6. {
  7. register unsigned int hash;
  8. register unsigned char *p;
  10. for(hash = 0, p = (unsigned char *)str; *p ; p++)
  11. hash = 31 * hash + *p;
  13. return (hash & 0x7FFFFFFF);
  14. }
  16. /* RS Hash Function */
  17. unsigned int RS_hash(char *str)
  18. {
  19. unsigned int b = 378551;
  20. unsigned int a = 63689;
  21. unsigned int hash = 0;
  23. while (*str)
  24. {
  25. hash = hash * a + (*str++);
  26. a *= b;
  27. }
  29. return (hash & 0x7FFFFFFF);
  30. }
  32. /* JS Hash Function */
  33. unsigned int JS_hash(char *str)
  34. {
  35. unsigned int hash = 1315423911;
  37. while (*str)
  38. {
  39. hash ^= ((hash << 5) + (*str++) + (hash >> 2));
  40. }
  42. return (hash & 0x7FFFFFFF);
  43. }
  45. /* P. J. Weinberger Hash Function */
  46. unsigned int PJW_hash(char *str)
  47. {
  48. unsigned int BitsInUnignedInt = (unsigned int)(sizeof(unsigned int) * 8);
  49. unsigned int ThreeQuarters = (unsigned int)((BitsInUnignedInt * 3) / 4);
  50. unsigned int OneEighth = (unsigned int)(BitsInUnignedInt / 8);
  52. unsigned int HighBits = (unsigned int)(0xFFFFFFFF) << (BitsInUnignedInt - OneEighth);
  53. unsigned int hash = 0;
  54. unsigned int test = 0;
  56. while (*str)
  57. {
  58. hash = (hash << OneEighth) + (*str++);
  59. if ((test = hash & HighBits) != 0)
  60. {
  61. hash = ((hash ^ (test >> ThreeQuarters)) & (~HighBits));
  62. }
  63. }
  65. return (hash & 0x7FFFFFFF);
  66. }
  68. /* ELF Hash Function */
  69. unsigned int ELF_hash(char *str)
  70. {
  71. unsigned int hash = 0;
  72. unsigned int x = 0;
  74. while (*str)
  75. {
  76. hash = (hash << 4) + (*str++);
  77. if ((x = hash & 0xF0000000L) != 0)
  78. {
  79. hash ^= (x >> 24);
  80. hash &= ~x;
  81. }
  82. }
  84. return (hash & 0x7FFFFFFF);
  85. }
  87. /* BKDR Hash Function */
  88. unsigned int BKDR_hash(char *str)
  89. {
  90. unsigned int seed = 131; // 31 131 1313 13131 131313 etc..
  91. unsigned int hash = 0;
  93. while (*str)
  94. {
  95. hash = hash * seed + (*str++);
  96. }
  98. return (hash & 0x7FFFFFFF);
  99. }
  101. /* SDBM Hash Function */
  102. unsigned int SDBM_hash(char *str)
  103. {
  104. unsigned int hash = 0;
  106. while (*str)
  107. {
  108. hash = (*str++) + (hash << 6) + (hash << 16) - hash;
  109. }
  111. return (hash & 0x7FFFFFFF);
  112. }
  114. /* DJB Hash Function */
  115. unsigned int DJB_hash(char *str)
  116. {
  117. unsigned int hash = 5381;
  119. while (*str)
  120. {
  121. hash += (hash << 5) + (*str++);
  122. }
  124. return (hash & 0x7FFFFFFF);
  125. }
  127. /* AP Hash Function */
  128. unsigned int AP_hash(char *str)
  129. {
  130. unsigned int hash = 0;
  131. int i;
  132. for (i=0; *str; i++)
  133. {
  134. if ((i & 1) == 0)
  135. {
  136. hash ^= ((hash << 7) ^ (*str++) ^ (hash >> 3));
  137. }
  138. else
  139. {
  140. hash ^= (~((hash << 11) ^ (*str++) ^ (hash >> 5)));
  141. }
  142. }
  144. return (hash & 0x7FFFFFFF);
  145. }
  147. /* CRC Hash Function */
  148. unsigned int CRC_hash(char *str)
  149. {
  150. unsigned int nleft = strlen(str);
  151. unsigned long long sum = 0;
  152. unsigned short int *w = (unsigned short int *)str;
  153. unsigned short int answer = 0;
  155. /*
  156. * Our algorithm is simple, using a 32 bit accumulator (sum), we add
  157. * sequential 16 bit words to it, and at the end, fold back all the
  158. * carry bits from the top 16 bits into the lower 16 bits.
  159. */
  160. while ( nleft > 1 ) {
  161. sum += *w++;
  162. nleft -= 2;
  163. }
  164. /*
  165. * mop up an odd byte, if necessary
  166. */
  167. if ( 1 == nleft ) {
  168. *( unsigned char * )( &answer ) = *( unsigned char * )w ;
  169. sum += answer;
  170. }
  171. /*
  172. * add back carry outs from top 16 bits to low 16 bits
  173. * add hi 16 to low 16
  174. */
  175. sum = ( sum >> 16 ) + ( sum & 0xFFFF );
  176. /* add carry */
  177. sum += ( sum >> 16 );
  178. /* truncate to 16 bits */
  179. answer = ~sum;
  181. return (answer & 0xFFFFFFFF);
  182. }

hashtest.c

view plainprint?
  1. #include <stdio.h>
  2. #include <stdlib.h>
  3. #include <sys/types.h>
  4. #include <sys/stat.h>
  5. #include <fcntl.h>
  6. #include <errno.h>
  7. #include <string.h>
  8. #include "hash.h"
  9. #include "md5.h"
  11. struct hash_key {
  12. unsigned char *key;
  13. struct hash_key *next;
  14. };
  16. struct hash_counter_entry {
  17. unsigned int hit_count;
  18. unsigned int entry_count;
  19. struct hash_key *keys;
  20. };
  22. #define BLOCK_LEN 4096
  24. static int backet_len = 10240;
  25. static int hash_call_count = 0;
  26. static struct hash_counter_entry *hlist = NULL;
  27. unsigned int (*hash_func)(char *str);
  29. void choose_hash_func(char *hash_func_name)
  30. {
  31. if (0 == strcmp(hash_func_name, "simple_hash"))
  32. hash_func = simple_hash;
  33. else if (0 == strcmp(hash_func_name, "RS_hash"))
  34. hash_func = RS_hash;
  35. else if (0 == strcmp(hash_func_name, "JS_hash"))
  36. hash_func = JS_hash;
  37. else if (0 == strcmp(hash_func_name, "PJW_hash"))
  38. hash_func = PJW_hash;
  39. else if (0 == strcmp(hash_func_name, "ELF_hash"))
  40. hash_func = ELF_hash;
  41. else if (0 == strcmp(hash_func_name, "BKDR_hash"))
  42. hash_func = BKDR_hash;
  43. else if (0 == strcmp(hash_func_name, "SDBM_hash"))
  44. hash_func = SDBM_hash;
  45. else if (0 == strcmp(hash_func_name, "DJB_hash"))
  46. hash_func = DJB_hash;
  47. else if (0 == strcmp(hash_func_name, "AP_hash"))
  48. hash_func = AP_hash;
  49. else if (0 == strcmp(hash_func_name, "CRC_hash"))
  50. hash_func = CRC_hash;
  51. else
  52. hash_func = NULL;
  53. }
  55. void insert_hash_entry(unsigned char *key, struct hash_counter_entry *hlist)
  56. {
  57. unsigned int hash_value = hash_func(key) % backet_len;
  58. struct hash_key *p;
  60. p = hlist[hash_value].keys;
  61. while(p) {
  62. if (0 == strcmp(key, p->key))
  63. break;
  64. p = p->next;
  65. }
  66. if (p == NULL)
  67. {
  68. p = (struct hash_key *)malloc(sizeof(struct hash_key));
  69. if (p == NULL)
  70. {
  71. perror("malloc in insert_hash_entry");
  72. return;
  73. }
  74. p->key = strdup(key);
  75. p->next = hlist[hash_value].keys;
  76. hlist[hash_value].keys = p;
  77. hlist[hash_value].entry_count++;
  78. }
  79. hlist[hash_value].hit_count++;
  80. }
  82. void hashtest_init()
  83. {
  84. int i;
  86. hash_call_count = 0;
  87. hlist = (struct hash_counter_entry *) malloc (sizeof(struct hash_counter_entry) * backet_len);
  88. if (NULL == hlist)
  89. {
  90. perror("malloc in hashtest_init");
  91. return;
  92. }
  93. for (i = 0; i < backet_len; i++)
  94. {
  95. hlist[i].hit_count = 0;
  96. hlist[i].entry_count = 0;
  97. hlist[i].keys = NULL;
  98. }
  99. }
  101. void hashtest_clean()
  102. {
  103. int i;
  104. struct hash_key *pentry, *p;
  106. if (NULL == hlist)
  107. return;
  109. for (i = 0; i < backet_len; ++i)
  110. {
  111. pentry = hlist[i].keys;
  112. while(pentry)
  113. {
  114. p = pentry->next;
  115. if (pentry->key) free(pentry->key);
  116. free(pentry);
  117. pentry = p;
  118. }
  119. }
  120. free(hlist);
  121. }
  123. void show_hashtest_result()
  124. {
  125. int i, backet = 0, max_link = 0, sum = 0;
  126. int conflict_count = 0, hit_count = 0;
  127. float avg_link, backet_usage;
  129. for(i = 0; i < backet_len; i++)
  130. {
  131. if (hlist[i].hit_count > 0)
  132. {
  133. backet++;
  134. sum += hlist[i].entry_count;
  135. if (hlist[i].entry_count > max_link)
  136. {
  137. max_link = hlist[i].entry_count;
  138. }
  139. if (hlist[i].entry_count > 1)
  140. {
  141. conflict_count++;
  142. }
  143. hit_count += hlist[i].hit_count;
  144. }
  145. }
  147. backet_usage = backet/1.0/backet_len * 100;;
  148. avg_link = sum/1.0/backet;
  150. printf("backet_len = %d/n", backet_len);
  151. printf("hash_call_count = %d/n", hash_call_count);
  152. printf("hit_count = %d/n", hit_count);
  153. printf("conflict count = %d/n", conflict_count);
  154. printf("longest hash entry = %d/n", max_link);
  155. printf("average hash entry length = %.2f/n", avg_link);
  156. printf("backet usage = %.2f%/n", backet_usage);
  157. }
  159. void usage()
  160. {
  161. printf("Usage: hashtest filename hash_func_name [backet_len]/n");
  162. printf("hash_func_name:/n");
  163. printf("/tsimple_hash/n");
  164. printf("/tRS_hash/n");
  165. printf("/tJS_hash/n");
  166. printf("/tPJW_hash/n");
  167. printf("/tELF_hash/n");
  168. printf("/tBKDR_hash/n");
  169. printf("/tSDBM_hash/n");
  170. printf("/tDJB_hash/n");
  171. printf("/tAP_hash/n");
  172. printf("/tCRC_hash/n");
  173. }
  175. void md5_to_32(unsigned char *md5_16, unsigned char *md5_32)
  176. {
  177. int i;
  179. for (i = 0; i < 16; ++i)
  180. {
  181. sprintf(md5_32 + i * 2, "%02x", md5_16[i]);
  182. }
  183. }
  185. int main(int argc, char *argv[])
  186. {
  187. int fd = -1, rwsize = 0;
  188. unsigned char md5_checksum[16 + 1] = {0};
  189. unsigned char buf[BLOCK_LEN] = {0};
  191. if (argc < 3)
  192. {
  193. usage();
  194. return -1;
  195. }
  197. if (-1 == (fd = open(argv[1], O_RDONLY)))
  198. {
  199. perror("open source file");
  200. return errno;
  201. }
  203. if (argc == 4)
  204. {
  205. backet_len = atoi(argv[3]);
  206. }
  208. hashtest_init();
  209. choose_hash_func(argv[2]);
  210. while (rwsize = read(fd, buf, BLOCK_LEN))
  211. {
  212. md5(buf, rwsize, md5_checksum);
  213. insert_hash_entry(md5_checksum, hlist);
  214. hash_call_count++;
  215. memset(buf, 0, BLOCK_LEN);
  216. memset(md5_checksum, 0, 16 + 1);
  217. }
  218. close(fd);
  220. show_hashtest_result();
  221. hashtest_clean();
  222. return 0;
  223. }  
站內首發文章
Weirenren_027
發佈了59 篇原創文章 · 獲贊 5 · 訪問量 12萬+
私信 關注
發表評論
所有評論
還沒有人評論，想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章

01 常用的數據結構

數組、字符串 創建一個26個字母的數組，在第一個字符串中出現的字母+1,第二個字符串中出現的字母-1,最後查看每隔字母的個數是否爲0； 鏈表        利用快慢指針：倒數第k個元素；鏈表是否有環；鏈表的反轉；判斷中間位置的元素；

MyQGirl_cov2 2020-07-08 02:37:05

求兩個有序數組的中位數和者第k小元素

博客地址：http://www.cnblogs.com/TenosDoIt/p/3554479.html

Tenos 2020-07-07 23:52:56

leet-code-3 二叉搜索樹的最近公共祖先

 百度百科中最近公共祖先的定義爲：“對於有根樹 T 的兩個結點 p、q，最近公共祖先表示爲一個結點 x，滿足 x 是 p、q 的祖先且 x 的深度儘可能大（一個節點也可以是它自己的祖先）。” 來源：力扣（LeetCode） 鏈接：http

love_Watermelon 2020-07-07 22:36:45

leet-code-1

 1. 給定一個整數數組 nums 和一個目標值 target，請你在該數組中找出和爲目標值的那兩個整數，並返回他們的數組下標。 你可以假設每種輸入只會對應一個答案。但是，數組中同一個元素不能使用兩遍。 來源：力扣（LeetCode）

love_Watermelon 2020-07-07 22:36:35

leet-code-2

 1. 根據輸入的字符串序列，返回對應的值，形式如下:    來源：力扣（LeetCode） 給定一個Excel表格中的列名稱，返回其相應的列序號。 例如，     A -> 1     B -> 2     C -> 3     ...

love_Watermelon 2020-07-07 22:36:35

leet-code-4

數組中有一個數字出現的次數超過數組長度的一半，請找出這個數字。  package com.example.study; import java.util.Arrays; import java.util.HashMap; import

love_Watermelon 2020-07-07 22:36:35

觀李永樂《皇帝的新衣》後感以及紅藍眼悖論解題思路

觀李永樂《皇帝的新衣》後感以及紅藍眼悖論解題思路 前言 寫這篇博客不是主要的目的： 不是爲了提供這題目的答案。 不是爲了講“共有知識”和“公共知識”的概念區別。 不是爲了研究這道題目的悖論。 不是爲了講解這個題目怎麼採用數學歸納

liangdu_Zuker 2020-07-07 21:15:30

requestLayout方法和invalidate 方法比較

requestLayout方法和invalidate方法 自定義View的時候難免會和這2個方法打交道，在之前的文章中我們已經介紹了invalidate方法，今天我們來對比下requestLayout方法和invalidate方法

CTO_1649900265 2020-07-07 16:41:12

數據庫索引算法的威力：B-Tree 與 Hash 索引

數據庫索引是優化任何數據庫系統性能的關鍵組成部分。如果沒有有效的索引，您的數據庫查詢可能會變得緩慢且低效，從而導致用戶體驗不佳並降低生產力。在這篇文章中，我們將探討創建和使用數據庫索引的一些最佳實踐。 作者：The Java Trail

原創 2024-05-07 23:20:49

數據結構筆記淺記（十三） 哈希表

「哈希表 hash table」，又稱「散列表」，它通過建立鍵 key 與值 value 之間的映射，實現高效的元素查詢。具體而言，我們向哈希表中輸入一個鍵 key ，則可以在 𝑂(1) 時間內獲取對應的值 value 。 從本質上看，哈

原創 2024-04-24 23:39:16

數據庫性能優化入門：數據庫分片初探

數據庫分片是一種用於提升數據庫性能的架構模式，選擇正確的分片策略和實施方式對於提高數據庫性能和應對大規模數據挑戰至關重要。 本文介紹了數據庫分片的定義、原理和實施方法。文章解釋了數據庫分片是如何通過將數據切分、分散存儲在多個服務器上來提升性

原創 2024-04-05 22:23:13

深度僞造警示錄 | 13歲中學生用“AI換臉”技術僞造同學色情照片遭逮捕

2023年12月6日，美國佛羅里達州邁阿密派恩克雷斯特灣學院（Pinecrest Cove Academy）的兩名學生被停學。幾天後的12月22日，他們被邁阿密戴德警察局逮捕。並被指控犯有三級重罪，罪名是涉嫌製作同學的“深度僞造”裸照。 根

原創 2024-03-22 00:20:02

hive分區和分桶你熟悉嗎？

兩種用於優化查詢性能的數據組織策略，數倉設計的關鍵概念，可提升Hive在讀取大量數據時的性能。 1 分區（Partitioning） 根據表的某列的值來組織數據。每個分區對應一個特定值，並映射到HDFS的不同目錄。 常用於經常查詢的列，如日

原創 2024-03-11 02:23:15

【mongo 系列】mongodb 學習六，索引淺析

【mongo 系列】mongodb 學習六，索引淺析 阿兵雲原生 2021-10-07 1,787 閱讀5分鐘   專欄：  開源組件專題

微學網絡 2024-03-07 10:51:09

分佈式場景怎麼Join | 京東雲技術團隊

背景 最近在閱讀查詢優化器的論文，發現System R中對於Join操作的定義一般分爲了兩種，即嵌套循環、排序-合併聯接。在原文中，更傾向使用排序-合併聯接邏輯。 考慮到我的領域是在處理分庫分表或者其他的分區模式，這讓我開始不由得聯想我們

原創 2024-02-21 01:10:25