聊聊併發(四)——深入分析ConcurrentHashMap

  • 術語定義

這裏寫圖片描述

  • 線程不安全的HashMap

    因爲多線程環境下,使用HashMap進行put操作會引起死循環,導致CPU利用率接近100%,所以在併發情況下不能使用HashMap,如以下代碼

final HashMap<String, String> map = new HashMap<String, String>(2);
Thread t = new Thread(new Runnable() {
    @Override
    public void run() {
        for (int i = 0; i < 10000; i++) {
            new Thread(new Runnable() {
                @Override
                public void run() {
                    map.put(UUID.randomUUID().toString(), "");
                }
            }, "ftf" + i).start();
        }
    }
}, "ftf");
t.start();
t.join();
  • 效率低下的HashTable容器
    HashTable容器使用synchronized來保證線程安全,但在線程競爭激烈的情況下HashTable的效率非常低下。因爲當一個線程訪問HashTable的同步方法時,其他線程訪問HashTable的同步方法時,可能會進入阻塞或輪詢狀態。如線程1使用put進行添加元素,線程2不但不能使用put方法添加元素,並且也不能使用get方法來獲取元素,所以競爭越激烈效率越低。

  • 鎖分段技術
    HashTable容器在競爭激烈的併發環境下表現出效率低下的原因是所有訪問HashTable的線程都必須競爭同一把鎖,那假如容器裏有多把鎖,每一把鎖用於鎖容器其中一部分數據,那麼當多線程訪問容器裏不同數據段的數據時,線程間就不會存在鎖競爭,從而可以有效的提高併發訪問效率,這就是ConcurrentHashMap所使用的鎖分段技術,首先將數據分成一段一段的存儲,然後給每一段數據配一把鎖,當一個線程佔用鎖訪問其中一個段數據的時候,其他段的數據也能被其他線程訪問。

  • ConcurrentHashMap的結構

    我們通過ConcurrentHashMap的類圖來分析ConcurrentHashMap的結構。
    這裏寫圖片描述

ConcurrentHashMap是由Segment數組結構和HashEntry數組結構組成。Segment是一種可重入鎖ReentrantLock,在ConcurrentHashMap裏扮演鎖的角色HashEntry則用於存儲鍵值對數據。一個ConcurrentHashMap裏包含一個Segment數組,Segment的結構和HashMap類似,是一種數組和鏈表結構, 一個Segment裏包含一個HashEntry數組,每個HashEntry是一個鏈表結構的元素, 每個Segment守護者一個HashEntry數組裏的元素,當對HashEntry數組的數據進行修改時,必須首先獲得它對應的Segment鎖。
這裏寫圖片描述

  • ConcurrentHashMap的初始化

    ConcurrentHashMap初始化方法是通過initialCapacity,loadFactor, concurrencyLevel幾個參數來初始化segments數組,段偏移量segmentShift,段掩碼segmentMask和每個segment裏的HashEntry數組 。

    初始化segments數組。讓我們來看一下初始化segmentShift,segmentMask和segments數組的源代碼。

if (concurrencyLevel > MAX_SEGMENTS)
    concurrencyLevel = MAX_SEGMENTS;

// Find power-of-two sizes best matching arguments
int sshift = 0;
int ssize = 1;
while (ssize < concurrencyLevel) {
    ++sshift;
    ssize <<= 1;
}
segmentShift = 32 - sshift;
segmentMask = ssize - 1;
this.segments = Segment.newArray(ssize);

由上面的代碼可知segments數組的長度ssize通過concurrencyLevel計算得出。爲了能通過按位與的哈希算法來定位segments數組的索引,必須保證segments數組的長度是2的N次方(power-of-two size),所以必須計算出一個是大於或等於concurrencyLevel的最小的2的N次方值來作爲segments數組的長度。假如concurrencyLevel等於14,15或16,ssize都會等於16,即容器裏鎖的個數也是16。注意concurrencyLevel的最大大小是65535,意味着segments數組的長度最大爲65536,對應的二進制是16位。

初始化segmentShift和segmentMask。這兩個全局變量在定位segment時的哈希算法裏需要使用,sshift等於ssize從1向左移位的次數,在默認情況下concurrencyLevel等於16,1需要向左移位移動4次,所以sshift等於4。segmentShift用於定位參與hash運算的位數,segmentShift等於32減sshift,所以等於28,這裏之所以用32是因爲ConcurrentHashMap裏的hash()方法輸出的最大數是32位的,後面的測試中我們可以看到這點。segmentMask是哈希運算的掩碼,等於ssize減1,即15,掩碼的二進制各個位的值都是1。因爲ssize的最大長度是65536,所以segmentShift最大值是16,segmentMask最大值是65535,對應的二進制是16位,每個位都是1。

初始化每個Segment。輸入參數initialCapacity是ConcurrentHashMap的初始化容量,loadfactor是每個segment的負載因子,在構造方法裏需要通過這兩個參數來初始化數組中的每個segment。

if (initialCapacity > MAXIMUM_CAPACITY)
    initialCapacity = MAXIMUM_CAPACITY;
int c = initialCapacity / ssize;
if (c * ssize < initialCapacity)
    ++c;
int cap = 1;
while (cap < c) 
    cap <<= 1;
for (int i = 0; i < this.segments.length; ++i)
    this.segments[i] = new Segment<K,V>(cap, loadFactor);

上面代碼中的變量cap就是segment裏HashEntry數組的長度,它等於initialCapacity除以ssize的倍數c,如果c大於1,就會取大於等於c的2的N次方值,所以cap不是1,就是2的N次方。segment的容量threshold=(int)cap*loadFactor,默認情況下initialCapacity等於16,loadfactor等於0.75,通過運算cap等於1,threshold等於零。

  • 定位Segment

既然ConcurrentHashMap使用分段鎖Segment來保護不同段的數據,那麼在插入和獲取元素的時候,必須先通過哈希算法定位到Segment。可以看到ConcurrentHashMap會首先使用Wang/Jenkins hash的變種算法對元素的hashCode進行一次再哈希。

private static int hash(int h) {
        h += (h << 15) ^ 0xffffcd7d;
        h ^= (h >>> 10);
        h += (h << 3);
        h ^= (h >>> 6);
        h += (h << 2) + (h << 14);
        return h ^ (h >>> 16);
    }

之所以進行再哈希,其目的是爲了減少哈希衝突使元素能夠均勻的分佈在不同的Segment上,從而提高容器的存取效率。假如哈希的質量差到極點,那麼所有的元素都在一個Segment中,不僅存取元素緩慢,分段鎖也會失去意義。我做了一個測試,不通過再哈希而直接執行哈希計算。

System.out.println(Integer.parseInt("0001111", 2) & 15);
System.out.println(Integer.parseInt("0011111", 2) & 15);
System.out.println(Integer.parseInt("0111111", 2) & 15);
System.out.println(Integer.parseInt("1111111", 2) & 15);

計算後輸出的哈希值全是15,通過這個例子可以發現如果不進行再哈希,哈希衝突會非常嚴重,因爲只要低位一樣,無論高位是什麼數,其哈希值總是一樣。我們再把上面的二進制數據進行再哈希後結果如下,爲了方便閱讀,不足32位的高位補了0,每隔四位用豎線分割下。

0100|0111|0110|0111|1101|1010|0100|1110
1111|0111|0100|0011|0000|0001|1011|1000
0111|0111|0110|1001|0100|0110|0011|1110
1000|0011|0000|0000|1100|1000|0001|1010

可以發現每一位的數據都散列開了,通過這種再哈希能讓數字的每一位都能參加到哈希運算當中,從而減少哈希衝突。ConcurrentHashMap通過以下哈希算法定位segment

final Segment<K,V> segmentFor(int hash) {
        return segments[(hash >>> segmentShift) & segmentMask];
    }

默認情況下segmentShift爲28,segmentMask爲15,再哈希後的數最大是32位二進制數據,向右無符號移動28位,意思是讓高4位參與到hash運算中, (hash >>> segmentShift) & segmentMask的運算結果分別是4,15,7和8,可以看到hash值沒有發生衝突。


  • ConcurrentHashMap的get操作

Segment的get操作實現非常簡單和高效。先經過一次再哈希,然後使用這個哈希值通過哈希運算定位到segment,再通過哈希算法定位到元素,代碼如下:

public V get(Object key) {
    int hash = hash(key.hashCode());
    return segmentFor(hash).get(key, hash);
}

get操作的高效之處在於整個get過程不需要加鎖,除非讀到的值是空的纔會加鎖重讀,我們知道HashTable容器的get方法是需要加鎖的,那麼ConcurrentHashMap的get操作是如何做到不加鎖的呢?

原因是它的get方法裏將要使用的共享變量都定義成volatile,如用於統計當前Segement大小的count字段和用於存儲值的HashEntry的value。定義成volatile的變量,能夠在線程之間保持可見性,能夠被多線程同時讀,並且保證不會讀到過期的值,但是隻能被單線程寫(有一種情況可以被多線程寫,就是寫入的值不依賴於原值),在get操作裏只需要讀不需要寫共享變量count和value,所以可以不用加鎖。
之所以不會讀到過期的值,是根據java內存模型的happen before原則,對volatile字段的寫入操作先於讀操作,即使兩個線程同時修改和獲取volatile變量,get操作也能拿到最新的值,這是用volatile替換鎖的經典應用場景。
transient volatile int count;
volatile V value;

在定位元素的代碼裏我們可以發現定位HashEntry和定位Segment的哈希算法雖然一樣,都與數組的長度減去一相與,但是相與的值不一樣,定位Segment使用的是元素的hashcode通過再哈希後得到的值的高位,而定位HashEntry直接使用的是再哈希後的值其目的是避免兩次哈希後的值一樣,導致元素雖然在Segment裏散列開了,但是卻沒有在HashEntry裏散列開。

hash >>> segmentShift) & segmentMask//定位Segment所使用的hash算法
int index = hash & (tab.length - 1);// 定位HashEntry所使用的hash算法

  • ConcurrentHashMap的Put操作

由於put方法裏需要對共享變量進行寫入操作,所以爲了線程安全,在操作共享變量時必須得加鎖。Put方法首先定位到Segment,然後在Segment裏進行插入操作。插入操作需要經歷兩個步驟,

第一步判斷是否需要對Segment裏的HashEntry數組進行擴容
第二步定位添加元素的位置然後放在HashEntry數組裏

是否需要擴容。在插入元素前會先判斷Segment裏的HashEntry數組是否超過容量(threshold),如果超過閥值,數組進行擴容。值得一提的是,Segment的擴容判斷比HashMap更恰當,因爲HashMap是在插入元素後判斷元素是否已經到達容量的,如果到達了就進行擴容,但是很有可能擴容之後沒有新元素插入,這時HashMap就進行了一次無效的擴容。

如何擴容。擴容的時候首先會創建一個兩倍於原容量的數組,然後將原數組裏的元素進行再hash後插入到新的數組裏。爲了高效ConcurrentHashMap不會對整個容器進行擴容,而只對某個segment進行擴容。

  • ConcurrentHashMap的size操作

如果我們要統計整個ConcurrentHashMap裏元素的大小,就必須統計所有Segment裏元素的大小後求和。Segment裏的全局變量count是一個volatile變量,那麼在多線程場景下,我們是不是直接把所有Segment的count相加就可以得到整個ConcurrentHashMap大小了呢?不是的,雖然相加時可以獲取每個Segment的count的最新值,但是拿到之後可能累加前使用的count發生了變化,那麼統計結果就不準了。所以最安全的做法,是在統計size的時候把所有Segment的put,remove和clean方法全部鎖住,但是這種做法顯然非常低效。 因爲在累加count操作過程中,之前累加過的count發生變化的機率非常小,所以ConcurrentHashMap的做法是先嚐試2次通過不鎖住Segment的方式來統計各個Segment大小,如果統計的過程中,容器的count發生了變化,則再採用加鎖的方式來統計所有Segment的大小。

那麼ConcurrentHashMap是如何判斷在統計的時候容器是否發生了變化呢?使用modCount變量,在put , remove和clean方法裏操作元素前都會將變量modCount進行加1,那麼在統計size前後比較modCount是否發生變化,從而得知容器的大小是否發生變化。

參考資料

JDK1.6源代碼。
《Java併發編程實踐》。
Java併發編程之ConcurrentHashMap 。

作者介紹

方騰飛,花名清英,淘寶資深開發工程師,關注併發編程,目前在廣告技術部從事無線廣告聯盟的開發和設計工作。個人博客:http://ifeve.com 微博:http://weibo.com/kirals 歡迎通過我的微博進行技術交流。

轉載: http://www.infoq.com/cn/articles/ConcurrentHashMap

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章