Java併發指南14:Java併發容器ConcurrentSkipListMap與CopyOnWri

原文出處http://cmsblogs.com/ 『chenssy

到目前爲止,我們在Java世界裏看到了兩種實現key-value的數據結構:Hash、TreeMap,這兩種數據結構各自都有着優缺點。

  1. Hash表:插入、查找最快,爲O(1);如使用鏈表實現則可實現無鎖;數據有序化需要顯式的排序操作。

  2. 紅黑樹:插入、查找爲O(logn),但常數項較小;無鎖實現的複雜性很高,一般需要加鎖;數據天然有序。

然而,這次介紹第三種實現key-value的數據結構:SkipList。SkipList有着不低於紅黑樹的效率,但是其原理和實現的複雜度要比紅黑樹簡單多了。

SkipList

什麼是SkipList?Skip List ,稱之爲跳錶,它是一種可以替代平衡樹的數據結構,其數據元素默認按照key值升序,天然有序。Skip list讓已排序的數據分佈在多層鏈表中,以0-1隨機數決定一個數據的向上攀升與否,通過“空間來換取時間”的一個算法,在每個節點中增加了向前的指針,在插入、刪除、查找時可以忽略一些不可能涉及到的結點,從而提高了效率。

我們先看一個簡單的鏈表,如下:

1499585893174201707090001

如果我們需要查詢9、21、30,則需要比較次數爲3 + 6 + 8 = 17 次,那麼有沒有優化方案呢?有!我們將該鏈表中的某些元素提煉出來作爲一個比較“索引”,如下:

1499586063109201707090002

我們先與這些索引進行比較來決定下一個元素是往右還是下走,由於存在“索引”的緣故,導致在檢索的時候會大大減少比較的次數。當然元素不是很多,很難體現出優勢,當元素足夠多的時候,這種索引結構就會大顯身手。

SkipList的特性

SkipList具備如下特性:

  1. 由很多層結構組成,level是通過一定的概率隨機產生的

  2. 每一層都是一個有序的鏈表,默認是升序,也可以根據創建映射時所提供的Comparator進行排序,具體取決於使用的構造方法

  3. 最底層(Level 1)的鏈表包含所有元素

  4. 如果一個元素出現在Level i 的鏈表中,則它在Level i 之下的鏈表也都會出現

  5. 每個節點包含兩個指針,一個指向同一鏈表中的下一個元素,一個指向下面一層的元素

我們將上圖再做一些擴展就可以變成一個典型的SkipList結構了

1499590828559201707090003

SkipList的查找

SkipListd的查找算法較爲簡單,對於上面我們我們要查找元素21,其過程如下:

  1. 比較3,大於,往後找(9),

  2. 比9大,繼續往後找(25),但是比25小,則從9的下一層開始找(16)

  3. 16的後面節點依然爲25,則繼續從16的下一層找

  4. 找到21

如圖

201707090004

紅色虛線代表路徑。

SkipList的插入

SkipList的插入操作主要包括:

  1. 查找合適的位置。這裏需要明確一點就是在確認新節點要佔據的層次K時,採用丟硬幣的方式,完全隨機。如果佔據的層次K大於鏈表的層次,則重新申請新的層,否則插入指定層次

  2. 申請新的節點

  3. 調整指針

假定我們要插入的元素爲23,經過查找可以確認她是位於25後,9、16、21前。當然需要考慮申請的層次K。

如果層次K > 3

需要申請新層次(Level 4)

201707090005

如果層次 K = 2

直接在Level 2 層插入即可

201707090006

這裏會涉及到以個算法:通過丟硬幣決定層次K,該算法我們通過後面ConcurrentSkipListMap源碼來分析。還有一個需要注意的地方就是,在K層插入元素後,需要確保所有小於K層的層次都應該出現新節點。

SkipList的刪除

刪除節點和插入節點思路基本一致:找到節點,刪除節點,調整指針。

比如刪除節點9,如下:

201707090007

ConcurrentSkipListMap

通過上面我們知道SkipList採用空間換時間的算法,其插入和查找的效率O(logn),其效率不低於紅黑樹,但是其原理和實現的複雜度要比紅黑樹簡單多了。一般來說會操作鏈表List,就會對SkipList毫無壓力。

ConcurrentSkipListMap其內部採用SkipLis數據結構實現。爲了實現SkipList,ConcurrentSkipListMap提供了三個內部類來構建這樣的鏈表結構:Node、Index、HeadIndex。其中Node表示最底層的單鏈表有序節點、Index表示爲基於Node的索引層,HeadIndex用來維護索引層次。到這裏我們可以這樣說ConcurrentSkipListMap是通過HeadIndex維護索引層次,通過Index從最上層開始往下層查找,一步一步縮小查詢範圍,最後到達最底層Node時,就只需要比較很小一部分數據了。在JDK中的關係如下圖:

201707090008

** Node **

    static final class Node<K,V> {
        final K key;
        volatile Object value;
        volatile ConcurrentSkipListMap.Node<K, V> next;
        
        /** 省略些許代碼 */
    }static final class Node<K,V> {
        final K key;
        volatile Object value;
        volatile ConcurrentSkipListMap.Node<K, V> next;
        
        /** 省略些許代碼 */
    }

Node的結構和一般的單鏈表毫無區別,key-value和一個指向下一個節點的next。

Index

    static class Index<K,V> {
        final ConcurrentSkipListMap.Node<K,V> node;
        final ConcurrentSkipListMap.Index<K,V> down;
        volatile ConcurrentSkipListMap.Index<K,V> right;

        /** 省略些許代碼 */
    }static class Index<K,V> {
        final ConcurrentSkipListMap.Node<K,V> node;
        final ConcurrentSkipListMap.Index<K,V> down;
        volatile ConcurrentSkipListMap.Index<K,V> right;

        /** 省略些許代碼 */
    }

Index提供了一個基於Node節點的索引Node,一個指向下一個Index的right,一個指向下層的down節點。

HeadIndex

    static final class HeadIndex<K,V> extends Index<K,V> {
        final int level;  //索引層,從1開始,Node單鏈表層爲0
        HeadIndex(Node<K,V> node, Index<K,V> down, Index<K,V> right, int level) {
            super(node, down, right);
            this.level = level;
        }
    }static final class HeadIndex<K,V> extends Index<K,V> {
        final int level;  //索引層,從1開始,Node單鏈表層爲0
        HeadIndex(Node<K,V> node, Index<K,V> down, Index<K,V> right, int level) {
            super(node, down, right);
            this.level = level;
        }
    }

HeadIndex內部就一個level來定義層級。

ConcurrentSkipListMap提供了四個構造函數,每個構造函數都會調用initialize()方法進行初始化工作。

    final void initialize() {
        keySet = null;
        entrySet = null;
        values = null;
        descendingMap = null;
        randomSeed = seedGenerator.nextInt() | 0x0100; // ensure nonzero
        head = new ConcurrentSkipListMap.HeadIndex<K,V>(new ConcurrentSkipListMap.Node<K,V>(null, BASE_HEADER, null),
                null, null, 1);
    }final void initialize() {
        keySet = null;
        entrySet = null;
        values = null;
        descendingMap = null;
        randomSeed = seedGenerator.nextInt() | 0x0100; // ensure nonzero
        head = new ConcurrentSkipListMap.HeadIndex<K,V>(new ConcurrentSkipListMap.Node<K,V>(null, BASE_HEADER, null),
                null, null, 1);
    }

注意,initialize()方法不僅僅只在構造函數中被調用,如clone,clear、readObject時都會調用該方法進行初始化步驟。這裏需要注意randomSeed的初始化。

 private transient int randomSeed;
 randomSeed = seedGenerator.nextInt() | 0x0100; // ensure nonzeroprivate transient int randomSeed;
 randomSeed = seedGenerator.nextInt() | 0x0100; // ensure nonzero

randomSeed一個簡單的隨機數生成器(在後面介紹)。

put操作

CoucurrentSkipListMap提供了put()方法用於將指定值與此映射中的指定鍵關聯。源碼如下:

    public V put(K key, V value) {
        if (value == null)
            throw new NullPointerException();
        return doPut(key, value, false);
    }public V put(K key, V value) {
        if (value == null)
            throw new NullPointerException();
        return doPut(key, value, false);
    }

首先判斷value如果爲null,則拋出NullPointerException,否則調用doPut方法,其實如果各位看過JDK的源碼的話,應該對這樣的操作很熟悉了,JDK源碼裏面很多方法都是先做一些必要性的驗證後,然後通過調用do**()方法進行真正的操作。

doPut()方法內容較多,我們分步分析。

    private V doPut(K key, V value, boolean onlyIfAbsent) {
        Node<K,V> z;             // added node
        if (key == null)
            throw new NullPointerException();
        // 比較器
        Comparator<? super K> cmp = comparator;
        outer: for (;;) {
            for (Node<K, V> b = findPredecessor(key, cmp), n = b.next; ; ) {

            /** 省略代碼 */private V doPut(K key, V value, boolean onlyIfAbsent) {
        Node<K,V> z;             // added node
        if (key == null)
            throw new NullPointerException();
        // 比較器
        Comparator<? super K> cmp = comparator;
        outer: for (;;) {
            for (Node<K, V> b = findPredecessor(key, cmp), n = b.next; ; ) {

            /** 省略代碼 */

doPut()方法有三個參數,除了key,value外還有一個boolean類型的onlyIfAbsent,該參數作用與如果存在當前key時,該做何動作。當onlyIfAbsent爲false時,替換value,爲true時,則返回該value。用代碼解釋爲:

   if (!map.containsKey(key))
      return map.put(key, value);
  else
       return map.get(key);if (!map.containsKey(key))
      return map.put(key, value);
  else
       return map.get(key);

首先判斷key是否爲null,如果爲null,則拋出NullPointerException,從這裏我們可以確認ConcurrentSkipList是不支持key或者value爲null的。然後調用findPredecessor()方法,傳入key來確認位置。findPredecessor()方法其實就是確認key要插入的位置。

   private Node<K,V> findPredecessor(Object key, Comparator<? super K> cmp) {
        if (key == null)
            throw new NullPointerException(); // don't postpone errors
        for (;;) {
            // 從head節點開始,head是level最高級別的headIndex
            for (Index<K,V> q = head, r = q.right, d;;) {

                // r != null,表示該節點右邊還有節點,需要比較
                if (r != null) {
                    Node<K,V> n = r.node;
                    K k = n.key;
                    // value == null,表示該節點已經被刪除了
                    // 通過unlink()方法過濾掉該節點
                    if (n.value == null) {
                        //刪掉r節點
                        if (!q.unlink(r))
                            break;           // restart
                        r = q.right;         // reread r
                        continue;
                    }

                    // value != null,節點存在
                    // 如果key 大於r節點的key 則往前進一步
                    if (cpr(cmp, key, k) > 0) {
                        q = r;
                        r = r.right;
                        continue;
                    }
                }

                // 到達最右邊,如果dowm == null,表示指針已經達到最下層了,直接返回該節點
                if ((d = q.down) == null)
                    return q.node;
                q = d;
                r = d.right;
            }
        }
    }private Node<K,V> findPredecessor(Object key, Comparator<? super K> cmp) {
        if (key == null)
            throw new NullPointerException(); // don't postpone errors
        for (;;) {
            // 從head節點開始,head是level最高級別的headIndex
            for (Index<K,V> q = head, r = q.right, d;;) {

                // r != null,表示該節點右邊還有節點,需要比較
                if (r != null) {
                    Node<K,V> n = r.node;
                    K k = n.key;
                    // value == null,表示該節點已經被刪除了
                    // 通過unlink()方法過濾掉該節點
                    if (n.value == null) {
                        //刪掉r節點
                        if (!q.unlink(r))
                            break;           // restart
                        r = q.right;         // reread r
                        continue;
                    }

                    // value != null,節點存在
                    // 如果key 大於r節點的key 則往前進一步
                    if (cpr(cmp, key, k) > 0) {
                        q = r;
                        r = r.right;
                        continue;
                    }
                }

                // 到達最右邊,如果dowm == null,表示指針已經達到最下層了,直接返回該節點
                if ((d = q.down) == null)
                    return q.node;
                q = d;
                r = d.right;
            }
        }
    }

findPredecessor()方法意思非常明確:尋找前輩。從最高層的headIndex開始向右一步一步比較,直到right爲null或者右邊節點的Node的key大於當前key爲止,然後再向下尋找,依次重複該過程,直到down爲null爲止,即找到了前輩,看返回的結果注意是Node,不是Item,所以插入的位置應該是最底層的Node鏈表。

在這個過程中ConcurrentSkipListMap賦予了該方法一個其他的功能,就是通過判斷節點的value是否爲null,如果爲null,表示該節點已經被刪除了,通過調用unlink()方法刪除該節點。

        final boolean unlink(Index<K,V> succ) {
            return node.value != null && casRight(succ, succ.right);
        }final boolean unlink(Index<K,V> succ) {
            return node.value != null && casRight(succ, succ.right);
        }

刪除節點過程非常簡單,更改下right指針即可。

通過findPredecessor()找到前輩節點後,做什麼呢?看下面:

 for (Node<K,V> b = findPredecessor(key, cmp), n = b.next;;) {
        // 前輩節點的next != null
        if (n != null) {
            Object v; int c;
            Node<K,V> f = n.next;

            // 不一致讀,主要原因是併發,有節點捷足先登
            if (n != b.next)               // inconsistent read
                break;

            // n.value == null,該節點已經被刪除了
            if ((v = n.value) == null) {   // n is deleted
                n.helpDelete(b, f);
                break;
            }

            // 前輩節點b已經被刪除
            if (b.value == null || v == n) // b is deleted
                break;

            // 節點大於,往前移
            if ((c = cpr(cmp, key, n.key)) > 0) {
                b = n;
                n = f;
                continue;
            }

            // c == 0 表示,找到一個key相等的節點,根據onlyIfAbsent參數來做判斷
            // onlyIfAbsent ==false,則通過casValue,替換value
            // onlyIfAbsent == true,返回該value
            if (c == 0) {
                if (onlyIfAbsent || n.casValue(v, value)) {
                    @SuppressWarnings("unchecked") V vv = (V)v;
                    return vv;
                }
                break; // restart if lost race to replace value
            }
            // else c < 0; fall through
        }

        // 將key-value包裝成一個node,插入
        z = new Node<K,V>(key, value, n);
        if (!b.casNext(n, z))
            break;         // restart if lost race to append to b
        break outer;
    }for (Node<K,V> b = findPredecessor(key, cmp), n = b.next;;) {
        // 前輩節點的next != null
        if (n != null) {
            Object v; int c;
            Node<K,V> f = n.next;

            // 不一致讀,主要原因是併發,有節點捷足先登
            if (n != b.next)               // inconsistent read
                break;

            // n.value == null,該節點已經被刪除了
            if ((v = n.value) == null) {   // n is deleted
                n.helpDelete(b, f);
                break;
            }

            // 前輩節點b已經被刪除
            if (b.value == null || v == n) // b is deleted
                break;

            // 節點大於,往前移
            if ((c = cpr(cmp, key, n.key)) > 0) {
                b = n;
                n = f;
                continue;
            }

            // c == 0 表示,找到一個key相等的節點,根據onlyIfAbsent參數來做判斷
            // onlyIfAbsent ==false,則通過casValue,替換value
            // onlyIfAbsent == true,返回該value
            if (c == 0) {
                if (onlyIfAbsent || n.casValue(v, value)) {
                    @SuppressWarnings("unchecked") V vv = (V)v;
                    return vv;
                }
                break; // restart if lost race to replace value
            }
            // else c < 0; fall through
        }

        // 將key-value包裝成一個node,插入
        z = new Node<K,V>(key, value, n);
        if (!b.casNext(n, z))
            break;         // restart if lost race to append to b
        break outer;
    }

找到合適的位置後,就是在該位置插入節點咯。插入節點的過程比較簡單,就是將key-value包裝成一個Node,然後通過casNext()方法加入到鏈表當中。當然是插入之前需要進行一系列的校驗工作。

在最下層插入節點後,下一步工作是什麼?新建索引。前面博主提過,在插入節點的時候,會根據採用拋硬幣的方式來決定新節點所插入的層次,由於存在併發的可能,ConcurrentSkipListMap採用ThreadLocalRandom來生成隨機數。如下:

int rnd = ThreadLocalRandom.nextSecondarySeed(); rnd = ThreadLocalRandom.nextSecondarySeed();

拋硬幣決定層次的思想很簡單,就是通過拋硬幣如果硬幣爲正面則層次level + 1 ,否則停止,如下:

            // 拋硬幣決定層次
            while (((rnd >>>= 1) & 1) != 0)
                ++level;// 拋硬幣決定層次
            while (((rnd >>>= 1) & 1) != 0)
                ++level;

在闡述SkipList插入節點的時候說明了,決定的層次level會分爲兩種情況進行處理,一是如果層次level大於最大的層次話則需要新增一層,否則就在相應層次以及小於該level的層次進行節點新增處理。

level <= headIndex.level

            // 如果決定的層次level比最高層次head.level小,直接生成最高層次的index
            // 由於需要確認每一層次的down,所以需要從最下層依次往上生成
            if (level <= (max = h.level)) {
                for (int i = 1; i <= level; ++i)
                    idx = new ConcurrentSkipListMap.Index<K,V>(z, idx, null);
            }// 如果決定的層次level比最高層次head.level小,直接生成最高層次的index
            // 由於需要確認每一層次的down,所以需要從最下層依次往上生成
            if (level <= (max = h.level)) {
                for (int i = 1; i <= level; ++i)
                    idx = new ConcurrentSkipListMap.Index<K,V>(z, idx, null);
            }

 

從底層開始,小於level的每一層都初始化一個index,每次的node都指向新加入的node,down指向下一層的item,右側next全部爲null。整個處理過程非常簡單:爲小於level的每一層初始化一個index,然後加入到原來的index鏈條中去。

level > headIndex.level

           // leve > head.level 則新增一層
            else { // try to grow by one level
                // 新增一層
                level = max + 1;

                // 初始化 level個item節點
                @SuppressWarnings("unchecked")
                ConcurrentSkipListMap.Index<K,V>[] idxs =
                        (ConcurrentSkipListMap.Index<K,V>[])new ConcurrentSkipListMap.Index<?,?>[level+1];
                for (int i = 1; i <= level; ++i)
                    idxs[i] = idx = new ConcurrentSkipListMap.Index<K,V>(z, idx, null);

                //
                for (;;) {
                    h = head;
                    int oldLevel = h.level;
                    // 層次擴大了,需要重新開始(有新線程節點加入)
                    if (level <= oldLevel) // lost race to add level
                        break;
                    // 新的頭結點HeadIndex
                    ConcurrentSkipListMap.HeadIndex<K,V> newh = h;
                    ConcurrentSkipListMap.Node<K,V> oldbase = h.node;
                    // 生成新的HeadIndex節點,該HeadIndex指向新增層次
                    for (int j = oldLevel+1; j <= level; ++j)
                        newh = new ConcurrentSkipListMap.HeadIndex<K,V>(oldbase, newh, idxs[j], j);

                    // HeadIndex CAS替換
                    if (casHead(h, newh)) {
                        h = newh;
                        idx = idxs[level = oldLevel];
                        break;
                    }
                }// leve > head.level 則新增一層
            else { // try to grow by one level
                // 新增一層
                level = max + 1;

                // 初始化 level個item節點
                @SuppressWarnings("unchecked")
                ConcurrentSkipListMap.Index<K,V>[] idxs =
                        (ConcurrentSkipListMap.Index<K,V>[])new ConcurrentSkipListMap.Index<?,?>[level+1];
                for (int i = 1; i <= level; ++i)
                    idxs[i] = idx = new ConcurrentSkipListMap.Index<K,V>(z, idx, null);

                //
                for (;;) {
                    h = head;
                    int oldLevel = h.level;
                    // 層次擴大了,需要重新開始(有新線程節點加入)
                    if (level <= oldLevel) // lost race to add level
                        break;
                    // 新的頭結點HeadIndex
                    ConcurrentSkipListMap.HeadIndex<K,V> newh = h;
                    ConcurrentSkipListMap.Node<K,V> oldbase = h.node;
                    // 生成新的HeadIndex節點,該HeadIndex指向新增層次
                    for (int j = oldLevel+1; j <= level; ++j)
                        newh = new ConcurrentSkipListMap.HeadIndex<K,V>(oldbase, newh, idxs[j], j);

                    // HeadIndex CAS替換
                    if (casHead(h, newh)) {
                        h = newh;
                        idx = idxs[level = oldLevel];
                        break;
                    }
                }

當拋硬幣決定的level大於最大層次level時,需要新增一層進行處理。處理邏輯如下:

  1. 初始化一個對應的index數組,大小爲level + 1,然後爲每個單位都創建一個index,箇中參數爲:Node爲新增的Z,down爲下一層index,right爲null

  2. 通過for循環來進行擴容操作。從最高層進行處理,新增一個HeadIndex,箇中參數:節點Node,down都爲最高層的Node和HeadIndex,right爲剛剛創建的對應層次的index,level爲相對應的層次level。最後通過CAS把當前的head與新加入層的head進行替換。

通過上面步驟我們發現,儘管已經找到了前輩節點,也將node插入了,也確定確定了層次並生成了相應的Index,但是並沒有將這些Index插入到相應的層次當中,所以下面的代碼就是將index插入到相對應的層當中。

  // 從插入的層次level開始
    splice: for (int insertionLevel = level;;) {
        int j = h.level;
        //  從headIndex開始
        for (ConcurrentSkipListMap.Index<K,V> q = h, r = q.right, t = idx;;) {
            if (q == null || t == null)
                break splice;

            // r != null;這裏是找到相應層次的插入節點位置,注意這裏只橫向找
            if (r != null) {
                ConcurrentSkipListMap.Node<K,V> n = r.node;

                int c = cpr(cmp, key, n.key);

                // n.value == null ,解除關係,r右移
                if (n.value == null) {
                    if (!q.unlink(r))
                        break;
                    r = q.right;
                    continue;
                }

                // key > n.key 右移
                if (c > 0) {
                    q = r;
                    r = r.right;
                    continue;
                }
            }

            // 上面找到節點要插入的位置,這裏就插入
            // 當前層是最頂層
            if (j == insertionLevel) {
                // 建立聯繫
                if (!q.link(r, t))
                    break; // restart
                if (t.node.value == null) {
                    findNode(key);
                    break splice;
                }
                // 標誌的插入層 -- ,如果== 0 ,表示已經到底了,插入完畢,退出循環
                if (--insertionLevel == 0)
                    break splice;
            }

            // 上面節點已經插入完畢了,插入下一個節點
            if (--j >= insertionLevel && j < level)
                t = t.down;
            q = q.down;
            r = q.right;
        }
    }// 從插入的層次level開始
    splice: for (int insertionLevel = level;;) {
        int j = h.level;
        //  從headIndex開始
        for (ConcurrentSkipListMap.Index<K,V> q = h, r = q.right, t = idx;;) {
            if (q == null || t == null)
                break splice;

            // r != null;這裏是找到相應層次的插入節點位置,注意這裏只橫向找
            if (r != null) {
                ConcurrentSkipListMap.Node<K,V> n = r.node;

                int c = cpr(cmp, key, n.key);

                // n.value == null ,解除關係,r右移
                if (n.value == null) {
                    if (!q.unlink(r))
                        break;
                    r = q.right;
                    continue;
                }

                // key > n.key 右移
                if (c > 0) {
                    q = r;
                    r = r.right;
                    continue;
                }
            }

            // 上面找到節點要插入的位置,這裏就插入
            // 當前層是最頂層
            if (j == insertionLevel) {
                // 建立聯繫
                if (!q.link(r, t))
                    break; // restart
                if (t.node.value == null) {
                    findNode(key);
                    break splice;
                }
                // 標誌的插入層 -- ,如果== 0 ,表示已經到底了,插入完畢,退出循環
                if (--insertionLevel == 0)
                    break splice;
            }

            // 上面節點已經插入完畢了,插入下一個節點
            if (--j >= insertionLevel && j < level)
                t = t.down;
            q = q.down;
            r = q.right;
        }
    }

這段代碼分爲兩部分看,一部分是找到相應層次的該節點插入的位置,第二部分在該位置插入,然後下移。

至此,ConcurrentSkipListMap的put操作到此就結束了。代碼量有點兒多,這裏總結下:

  1. 首先通過findPredecessor()方法找到前輩節點Node

  2. 根據返回的前輩節點以及key-value,新建Node節點,同時通過CAS設置next

  3. 設置節點Node,再設置索引節點。採取拋硬幣方式決定層次,如果所決定的層次大於現存的最大層次,則新增一層,然後新建一個Item鏈表。

  4. 最後,將新建的Item鏈表插入到SkipList結構中。

get操作

相比於put操作 ,get操作會簡單很多,其過程其實就只相當於put操作的第一步:

  private V doGet(Object key) {
        if (key == null)
            throw new NullPointerException();
        Comparator<? super K> cmp = comparator;
        outer: for (;;) {
            for (ConcurrentSkipListMap.Node<K,V> b = findPredecessor(key, cmp), n = b.next;;) {
                Object v; int c;
                if (n == null)
                    break outer;
                ConcurrentSkipListMap.Node<K,V> f = n.next;
                if (n != b.next)                // inconsistent read
                    break;
                if ((v = n.value) == null) {    // n is deleted
                    n.helpDelete(b, f);
                    break;
                }
                if (b.value == null || v == n)  // b is deleted
                    break;
                if ((c = cpr(cmp, key, n.key)) == 0) {
                    @SuppressWarnings("unchecked") V vv = (V)v;
                    return vv;
                }
                if (c < 0)
                    break outer;
                b = n;
                n = f;
            }
        }
        return null;
    }private V doGet(Object key) {
        if (key == null)
            throw new NullPointerException();
        Comparator<? super K> cmp = comparator;
        outer: for (;;) {
            for (ConcurrentSkipListMap.Node<K,V> b = findPredecessor(key, cmp), n = b.next;;) {
                Object v; int c;
                if (n == null)
                    break outer;
                ConcurrentSkipListMap.Node<K,V> f = n.next;
                if (n != b.next)                // inconsistent read
                    break;
                if ((v = n.value) == null) {    // n is deleted
                    n.helpDelete(b, f);
                    break;
                }
                if (b.value == null || v == n)  // b is deleted
                    break;
                if ((c = cpr(cmp, key, n.key)) == 0) {
                    @SuppressWarnings("unchecked") V vv = (V)v;
                    return vv;
                }
                if (c < 0)
                    break outer;
                b = n;
                n = f;
            }
        }
        return null;
    }

與put操作第一步相似,首先調用findPredecessor()方法找到前輩節點,然後順着right一直往右找即可,同時在這個過程中同樣承擔了一個刪除value爲null的節點的職責。

remove操作

remove操作爲刪除指定key節點,如下:

    public V remove(Object key) {
        return doRemove(key, null);
    }public V remove(Object key) {
        return doRemove(key, null);
    }

直接調用doRemove()方法,這裏remove有兩個參數,一個是key,另外一個是value,所以doRemove方法即提供remove key,也提供同時滿足key-value。

 final V doRemove(Object key, Object value) {
        if (key == null)
            throw new NullPointerException();
        Comparator<? super K> cmp = comparator;
        outer: for (;;) {
            for (ConcurrentSkipListMap.Node<K,V> b = findPredecessor(key, cmp), n = b.next;;) {
                Object v; int c;
                if (n == null)
                    break outer;
                ConcurrentSkipListMap.Node<K,V> f = n.next;

                // 不一致讀,重新開始
                if (n != b.next)                    // inconsistent read
                    break;

                // n節點已刪除
                if ((v = n.value) == null) {        // n is deleted
                    n.helpDelete(b, f);
                    break;
                }

                // b節點已刪除
                if (b.value == null || v == n)      // b is deleted
                    break;

                if ((c = cpr(cmp, key, n.key)) < 0)
                    break outer;

                // 右移
                if (c > 0) {
                    b = n;
                    n = f;
                    continue;
                }

                /*
                 * 找到節點
                 */

                // value != null 表示需要同時校驗key-value值
                if (value != null && !value.equals(v))
                    break outer;

                // CAS替換value
                if (!n.casValue(v, null))
                    break;
                if (!n.appendMarker(f) || !b.casNext(n, f))
                    findNode(key);                  // retry via findNode
                else {
                    // 清理節點
                    findPredecessor(key, cmp);      // clean index

                    // head.right == null表示該層已經沒有節點,刪掉該層
                    if (head.right == null)
                        tryReduceLevel();
                }
                @SuppressWarnings("unchecked") V vv = (V)v;
                return vv;
            }
        }
        return null;
    }final V doRemove(Object key, Object value) {
        if (key == null)
            throw new NullPointerException();
        Comparator<? super K> cmp = comparator;
        outer: for (;;) {
            for (ConcurrentSkipListMap.Node<K,V> b = findPredecessor(key, cmp), n = b.next;;) {
                Object v; int c;
                if (n == null)
                    break outer;
                ConcurrentSkipListMap.Node<K,V> f = n.next;

                // 不一致讀,重新開始
                if (n != b.next)                    // inconsistent read
                    break;

                // n節點已刪除
                if ((v = n.value) == null) {        // n is deleted
                    n.helpDelete(b, f);
                    break;
                }

                // b節點已刪除
                if (b.value == null || v == n)      // b is deleted
                    break;

                if ((c = cpr(cmp, key, n.key)) < 0)
                    break outer;

                // 右移
                if (c > 0) {
                    b = n;
                    n = f;
                    continue;
                }

                /*
                 * 找到節點
                 */

                // value != null 表示需要同時校驗key-value值
                if (value != null && !value.equals(v))
                    break outer;

                // CAS替換value
                if (!n.casValue(v, null))
                    break;
                if (!n.appendMarker(f) || !b.casNext(n, f))
                    findNode(key);                  // retry via findNode
                else {
                    // 清理節點
                    findPredecessor(key, cmp);      // clean index

                    // head.right == null表示該層已經沒有節點,刪掉該層
                    if (head.right == null)
                        tryReduceLevel();
                }
                @SuppressWarnings("unchecked") V vv = (V)v;
                return vv;
            }
        }
        return null;
    }

調用findPredecessor()方法找到前輩節點,然後通過右移,然後比較,找到後利用CAS把value替換爲null,然後判斷該節點是不是這層唯一的index,如果是的話,調用tryReduceLevel()方法把這層幹掉,完成刪除。

其實從這裏可以看出,remove方法僅僅是把Node的value設置null,並沒有真正刪除該節點Node,其實從上面的put操作、get操作我們可以看出,他們在尋找節點的時候都會判斷節點的value是否爲null,如果爲null,則調用unLink()方法取消關聯關係,如下:

                    if (n.value == null) {
                        if (!q.unlink(r))
                            break;           // restart
                        r = q.right;         // reread r
                        continue;
                    }if (n.value == null) {
                        if (!q.unlink(r))
                            break;           // restart
                        r = q.right;         // reread r
                        continue;
                    }

size操作

ConcurrentSkipListMap的size()操作和ConcurrentHashMap不同,它並沒有維護一個全局變量來統計元素的個數,所以每次調用該方法的時候都需要去遍歷。

    public int size() {
        long count = 0;
        for (Node<K,V> n = findFirst(); n != null; n = n.next) {
            if (n.getValidValue() != null)
                ++count;
        }
        return (count >= Integer.MAX_VALUE) ? Integer.MAX_VALUE : (int) count;
    }public int size() {
        long count = 0;
        for (Node<K,V> n = findFirst(); n != null; n = n.next) {
            if (n.getValidValue() != null)
                ++count;
        }
        return (count >= Integer.MAX_VALUE) ? Integer.MAX_VALUE : (int) count;
    }

調用findFirst()方法找到第一個Node,然後利用node的next去統計。最後返回統計數據,最多能返回Integer.MAX_VALUE。注意這裏在線程併發下是安全的。

ConcurrentSkipListMap過程其實不復雜,相比於ConcurrentHashMap而言,是簡單的不能再簡單了。對跳錶SkipList熟悉的話,ConcurrentSkipListMap 應該是盤中餐了。

Java併發編程:併發容器之CopyOnWriteArrayList(轉載)

 

  原文鏈接:

  http://ifeve.com/java-copy-on-write/

  

  Copy-On-Write簡稱COW,是一種用於程序設計中的優化策略。其基本思路是,從一開始大家都在共享同一個內容,當某個人想要修改這個內容的時候,纔會真正把內容Copy出去形成一個新的內容然後再改,這是一種延時懶惰策略。從JDK1.5開始Java併發包裏提供了兩個使用CopyOnWrite機制實現的併發容器,它們是CopyOnWriteArrayList和CopyOnWriteArraySet。CopyOnWrite容器非常有用,可以在非常多的併發場景中使用到。

什麼是CopyOnWrite容器

  CopyOnWrite容器即寫時複製的容器。通俗的理解是當我們往一個容器添加元素的時候,不直接往當前容器添加,而是先將當前容器進行Copy,複製出一個新的容器,然後新的容器裏添加元素,添加完元素之後,再將原容器的引用指向新的容器。這樣做的好處是我們可以對CopyOnWrite容器進行併發的讀,而不需要加鎖,因爲當前容器不會添加任何元素。所以CopyOnWrite容器也是一種讀寫分離的思想,讀和寫不同的容器。

CopyOnWriteArrayList的實現原理

  在使用CopyOnWriteArrayList之前,我們先閱讀其源碼瞭解下它是如何實現的。以下代碼是向CopyOnWriteArrayList中add方法的實現(向CopyOnWriteArrayList裏添加元素),可以發現在添加的時候是需要加鎖的,否則多線程寫的時候會Copy出N個副本出來。

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

/**

     * Appends the specified element to the end of this list.

     *

     * @param e element to be appended to this list

     * @return <tt>true</tt> (as specified by {@link Collection#add})

     */

    public boolean add(E e) {

    final ReentrantLock lock = this.lock;

    lock.lock();

    try {

        Object[] elements = getArray();

        int len = elements.length;

        Object[] newElements = Arrays.copyOf(elements, len + 1);

        newElements[len] = e;

        setArray(newElements);

        return true;

    finally {

        lock.unlock();

    }

    }

   讀的時候不需要加鎖,如果讀的時候有多個線程正在向CopyOnWriteArrayList添加數據,讀還是會讀到舊的數據,因爲寫的時候不會鎖住舊的CopyOnWriteArrayList。

1

2

3

public E get(int index) {

    return get(getArray(), index);

}

   JDK中並沒有提供CopyOnWriteMap,我們可以參考CopyOnWriteArrayList來實現一個,基本代碼如下:

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

32

33

import java.util.Collection;

import java.util.Map;

import java.util.Set;

 

public class CopyOnWriteMap<K, V> implements Map<K, V>, Cloneable {

    private volatile Map<K, V> internalMap;

 

    public CopyOnWriteMap() {

        internalMap = new HashMap<K, V>();

    }

 

    public V put(K key, V value) {

 

        synchronized (this) {

            Map<K, V> newMap = new HashMap<K, V>(internalMap);

            V val = newMap.put(key, value);

            internalMap = newMap;

            return val;

        }

    }

 

    public V get(Object key) {

        return internalMap.get(key);

    }

 

    public void putAll(Map<? extends K, ? extends V> newData) {

        synchronized (this) {

            Map<K, V> newMap = new HashMap<K, V>(internalMap);

            newMap.putAll(newData);

            internalMap = newMap;

        }

    }

}

   實現很簡單,只要瞭解了CopyOnWrite機制,我們可以實現各種CopyOnWrite容器,並且在不同的應用場景中使用。

CopyOnWrite的應用場景

  CopyOnWrite併發容器用於讀多寫少的併發場景。比如白名單,黑名單,商品類目的訪問和更新場景,假如我們有一個搜索網站,用戶在這個網站的搜索框中,輸入關鍵字搜索內容,但是某些關鍵字不允許被搜索。這些不能被搜索的關鍵字會被放在一個黑名單當中,黑名單每天晚上更新一次。當用戶搜索時,會檢查當前關鍵字在不在黑名單當中,如果在,則提示不能搜索。實現代碼如下:

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

32

33

34

35

package com.ifeve.book;

 

import java.util.Map;

 

import com.ifeve.book.forkjoin.CopyOnWriteMap;

 

/**

 * 黑名單服務

 *

 * @author fangtengfei

 *

 */

public class BlackListServiceImpl {

 

    private static CopyOnWriteMap<String, Boolean> blackListMap = new CopyOnWriteMap<String, Boolean>(

            1000);

 

    public static boolean isBlackList(String id) {

        return blackListMap.get(id) == null false true;

    }

 

    public static void addBlackList(String id) {

        blackListMap.put(id, Boolean.TRUE);

    }

 

    /**

     * 批量添加黑名單

     *

     * @param ids

     */

    public static void addBlackList(Map<String,Boolean> ids) {

        blackListMap.putAll(ids);

    }

 

}

   代碼很簡單,但是使用CopyOnWriteMap需要注意兩件事情:

  1. 減少擴容開銷。根據實際需要,初始化CopyOnWriteMap的大小,避免寫時CopyOnWriteMap擴容的開銷。

  2. 使用批量添加。因爲每次添加,容器每次都會進行復制,所以減少添加次數,可以減少容器的複製次數。如使用上面代碼裏的addBlackList方法。

CopyOnWrite的缺點

  CopyOnWrite容器有很多優點,但是同時也存在兩個問題,即內存佔用問題和數據一致性問題。所以在開發的時候需要注意一下。

  內存佔用問題。因爲CopyOnWrite的寫時複製機制,所以在進行寫操作的時候,內存裏會同時駐紮兩個對象的內存,舊的對象和新寫入的對象(注意:在複製的時候只是複製容器裏的引用,只是在寫的時候會創建新對象添加到新容器裏,而舊容器的對象還在使用,所以有兩份對象內存)。如果這些對象佔用的內存比較大,比如說200M左右,那麼再寫入100M數據進去,內存就會佔用300M,那麼這個時候很有可能造成頻繁的Yong GC和Full GC。之前我們系統中使用了一個服務由於每晚使用CopyOnWrite機制更新大對象,造成了每晚15秒的Full GC,應用響應時間也隨之變長。

  針對內存佔用問題,可以通過壓縮容器中的元素的方法來減少大對象的內存消耗,比如,如果元素全是10進制的數字,可以考慮把它壓縮成36進制或64進制。或者不使用CopyOnWrite容器,而使用其他的併發容器,如ConcurrentHashMap

  數據一致性問題。CopyOnWrite容器只能保證數據的最終一致性,不能保證數據的實時一致性。所以如果你希望寫入的的數據,馬上能讀到,請不要使用CopyOnWrite容器。

  

  下面這篇文章驗證了CopyOnWriteArrayList和同步容器的性能:

  http://blog.csdn.net/wind5shy/article/details/5396887

  下面這篇文章簡單描述了CopyOnWriteArrayList的使用:

  http://blog.csdn.net/imzoer/article/details/9751591



發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章