分佈式自增ID算法---雪花算法 (snowflake,Java版)

一般情況,實現全局唯一ID,有三種方案,分別是通過中間件方式、UUID、雪花算法。

  • 方案一,通過中間件方式,可以是把數據庫或者redis緩存作爲媒介,從中間件獲取ID。這種呢,優點是可以體現全局的遞增趨勢(優點只能想到這個),缺點呢,倒是一大堆,比如,依賴中間件,假如中間件掛了,就不能提供服務了;依賴中間件的寫入和事務,會影響效率;數據量大了的話,你還得考慮部署集羣,考慮走代理。這樣的話,感覺問題複雜化了

  • 方案二,通過UUID的方式,java.util.UUID就提供了獲取UUID的方法,使用UUID來實現全局唯一ID,優點是操作簡單,也能實現全局唯一的效果,缺點呢,就是不能體現全局視野的遞增趨勢;太長了,UUID是32位,有點浪費;最重要的,是插入的效率低,因爲呢,我們使用mysql的話,一般都是B+tree的結構來存儲索引,假如是數據庫自帶的那種主鍵自增,節點滿了,會裂變出新的節點,新節點滿了,再去裂變新的節點,這樣利用率和效率都很高。而UUID是無序的,會造成中間節點的分裂,也會造成不飽和的節點,插入的效率自然就比較低下了。

  • 方案三,基於redis生成全局id策略,因爲Redis是單線的天生保證原子性,可以使用原子性操作INCR和INCRBY來實現,注意在Redis集羣情況下,同MySQL一樣需要設置不同的增長步長,同時key一定要設置有效期,可以使用Redis集羣來獲取更高的吞吐量

  • 方案四,通過snowflake算法如下:

SnowFlake算法生成id的結果是一個64bit大小的整數,它的結構如下圖:

在這裏插入圖片描述

1位,不用。二進制中最高位爲1的都是負數,但是我們生成的id一般都使用整數,所以這個最高位固定是0
41位,用來記錄時間戳(毫秒)。

41位可以表示 2 41 − 1 2^{41}-1 2411個數字,
如果只用來表示正整數(計算機中正數包含0),可以表示的數值範圍是:0 至 2 41 − 1 2^{41}-1 2411,減1是因爲可表示的數值範圍是從0開始算的,而不是1。
也就是說41位可以表示 2 41 − 1 2^{41}-1 2411個毫秒的值,轉化成單位年則是 ( 2 41 − 1 ) / ( 1000 ∗ 60 ∗ 60 ∗ 24 ∗ 365 ) = 69 (2^{41}-1) / (1000 * 60 * 60 * 24 * 365) = 69 (2411)/(1000606024365)=69
10位,用來記錄工作機器id。


可以部署在 2 10 = 1024 2^{10} = 1024 210=1024個節點,包括5位datacenterId和5位workerId
5位(bit)可以表示的最大正整數是 2 5 − 1 = 31 2^{5}-1 = 31 251=31,即可以用0、1、2、3、…31這32個數字,來表示不同的datecenterId或workerId
12位,序列號,用來記錄同毫秒內產生的不同id。

12位(bit)可以表示的最大正整數是 2 12 − 1 = 4095 2^{12}-1 = 4095 2121=4095,即可以用0、1、2、3、…4094這4095個數字,來表示同一機器同一時間截(毫秒)內產生的4095個ID序號
  由於在Java中64bit的整數是long類型,所以在Java中SnowFlake算法生成的id就是long來存儲的。

SnowFlake可以保證:

所有生成的id按時間趨勢遞增
整個分佈式系統內不會產生重複id(因爲有datacenterId和workerId來做區分)
  以下是Twitter官方原版的,用Scala寫的:
View Code
  Java版:



package com.test.util;
/**
 * Twitter_Snowflake<br>
 * SnowFlake的結構如下(每部分用-分開):<br>
 * 0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000 <br>
 * 1位標識,由於long基本類型在Java中是帶符號的,最高位是符號位,正數是0,負數是1,所以id一般是正數,最高位是0<br>
 * 41位時間截(毫秒級),注意,41位時間截不是存儲當前時間的時間截,而是存儲時間截的差值(當前時間截 - 開始時間截)
 * 得到的值),這裏的的開始時間截,一般是我們的id生成器開始使用的時間,由我們程序來指定的(如下下面程序IdWorker類的startTime屬性)。41位的時間截,可以使用69年,年T = (1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69<br>
 * 10位的數據機器位,可以部署在1024個節點,包括5位datacenterId和5位workerId<br>
 * 12位序列,毫秒內的計數,12位的計數順序號支持每個節點每毫秒(同一機器,同一時間截)產生4096個ID序號<br>
 * 加起來剛好64位,爲一個Long型。<br>
 * SnowFlake的優點是,整體上按照時間自增排序,並且整個分佈式系統內不會產生ID碰撞(由數據中心ID和機器ID作區分),並且效率較高,經測試,SnowFlake每秒能夠產生26萬ID左右。
 */
public class SnowflakeIdWorker {
   
   

    // ==============================Fields===========================================//加入Java開發交流君樣:756584822一起吹水聊天
    /** 開始時間截 (2015-01-01) */
    private final long twepoch = 1420041600000L;

    /** 機器id所佔的位數 */
    private final long workerIdBits = 5L;

    /** 數據標識id所佔的位數 */
    private final long datacenterIdBits = 5L;

    /** 支持的最大機器id,結果是31 (這個移位算法可以很快的計算出幾位二進制數所能表示的最大十進制數) */
    private final long maxWorkerId = -1L ^ (-1L << workerIdBits);

    /** 支持的最大數據標識id,結果是31 */
    private final long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);

    /** 序列在id中佔的位數 */
    private final long sequenceBits = 12L;

    /** 機器ID向左移12位 */
    private final long workerIdShift = sequenceBits;

    /** 數據標識id向左移17位(12+5) */
    private final long datacenterIdShift = sequenceBits + workerIdBits;

    /** 時間截向左移22位(5+5+12) */
    private final long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;

    /** 生成序列的掩碼,這裏爲4095 (0b111111111111=0xfff=4095) */
    private final long sequenceMask = -1L ^ (-1L << sequenceBits);
//加入Java開發交流君樣:756584822一起吹水聊天
    /** 工作機器ID(0~31) */
    private long workerId;

    /** 數據中心ID(0~31) */
    private long datacenterId;

    /** 毫秒內序列(0~4095) */
    private long sequence = 0L;

    /** 上次生成ID的時間截 */
    private long lastTimestamp = -1L;

    //==============================Constructors=====================================
    /**
     * 構造函數
     * @param workerId 工作ID (0~31)
     * @param datacenterId 數據中心ID (0~31)
     */
    public SnowflakeIdWorker(long workerId, long datacenterId) {
   
   
        if (workerId > maxWorkerId || workerId < 0) {
   
   
            throw new IllegalArgumentException(String.format("worker Id can't be greater than %d or less than 0", maxWorkerId));
        }
        if (datacenterId > maxDatacenterId || datacenterId < 0) {
   
   
            throw new IllegalArgumentException(String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId));
        }
        this.workerId = workerId;
        this.datacenterId = datacenterId;
    }

    // ==============================Methods==========================================
    /**
     * 獲得下一個ID (該方法是線程安全的)
     * @return SnowflakeId
     */
    public synchronized long nextId() {
   
   
        long timestamp = timeGen();

        //如果當前時間小於上一次ID生成的時間戳,說明系統時鐘回退過這個時候應當拋出異常
        if (timestamp < lastTimestamp) {
   
   
            throw new RuntimeException(
                    String.format("Clock moved backwards.  Refusing to generate id for %d milliseconds", lastTimestamp - timestamp));
        }

        //如果是同一時間生成的,則進行毫秒內序列
        if (lastTimestamp == timestamp) {
   
   
            sequence = (sequence + 1) & sequenceMask;
            //毫秒內序列溢出
            if (sequence == 0) {
   
   
                //阻塞到下一個毫秒,獲得新的時間戳
                timestamp = tilNextMillis(lastTimestamp);
            }
        }
        //時間戳改變,毫秒內序列重置
        else {
   
   
            sequence = 0L;
        }

        //上次生成ID的時間截
        lastTimestamp = timestamp;

        //移位並通過或運算拼到一起組成64位的ID
        return ((timestamp - twepoch) << timestampLeftShift) //
                | (datacenterId << datacenterIdShift) //
                | (workerId << workerIdShift) //
                | sequence;
    }

    /**
     * 阻塞到下一個毫秒,直到獲得新的時間戳
     * @param lastTimestamp 上次生成ID的時間截
     * @return 當前時間戳
     */
    protected long tilNextMillis(long lastTimestamp) {
   
   
        long timestamp = timeGen();
        while (timestamp <= lastTimestamp) {
   
   
            timestamp = timeGen();
        }
        return timestamp;
    }
//加入Java開發交流君樣:756584822一起吹水聊天
    /**
     * 返回以毫秒爲單位的當前時間
     * @return 當前時間(毫秒)
     */
    protected long timeGen() {
   
   
        return System.currentTimeMillis();
    }

    //==============================Test=============================================
    /** 測試 *///加入Java開發交流君樣:756584822一起吹水聊天
    public static void main(String[] args) {
   
   
        SnowflakeIdWorker idWorker = new SnowflakeIdWorker(0, 0);

        for (int i = 0; i < 100; i++) {
   
   
            long id = idWorker.nextId();
            System.out.println(Long.toBinaryString(id));
            System.out.println(id);
        }
    }
}

image

最新2020整理收集的一些高頻面試題(都整理成文檔),有很多幹貨,包含mysql,netty,spring,線程,spring cloud、jvm、源碼、算法等詳細講解,也有詳細的學習規劃圖,面試題整理等,需要獲取這些內容的朋友請加Q君樣:756584822

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章