隊列
隊列是一種特殊的線性表，特殊之處在於它只允許在表的前端（front）進行刪除操作，而在表的後端（rear）進行插入操作，和棧一樣，隊列是一種操作受限制的線性表。進行插入操作的端稱爲隊尾，進行刪除操作的端稱爲隊頭。
在隊列中插入一個隊列元素稱爲入隊，從隊列中刪除一個隊列元素稱爲出隊。因爲隊列只允許在一端插入，在另一端刪除，所以只有最早進入隊列的元素才能最先從隊列中刪除，故隊列又稱爲先進先出（FIFO—first in first out）線性表
阻塞隊列
1）支持阻塞的插入方法：意思是當隊列滿時，隊列會阻塞插入元素的線程，直到隊列不滿。
2）支持阻塞的移除方法：意思是在隊列爲空時，獲取元素的線程會等待隊列變爲非空。
常用於實現生產者和消費者模式
常用阻塞隊列
ArrayBlockingQueue：一個由數組結構組成的有界阻塞隊列。
LinkedBlockingQueue：一個由鏈表結構組成的有界阻塞隊列。
PriorityBlockingQueue：一個支持優先級排序的無界阻塞隊列。
DelayQueue：一個使用優先級隊列實現的無界阻塞隊列。
SynchronousQueue：一個不存儲元素的阻塞隊列。
LinkedTransferQueue：一個由鏈表結構組成的無界阻塞隊列。
LinkedBlockingDeque：一個由鏈表結構組成的雙向阻塞隊列。
以上的阻塞隊列都實現了BlockingQueue接口，也都是線程安全的。
有界無界
有限隊列就是長度有限，滿了以後生產者會阻塞，無界隊列就是裏面能放無數的東西而不會因爲隊列長度限制被阻塞，空間限制來源於系統資源的限制
爲什麼無界隊列也會阻塞？因爲阻塞不僅僅體現在生產者放入元素時會阻塞，消費者拿取元素時，如果沒有元素，同樣也會阻塞。
ArrayBlockingQueue
是一個用數組實現的有界阻塞隊列。此隊列按照先進先出（FIFO）的原則對元素進行排序。默認情況下不保證線程公平的訪問隊列，所謂公平訪問隊列是指阻塞的線程，可以按照阻塞的先後順序訪問隊列，即先阻塞線程先訪問隊列。非公平性是對先等待的線程是非公平的，當隊列可用時，阻塞的線程都可以爭奪訪問隊列的資格，有可能先阻塞的線程最後才訪問隊列。初始化時有參數可以設置隊列大小。
LinkedBlockingQueue
是一個用鏈表實現的有界阻塞隊列。此隊列的默認和最大長度爲Integer.MAX_VALUE。此隊列按照先進先出的原則對元素進行排序
Array實現和Linked實現的區別
- 隊列中鎖的實現不同
ArrayBlockingQueue實現的隊列中的鎖是沒有分離的，即生產和消費用的是同一個鎖；
LinkedBlockingQueue實現的隊列中的鎖是分離的，即生產用的是putLock，消費是takeLock - 在生產或消費時操作不同
ArrayBlockingQueue實現的隊列中在生產和消費的時候，是直接將枚舉對象插入或移除的；
LinkedBlockingQueue實現的隊列中在生產和消費的時候，需要把枚舉對象轉換爲Node<E>進行插入或移除，會影響性能 - 隊列大小初始化方式不同
ArrayBlockingQueue實現的隊列中必須指定隊列的大小；
LinkedBlockingQueue實現的隊列中可以不指定隊列的大小，但是默認是Integer.MAX_VALUE
PriorityBlockingQueue
PriorityBlockingQueue是一個支持優先級的無界阻塞隊列。默認情況下元素採取自然順序升序排列。也可以自定義類實現compareTo()方法來指定元素排序規則，或者初始化PriorityBlockingQueue時，指定構造參數Comparator來對元素進行排序。需要注意的是不能保證同優先級元素的順序。
DelayQueue
是一個支持延時獲取元素的無界阻塞隊列。隊列使用PriorityQueue來實現。隊列中的元素必須實現Delayed接口，在創建元素時可以指定多久才能從隊列中獲取當前元素。只有在延遲期滿時才能從隊列中提取元素。
DelayQueue非常有用，可以將DelayQueue運用在以下應用場景。
緩存系統的設計：可以用DelayQueue保存緩存元素的有效期，使用一個線程循環查詢DelayQueue，一旦能從DelayQueue中獲取元素時，表示緩存有效期到了。
SynchronousQueue
是一個不存儲元素的阻塞隊列。每一個put操作必須等待一個take操作，否則不能繼續添加元素。SynchronousQueue可以看成是一個傳球手，負責把生產者線程處理的數據直接傳遞給消費者線程。隊列本身並不存儲任何元素，非常適合傳遞性場景。SynchronousQueue的吞吐量高於LinkedBlockingQueue和ArrayBlockingQueue。
LinkedTransferQueue
多了tryTransfer和transfer方法，
（1）transfer方法
如果當前有消費者正在等待接收元素（消費者使用take()方法或帶時間限制的poll()方法時），transfer方法可以把生產者傳入的元素立刻transfer（傳輸）給消費者。如果沒有消費者在等待接收元素，transfer方法會將元素存放在隊列的tail節點，並等到該元素被消費者消費了才返回。
（2）tryTransfer方法
tryTransfer方法是用來試探生產者傳入的元素是否能直接傳給消費者。如果沒有消費者等待接收元素，則返回false。和transfer方法的區別是tryTransfer方法無論消費者是否接收，方法立即返回，而transfer方法是必須等到消費者消費了才返回。
LinkedBlockingDeque
LinkedBlockingDeque是一個由鏈表結構組成的雙向阻塞隊列。所謂雙向隊列指的是可以從隊列的兩端插入和移出元素。雙向隊列因爲多了一個操作隊列的入口，在多線程同時入隊時，也就減少了一半的競爭。
多了addFirst、addLast、offerFirst、offerLast、peekFirst和peekLast等方法，以First單詞結尾的方法，表示插入、獲取（peek）或移除雙端隊列的第一個元素。以Last單詞結尾的方法，表示插入、獲取或移除雙端隊列的最後一個元素。另外，插入方法add等同於addLast，移除方法remove等效於removeFirst。但是take方法卻等同於takeFirst，不知道是不是JDK的bug，使用時還是用帶有First和Last後綴的方法更清楚。在初始化LinkedBlockingDeque時可以設置容量防止其過度膨脹。另外，雙向阻塞隊列可以運用在“工作竊取”模式中。
線程池
爲什麼要用線程池？
合理地使用線程池能夠帶來3個好處：
1.降低資源消耗。通過重複利用已創建的線程降低線程創建和銷燬造成的消耗。
2.提高響應速度。當任務到達時，任務可以不需要等到線程創建就能立即執行。假設一個服務器完成一項任務所需時間爲：T1 創建線程時間，T2 在線程中執行任務的時間，T3 銷燬線程時間。 如果：T1 + T3 遠大於 T2，則可以採用線程池，以提高服務器性能。線程池技術正是關注如何縮短或調整T1,T3時間的技術，從而提高服務器程序性能的。它把T1，T3分別安排在服務器程序的啓動和結束的時間段或者一些空閒的時間段，這樣在服務器程序處理客戶請求時，不會有T1，T3的開銷了。
3.提高線程的可管理性。線程是稀缺資源，如果無限制地創建，不僅會消耗系統資源，還會降低系統的穩定性，使用線程池可以進行統一分配、調優和監控。
ThreadPoolExecutor 的類關係
Executor是一個接口，它是Executor框架的基礎，它將任務的提交與任務的執行分離開來。
ExecutorService接口繼承了Executor，在其上做了一些shutdown()、submit()的擴展，可以說是真正的線程池接口；
AbstractExecutorService抽象類實現了ExecutorService接口中的大部分方法；
ThreadPoolExecutor是線程池的核心實現類，用來執行被提交的任務。
ScheduledExecutorService接口繼承了ExecutorService接口，提供了帶"週期執行"功能ExecutorService；
ScheduledThreadPoolExecutor是一個實現類，可以在給定的延遲後運行命令，或者定期執行命令。ScheduledThreadPoolExecutor比Timer更靈活，功能更強大。
線程池參數含義
public ThreadPoolExecutor(int corePoolSize,int maximumPoolSize,long keepAliveTime,TimeUnit unit,BlockingQueue<Runnable> workQueue,ThreadFactory threadFactory,RejectedExecutionHandler handler)
corePoolSize
線程池中的核心線程數，當提交一個任務時，線程池創建一個新線程執行任務，直到當前線程數等於corePoolSize；
如果當前線程數爲corePoolSize，繼續提交的任務被保存到阻塞隊列中，等待被執行；
如果執行了線程池的prestartAllCoreThreads()方法，線程池會提前創建並啓動所有核心線程。
maximumPoolSize
線程池中允許的最大線程數。如果當前阻塞隊列滿了，且繼續提交任務，則創建新的線程執行任務，前提是當前線程數小於maximumPoolSize
keepAliveTime
線程空閒時的存活時間，即當線程沒有任務執行時，繼續存活的時間。默認情況下，該參數只在線程數大於corePoolSize時纔有用
TimeUnit
keepAliveTime的時間單位
workQueue
workQueue必須是BlockingQueue阻塞隊列。當線程池中的線程數超過它的corePoolSize的時候，線程會進入阻塞隊列進行阻塞等待。通過workQueue，線程池實現了阻塞功能。
一般來說，我們應該儘量使用有界隊列，因爲使用無界隊列作爲工作隊列會對線程池帶來如下影響。
1）當線程池中的線程數達到corePoolSize後，新任務將在無界隊列中等待，因此線程池中的線程數不會超過corePoolSize。
2）由於1，使用無界隊列時maximumPoolSize將是一個無效參數。
3）由於1和2，使用無界隊列時keepAliveTime將是一個無效參數。
4）更重要的，使用無界queue可能會耗盡系統資源，有界隊列則有助於防止資源耗盡，同時即使使用有界隊列，也要儘量控制隊列的大小在一個合適的範圍。
threadFactory
創建線程的工廠，通過自定義的線程工廠可以給每個新建的線程設置一個具有識別度的線程名，當然還可以更加自由的對線程做更多的設置，比如設置所有的線程爲守護線程。
Executors靜態工廠裏默認的threadFactory，線程的命名規則是“pool-數字-thread-數字”。
RejectedExecutionHandler
線程池的飽和策略，當阻塞隊列滿了，且沒有空閒的工作線程，如果繼續提交任務，必須採取一種策略處理該任務，線程池提供了4種策略：
（1）AbortPolicy：直接拋出異常，默認策略；
（2）CallerRunsPolicy：用調用者所在的線程來執行任務；
（3）DiscardOldestPolicy：丟棄阻塞隊列中靠最前的任務，並執行當前任務；
（4）DiscardPolicy：直接丟棄任務；
當然也可以根據應用場景實現RejectedExecutionHandler接口，自定義飽和策略，如記錄日誌或持久化存儲不能處理的任務。
線程池的工作機制
1.如果當前運行的線程少於corePoolSize，則創建新線程來執行任務（注意，執行這一步驟需要獲取全局鎖）。
2.如果運行的線程等於或多於corePoolSize，則將任務加入BlockingQueue。
3.如果無法將任務加入BlockingQueue（隊列已滿），則創建新的線程來處理任務。
4.如果創建新線程將使當前運行的線程超出maximumPoolSize，任務將被拒絕，並調用RejectedExecutionHandler.rejectedExecution()方法。
提交任務
execute()方法用於提交不需要返回值的任務，所以無法判斷任務是否被線程池執行成功。
submit()方法用於提交需要返回值的任務。線程池會返回一個future類型的對象，通過這個future對象可以判斷任務是否執行成功，並且可以通過future的get()方法來獲取返回值，get()方法會阻塞當前線程直到任務完成，而使用get（long timeout，TimeUnit unit）方法則會阻塞當前線程一段時間後立即返回，這時候有可能任務沒有執行完。
關閉線程池
可以通過調用線程池的shutdown或shutdownNow方法來關閉線程池。它們的原理是遍歷線程池中的工作線程，然後逐個調用線程的interrupt方法來中斷線程，所以無法響應中斷的任務可能永遠無法終止。但是它們存在一定的區別，shutdownNow首先將線程池的狀態設置成STOP，然後嘗試停止所有的正在執行或暫停任務的線程，並返回等待執行任務的列表，而shutdown只是將線程池的狀態設置成SHUTDOWN狀態，然後中斷所有沒有正在執行任務的線程。
只要調用了這兩個關閉方法中的任意一個，isShutdown方法就會返回true。當所有的任務都已關閉後，才表示線程池關閉成功，這時調用isTerminaed方法會返回true。至於應該調用哪一種方法來關閉線程池，應該由提交到線程池的任務特性決定，通常調用shutdown方法來關閉線程池，如果任務不一定要執行完，則可以調用shutdownNow方法。
合理地配置線程池
要想合理地配置線程池，就必須首先分析任務特性，可以從以下幾個角度來分析。
任務的性質：CPU密集型任務、IO密集型任務和混合型任務。
任務的優先級：高、中和低。
任務的執行時間：長、中和短。
任務的依賴性：是否依賴其他系統資源，如數據庫連接。
性質不同的任務可以用不同規模的線程池分開處理。
CPU密集型任務應配置儘可能小的線程，如配置Ncpu+1個線程的線程池。防止線程不斷切換產生過多的開銷
由於IO密集型任務線程並不是一直在執行任務，則應配置儘可能多的線程，如2*Ncpu。IO密集型一般單個任務執行時間偏長，爲了防止其他任務進入等待，所以需要多創建線程
混合型的任務，如果可以拆分，將其拆分成一個CPU密集型任務和一個IO密集型任務，只要這兩個任務執行的時間相差不是太大，那麼分解後執行的吞吐量將高於串行執行的吞吐量。如果這兩個任務執行時間相差太大，則沒必要進行分解。可以通過Runtime.getRuntime().availableProcessors()方法獲得當前設備的CPU個數。
優先級不同的任務可以使用優先級隊列PriorityBlockingQueue來處理。它可以讓優先級高的任務先執行。
執行時間不同的任務可以交給不同規模的線程池來處理，或者可以使用優先級隊列，讓執行時間短的任務先執行。
建議使用有界隊列。有界隊列能增加系統的穩定性和預警能力，可以根據需要設大一點兒，比如幾千。
如果當時我們設置成無界隊列，那麼線程池的隊列就會越來越多，有可能會撐滿內存，導致整個系統不可用，而不只是後臺任務出現問題。