池的概念
由於服務器的硬件資源“充裕”，那麼提高服務器性能的一個很直接的方法就是以空間換時間，即“浪費”服務器的硬件資源，以換取其運行效率。這就是池的概念。池是一組資源的集合，這組資源在服務器啓動之初就完全被創建並初始化，這稱爲靜態資源分配。當服務器進入正式運行階段，即開始處理客戶請求的時候，如果它需要相關的資源，就可以直接從池中獲取，無需動態分配。很顯然，直接從池中取得所需資源比動態分配資源的速度要快得多，因爲分配系統資源的系統調用都是很耗時的。當服務器處理完一個客戶連接後，可以把相關的資源放回池中，無需執行系統調用來釋放資源。從最終效果來看，池相當於服務器管理系統資源的應用設施，它避免了服務器對內核的頻繁訪問。
池可以分爲多種，常見的有內存池、進程池、線程池和連接池。
內存池
內存池是一種內存分配方式。通常我們習慣直接使用new、malloc等系統調用申請分配內存，這樣做的缺點在於：由於所申請內存塊的大小不定，當頻繁使用時會造成大量的內存碎片並進而降低性能。
內存池則是在真正使用內存之前，先申請分配一定數量的、大小相等(一般情況下)的內存塊留作備用。當有新的內存需求時，就從內存池中分出一部分內存塊，若內存塊不夠再繼續申請新的內存。這樣做的一個顯著優點是，使得內存分配效率得到提升。
進程池和線程池
進程池和線程池相似，所以這裏我們以進程池爲例進行介紹。如沒有特殊聲明，下面對進程池的描述也適用於線程池。
進程池是由服務器預先創建的一組子進程，這些子進程的數目在 3~10 個之間（當然這只是典型情況）。線程池中的線程數量應該和 CPU 數量差不多。
進程池中的所有子進程都運行着相同的代碼，並具有相同的屬性，比如優先級、 PGID 等。
當有新的任務來到時，主進程將通過某種方式選擇進程池中的某一個子進程來爲之服務。相比於動態創建子進程，選擇一個已經存在的子進程的代價顯得小得多。至於主進程選擇哪個子進程來爲新任務服務，則有兩種方法：
1）主進程使用某種算法來主動選擇子進程。最簡單、最常用的算法是隨機算法和 Round Robin （輪流算法）。
2）主進程和所有子進程通過一個共享的工作隊列來同步，子進程都睡眠在該工作隊列上。當有新的任務到來時，主進程將任務添加到工作隊列中。這將喚醒正在等待任務的子進程，不過只有一個子進程將獲得新任務的“接管權”，它可以從工作隊列中取出任務並執行之，而其他子進程將繼續睡眠在工作隊列上。
當選擇好子進程後，主進程還需要使用某種通知機制來告訴目標子進程有新任務需要處理，並傳遞必要的數據。最簡單的方式是，在父進程和子進程之間預先建立好一條管道，然後通過管道來實現所有的進程間通信。在父線程和子線程之間傳遞數據就要簡單得多，因爲我們可以把這些數據定義爲全局，那麼它們本身就是被所有線程共享的。
線程池主要用於：
1）需要大量的線程來完成任務，且完成任務的時間比較短。 比如WEB服務器完成網頁請求這樣的任務，使用線程池技術是非常合適的。因爲單個任務小，而任務數量巨大。但對於長時間的任務，比如一個Telnet連接請求，線程池的優點就不明顯了。因爲Telnet會話時間比線程的創建時間大多了。
2）對性能要求苛刻的應用，比如要求服務器迅速響應客戶請求。
3）接受突發性的大量請求，但不至於使服務器因此產生大量線程的應用。
