進程池線程池

池的概念

由於服務器的硬件資源“充裕”，那麼提高服務器性能的一個很直接的方法就是以空間換時間，即“浪費”服務器的硬件資源，以換取其運行效率。這就是池的概念。池是一組資源的集合，這組資源在服務器啓動之初就完全被創建並初始化，這稱爲靜態資源分配。當服務器進入正式運行階段，即開始處理客戶請求的時候，如果它需要相關的資源，就可以直接從池中獲取，無需動態分配。很顯然，直接從池中取得所需資源比動態分配資源的速度要快得多，因爲分配系統資源的系統調用都是很耗時的。當服務器處理完一個客戶連接後，可以把相關的資源放回池中，無需執行系統調用來釋放資源。從最終效果來看，池相當於服務器管理系統資源的應用設施，它避免了服務器對內核的頻繁訪問。

池可以分爲多種，常見的有內存池、進程池、線程池和連接池。

---

內存池

內存池是一種內存分配方式。通常我們習慣直接使用new、malloc等系統調用申請分配內存，這樣做的缺點在於：由於所申請內存塊的大小不定，當頻繁使用時會造成大量的內存碎片並進而降低性能。

內存池則是在真正使用內存之前，先申請分配一定數量的、大小相等(一般情況下)的內存塊留作備用。當有新的內存需求時，就從內存池中分出一部分內存塊，若內存塊不夠再繼續申請新的內存。這樣做的一個顯著優點是，使得內存分配效率得到提升。

---

進程池和線程池

進程池和線程池相似，所以這裏我們以進程池爲例進行介紹。如沒有特殊聲明，下面對進程池的描述也適用於線程池。

進程池是由服務器預先創建的一組子進程，這些子進程的數目在 3~10 個之間（當然這只是典型情況）。線程池中的線程數量應該和 CPU 數量差不多。

進程池中的所有子進程都運行着相同的代碼，並具有相同的屬性，比如優先級、 PGID 等。

當有新的任務來到時，主進程將通過某種方式選擇進程池中的某一個子進程來爲之服務。相比於動態創建子進程，選擇一個已經存在的子進程的代價顯得小得多。至於主進程選擇哪個子進程來爲新任務服務，則有兩種方法：

1）主進程使用某種算法來主動選擇子進程。最簡單、最常用的算法是隨機算法和 Round Robin （輪流算法）。

2）主進程和所有子進程通過一個共享的工作隊列來同步，子進程都睡眠在該工作隊列上。當有新的任務到來時，主進程將任務添加到工作隊列中。這將喚醒正在等待任務的子進程，不過只有一個子進程將獲得新任務的“接管權”，它可以從工作隊列中取出任務並執行之，而其他子進程將繼續睡眠在工作隊列上。

當選擇好子進程後，主進程還需要使用某種通知機制來告訴目標子進程有新任務需要處理，並傳遞必要的數據。最簡單的方式是，在父進程和子進程之間預先建立好一條管道，然後通過管道來實現所有的進程間通信。在父線程和子線程之間傳遞數據就要簡單得多，因爲我們可以把這些數據定義爲全局，那麼它們本身就是被所有線程共享的。

線程池主要用於：

1）需要大量的線程來完成任務，且完成任務的時間比較短。 比如WEB服務器完成網頁請求這樣的任務，使用線程池技術是非常合適的。因爲單個任務小，而任務數量巨大。但對於長時間的任務，比如一個Telnet連接請求，線程池的優點就不明顯了。因爲Telnet會話時間比線程的創建時間大多了。

2）對性能要求苛刻的應用，比如要求服務器迅速響應客戶請求。

3）接受突發性的大量請求，但不至於使服務器因此產生大量線程的應用。

進程城實現源碼：

如何在Linux下實現進程池技術，原貼見：
http://topic.csdn.net/u/20090206/16/b424e1c1-90dc-4589-a63f-1d90ed6560ae.html。

//主接收網絡消息進程
int main()
{
    int iReLen;
    char szBuffer[64];
    ...
    //初始化進程池
    InitProcessPoll();
    ....
    while(1)
    {
        iRelen = recv(iSock, szBuffer, sizeof(szbuffer), 0);
        if (iRelen > 0)
        {
            SubmitWork(szBuffer, iRelen);   //提交工作到資源進程
        }
    }
    ...
}

//
int SubmitWork(void *pBuffer, int iMsgLen)
{
    int iMsgQueID;

    iMsgQueID = GetMsgQue(key, 0); //取得跟管理進程通信的消息隊更句柄;

    msgsnd(iMsgQueID, pBuffer, iMsgLen, 0);
}

int InitProcessPoll(const int iProcessNum)
{
    int iPid;

    //創建管理進程
    iPid = fork();
    if (iPid == 0)
    {
        InitMngProcess(iProcessNum);
    }
    return 0;
}

typedef struct
{
    int pid;
    int iFlag;
} T_ProcessStatus;

//指向資源進程管理結構
T_ProcessStatus *pProcessMng = NULL；

//記錄有總共有多少個資源進程
INT32 iMaxProcessNum = 0;

//初始管理進程管理結構並創建資源子進程，最後接收外部工作請求並分發到資源進行進行處理
InitMngProcess(const int iProcessNum)
{
    int i;
    int iPid;
    int iRtn;
    int iMsgLen;
    int iMsgQue1, iMsgQue2;
    char szBuffer[64];

    //創建管理進程結構
    pProcessMng = calloc(iProcessNum, sizeof(T_ProcessStatus))

    for (i = 0; i < iProcessNum; i++)
    {
        iPid = fork();
        if (iPid == 0);
        {
            //資源進程;
            ResourceProcess();
        }
        pProcessMng[i].pid = iPid; //記錄資源進程的進程號
        pProcessMng[i].iFlag = 0;   //把資源進程置爲空閒
    }

    iMaxProcessNum = iProcessNum;

    //創建外部跟管理進程通信的消息隊列；
    iMsgQue1 = CreateMsgQue();

    //創建管理進程跟資源進程通信的消息隊列；
    iMsgQue2 = CreateMsgQue();

    //安裝資源進程回收信號處理函數
    signal(SIGUSR1, ReleaseAProcess);

    //開始接收外部傳入的任務
    while(1)
    {
        //接收外部的工作請求
        iMsgLen = msgrcv(iMsgQue1, szBuffer, sizeof(szBuffer), 0);

        //轉發工作請求到資源進程處理消息隊列
        iRtn = msgsnd(iMsgQue2, szBuffer, iMsgLen, 0);

        //通知其中的一個空閒資源進程進行處理
        NoticeAIdleProcess();
    }
}

//通知一個空閒資源進程進行處理
int NoticeAIdleProcess()
{
    int i;

    for (i = 0; i < iMaxProcessNum; i++)
    {
        if (pProcessMng[i].iFlag == 0)
        {
            pProessMng[i].Flag = 1;
            kill(processMng[i].pid, SIGUSR1);
            return 0;
        }
    }

    return -1;
}

//回收一個處理完成的資源進程
void ReleaseAProcess(int iPid)
{
    int i;

    for (i = 0; i < iMaxProcessNum; i++)
    {
        if (pProessMng[i].pid == iPid)
        {
            pProcessMng[i].iFlag = 0;
            return;
        }
    }

    return;
}

//資源進程的處理
void ResourceProcess()
{
    //安裝有工作通知信號處理
    signal(SIGUSR1, SIG_IGN);

    //設置只對SIGUSR1信號感興趣
    sigprocmask()
    while(1)
    {
        //沒有消息處理時掛起
        pause();

        //處理工作
        void StartWork()

        //通知管理進程工作處理完成
        NoticeMngProcessFinishedWork();
    }
}

//處理消息
void StartWork()
{
    char szBuffer[64];
    int iMsgID;
    int iRtn;

    iMsgID = msgget();
    iRtn = msgrcv(iMsgID, szBuffer, sizeof(szBuffer), 0);

    //現在在子進程裏取得了需要處理的消息，可以開始處理該消息直到消息處理完成

    return;
}

//通知管理進程回收資源進程
void NoticeMngProcessFinishedWork();
{
    kill(MngProcessPid, SIGUSR1);

    return;
}

//主接收網絡消息進程
int main()
{
    int iReLen;
    char szBuffer[64];
    ...
    //初始化進程池
    InitProcessPoll();
    ....
    while(1)
    {
        iRelen = recv(iSock, szBuffer, sizeof(szbuffer), 0);
        if (iRelen > 0)
        {
            SubmitWork(szBuffer, iRelen);   //提交工作到資源進程
        }
    }
    ...
}

//
int SubmitWork(void *pBuffer, int iMsgLen)
{
    int iMsgQueID;

    iMsgQueID = GetMsgQue(key, 0); //取得跟管理進程通信的消息隊更句柄;

    msgsnd(iMsgQueID, pBuffer, iMsgLen, 0);
}

int InitProcessPoll(const int iProcessNum)
{
    int iPid;

    //創建管理進程
    iPid = fork();
    if (iPid == 0)
    {
        InitMngProcess(iProcessNum);
    }
    return 0;
}

typedef struct
{
    int pid;
    int iFlag;
} T_ProcessStatus;

//指向資源進程管理結構
T_ProcessStatus *pProcessMng = NULL；

//記錄有總共有多少個資源進程
INT32 iMaxProcessNum = 0;

//初始管理進程管理結構並創建資源子進程，最後接收外部工作請求並分發到資源進行進行處理
InitMngProcess(const int iProcessNum)
{
    int i;
    int iPid;
    int iRtn;
    int iMsgLen;
    int iMsgQue1, iMsgQue2;
    char szBuffer[64];

    //創建管理進程結構
    pProcessMng = calloc(iProcessNum, sizeof(T_ProcessStatus))

    for (i = 0; i < iProcessNum; i++)
    {
        iPid = fork();
        if (iPid == 0);
        {
            //資源進程;
            ResourceProcess();
        }
        pProcessMng[i].pid = iPid; //記錄資源進程的進程號
        pProcessMng[i].iFlag = 0;   //把資源進程置爲空閒
    }

    iMaxProcessNum = iProcessNum;

    //創建外部跟管理進程通信的消息隊列；
    iMsgQue1 = CreateMsgQue();

    //創建管理進程跟資源進程通信的消息隊列；
    iMsgQue2 = CreateMsgQue();

    //安裝資源進程回收信號處理函數
    signal(SIGUSR1, ReleaseAProcess);

    //開始接收外部傳入的任務
    while(1)
    {
        //接收外部的工作請求
        iMsgLen = msgrcv(iMsgQue1, szBuffer, sizeof(szBuffer), 0);

        //轉發工作請求到資源進程處理消息隊列
        iRtn = msgsnd(iMsgQue2, szBuffer, iMsgLen, 0);

        //通知其中的一個空閒資源進程進行處理
        NoticeAIdleProcess();
    }
}

//通知一個空閒資源進程進行處理
int NoticeAIdleProcess()
{
    int i;

    for (i = 0; i < iMaxProcessNum; i++)
    {
        if (pProcessMng[i].iFlag == 0)
        {
            pProessMng[i].Flag = 1;
            kill(processMng[i].pid, SIGUSR1);
            return 0;
        }
    }

    return -1;
}

//回收一個處理完成的資源進程
void ReleaseAProcess(int iPid)
{
    int i;

    for (i = 0; i < iMaxProcessNum; i++)
    {
        if (pProessMng[i].pid == iPid)
        {
            pProcessMng[i].iFlag = 0;
            return;
        }
    }

    return;
}

//資源進程的處理
void ResourceProcess()
{
    //安裝有工作通知信號處理
    signal(SIGUSR1, SIG_IGN);

    //設置只對SIGUSR1信號感興趣
    sigprocmask()
    while(1)
    {
        //沒有消息處理時掛起
        pause();

        //處理工作
        void StartWork()

        //通知管理進程工作處理完成
        NoticeMngProcessFinishedWork();
    }
}

//處理消息
void StartWork()
{
    char szBuffer[64];
    int iMsgID;
    int iRtn;

    iMsgID = msgget();
    iRtn = msgrcv(iMsgID, szBuffer, sizeof(szBuffer), 0);

    //現在在子進程裏取得了需要處理的消息，可以開始處理該消息直到消息處理完成

    return;
}

//通知管理進程回收資源進程
void NoticeMngProcessFinishedWork();
{
    kill(MngProcessPid, SIGUSR1);

    return;
}