TCP連接複用技術通過將前端多個客戶的HTTP請求複用到後端與服務器建立的一個TCP連接上。這種技術能夠大大減小服務器的性能負載，減少與服務器之間新建TCP連接所帶來的延時，並最大限度的降低客戶端對後端服務器的併發連接數請求，減少服務器的資源佔用。
一般情況下，客戶端在發送HTTP請求之前需要先與服務器進行TCP三次握手，建立TCP連接，然後發送HTTP請求。服務器收到HTTP請求後進行處理，並將處理的結果發送回客戶端，然後客戶端和服務器互相發送FIN並在收到FIN的ACK確認後關閉連接。在這種方式下，一個簡單的HTTP請求需要十幾個TCP數據包才能處理完成。
採用TCP連接複用技術後，客戶端（如：ClientA）與負載均衡設備之間進行三次握手併發送HTTP請求。負載均衡設備收到請求後，會檢測服務器是否存在空閒的長連接，如果不存在，服務器將建立一個新連接。當HTTP請求響應完成後，客戶端則與負載均衡設備協商關閉連接，而負載均衡則保持與服務器之間的這個連接。當有其它客戶端（如：ClientB）需要發送HTTP請求時，負載均衡設備會直接向與服務器之間保持的這個空閒連接發送HTTP請求，避免了由於新建TCP連接造成的延時和服務器資源耗費。
這裏主要是多了一層負載均衡，負責保持與後端服務器的tcp連接。