迄今所知中國最早的排水系統，出現在距今約4600年的新石器時代晚期，是一組出土於河南淮陽平糧臺龍山時代城址的陶質地下排水管道。
淮陽平糧臺城址出土的陶製管道 圖源網絡
史料記載，我們的祖先很早就意識到排水系統的重要性，在城市選址時會充分考慮如何實現給排水、灌溉和防洪等需求。《管子》有言：“凡立國都，非於大山之下，必於廣川之上；高毋近旱，而水用足；下毋近水，而溝防省”、“地高則溝之,下則堤之。”《周禮·考工記》對匠人挖掘溝渠的要求作了描述，甚至運用了流體力學與結構力學的指導思想來防止排水道阻塞和坍塌。
夏代都邑宮殿區的大量宮殿建築基址已有排水水道，包括明溝和暗道。以距今3800～3500年的河南偃師二里頭遺址爲例，二號宮殿西側的明溝底部北高南低，或用來排泄雨水，遺址還出土了由陶製圓管套合的地下排水管，即暗道。
圖源《夏商都邑水利文化遺產的考古發現及其價值》
商代都城偃師商城遺址的宮殿區發現了地下石砌排水渠道，它們構成一個排水網絡，幾乎每個宮殿院落的雨水都可由此排泄，出宮城後匯入城門下的水道再流進護城河。
圖源《夏商都邑水利文化遺產的考古發現及其價值》
而西周早、中期的建築遺址中已經普遍鋪砌散水坡（房屋外牆四周的勒腳處用片石砌築或用混凝土澆築的有一定坡度的散水坡），使用的是卵石或經過燒烤的硬化土。
琉璃河燕國城址還發現了一條用卵石砌成的排水暗溝，其底部與側牆都用鵝卵石砌成，頂部還有木材蓋板。排水暗溝從城牆下穿過，城內的雨水通過排水暗溝流入護城河，再匯入大石河。它是我國目前發掘出的最早的卵石排水暗溝，也是北京市最古老的一條下水道。
琉璃河遺址陶排水管 圖源網絡
春秋戰國時期，夏商西周三代以宮殿區爲重、偏於鬆散的城市居住形態開始瓦解，較嚴格的民居規劃與管理體制開始出現。“築城以衛君，造郭以守民”，居民區從分散狀態逐漸集中於郭城之內，郭城內有更明確的功能分區。統一的、惠及全城的給排水系統逐漸形成。
齊國都城臨淄全城已發現三大排水系統。其中連通小城、縱貫大城西部的排水明渠寬20米，長達千米甚至數千米。更爲精妙的設計是建於城牆下的石砌涵洞。涵洞東西長43米，南北寬7～10.5米，深3米左右，由天然巨型青石砌壘而成。分爲進水道、過水道和出水道三部分。過水道和出水道內部石塊交錯排列，水可從石隙流過，人卻不能通過，具有排水禦敵的雙重功效。
臨淄石砌涵洞 圖源網絡