自從計算機網絡誕生起，網絡測試也隨之孕育而生，網絡測試發展的歷程也是計算機網絡發展不可分割的一部分。
目前，以階段來劃分，網絡測試和故障診斷可分爲三個階段：
第一階段：1990年代以前
這一階段，由於計算機網絡尚未普及，網絡本身承載應用業務比較少，專業專用性強。早在二十世紀七十年代，互聯網前身ARPANET誕生初期，就已經開始有了ARPANET性能測試實驗的計劃，由因特網之父之稱的Vinton G. Cerf組織了NMG（Network Measurement Group）網絡測量組，對網絡的各項性能進行測試研究。1974年，Kleinrock和Naylor發表了第一篇關於網絡測試的文章—on measured behavior of the ARPA network。在1980年前後，ARPANET所有的主機都轉向TCP/IP協議，80年代中期，美國國家科學基金會（NSF）在全美國建立了6個超級計算機中心並互聯，允許研究人員對 Internet進行訪問，以共享研究成果並查找信息。NFSnet於1990年徹底取代了ARPAnet而成爲Internet的主幹網。這一時期，相對可用的測試設備和工具較少，測試以功能性測試爲主，專業性能測試系統和設備比較少。
第二階段：1990年後至2002年
當NSFNET成爲互聯網中樞後，ARPA網逐漸退出，而NSFNet和各國網絡互聯後形成了真正的Internet，隨着電子郵件和WWW萬維網等網絡應用的開發並運用，從此互聯網開始迅猛發展。而1995年IEEE正式通過了802.3u快速以太網標準，1998年，IEEE 802.3z千兆以太網標準正式發佈，爲計算機網絡商業化的展開鋪平道路。這一階段，由於HuB的成本不斷降低，組網易於實現，逐漸被大量運用到網絡中，推動了網絡用戶數量不斷增加。在網絡基礎架構的建設中，10M到桌面成爲可能，級聯主幹爲100M的網絡架構成爲標準，這極大推動了綜合佈線市場的逐步繁榮，雙絞線的標準在這一階段快速發展，從Cat3，Cat5到Cat5e直至Cat6，而網絡也逐步完成交換式網絡的蛻變，網絡應用也由10Base-T經歷100Base-Tx，提升到1000Base-T，網絡技術的迅速發展也造就了測試設備的一個黃金髮展時期，現今較爲成功的專業網絡測試儀器生產廠商，如Fluke Networks，思博倫，Ixia，等專業公司也借這股春風，在網絡測試領域發展壯大。而這一階段，由於介質的快速發展更替，網絡下三層連通，匹配，性能問題成爲網絡維護中故障的主要來源。綜合佈線市場快速發展與驗收標準的不同步，導致綜合佈線工程質量參差不齊，於是誕生了第一臺線纜認證測試儀（1995年），並迅速發展。同時這一時期，應用的發展又催生出新型網絡性能測試儀表，如第一臺便協議綜合網絡分析儀Fluke F683，協議分析工具和一致性測試工具等新的測試技術和設備，基於SNMP架構的網管系統開始出現。
第三階段：2002年後至今
這一時期，網絡流量開始由前一階段的單純數據變成了實時和多媒體應用，在線音頻和視頻，對網絡帶寬提出了更高的要求。2002年7月18日，IEEE通過了802.3ae，即10Gbit/s以太網，又稱萬兆以太網，它包括了10GBASE-R、10GBASE-W、 10GBADW-LX4三種物理接口標準。2004年3月，IEEE批准銅纜10G以太網標準802.3ak，新標準將作爲10GBASE-CX4實施， 提供雙絞電纜的10Gbps傳輸。高帶寬的實現，使得主幹萬兆成爲現實，而節點千兆化甚至桌面千兆化隨着端口成本的降低逐漸加速，這使得網絡上承載高帶寬應用成爲可能，於是，網絡用戶數急劇增加，應用種類層出不窮，辦公自動化、移動通信、三網融合、物聯網與雲計算變成新的趨勢。而網絡測試領域則迎來了又一次繁榮，在基礎建設中光纖被大量採用，促進了光測試設備的發展；網絡終端數量的不斷擴容使無線技術得到迅猛發展，帶動了無線測試設備的發展；應用服務的不斷更新，催生數據中心複雜化，推動了網絡測試平臺系統的發展，如HP OpenView系統，NetScout Sniffer系統等。