後面準備抽時間對大作High Performance Browsing Networking進行翻譯，主要是自己看的慢，所以就邊看邊翻譯，權當學習。
水平有限，歡迎圍觀、指正、批評~~
------------------------------------------------------------------------------------------------------------------------------------
第一部分 網絡
第一章 延遲和帶寬入門
速度是一個功能（Speed Is a Feature）
過去幾年，WTO（web performance optimization）行業的出現和快速發展釋放了一個明顯的信號，速度越來越重要，用戶要求更快的用戶體驗。在我們不斷加速和連接的世界中，這不是簡單的對速度需求的強迫症，而是由對很多在線業務最低性能需求測量而得的實證結果驅動的需求。
- 更快的網站帶來更好的用戶參與度
- 更快的網站帶來更好的用戶保留率
- 更快的網站帶來更高的用戶轉換率
簡言之，速度是一個功能。爲了實現這個功能，我們需要理解與之相關的各種因素和基本的限制。本章，我們將把重點放在決定網絡流通性能的兩個關鍵因素：延遲和帶寬（圖1）。
延遲
從源端發出包到目標端收到包的時間間隔
帶寬
一個邏輯或物理通信鏈路的最大吞吐量
對延遲和帶寬如何協同作用有了更好的理解之後，我們就有信心深挖TCP， UDP，和所有基於這兩個協議的應用層協議的內部結構和性能特徵。
通過Hibernia Express降低橫跨大西洋的延遲
延遲是金融市場上很多高頻交易算法的一個重要標準，一個幾毫秒的微弱差別可能導致數百萬的損失，也可能帶來數百萬的利潤。
2011年初，華爲和Hibernia Atlantic（美國寬帶服務商）開始部署一條新的橫跨大西洋的3000英里光纖，以連接倫敦和紐約。新光纖的唯一目標是節約5毫秒的交易延遲。
部署好之後，這條電纜將只給金融機構使用。整個工程花費 4億美元，換句話說是，節約一毫秒需要花費8000萬美元！延遲是相當昂貴的 -- 名副其實。
延遲的構成（The Many Components of Latency）
延遲是一個消息，或一個數據包從發送端到達接收端所花費的時間。這是一個簡單而且有用的定義，但也隱藏了很多有用的信息 -- 每一個系統都包含多個源，或組件，它們會影響到消息發送的整體時間，理解有哪些組件和它們的性能的決定因素是很重要的。
讓我們進一步看看，互聯網上，用於中繼消息的典型的路由器，一般有哪些的部分影響到延遲。
傳播延遲
一個消息從發送端傳輸到接收端所需要的時間，與傳播距離正相關。
傳輸延遲
把所有數據包的bits推送進鏈路所需要的時間，與數據包長度和鏈路的數據傳輸率有關。
處理延遲
處理包頭，檢查位錯誤，決定包的目的地總共需要的時間
排隊延遲
能夠被處理前，在隊列中等待的時間
客戶端與服務器之間的延遲是如上所列所有延遲的總和。傳播延遲由信號傳輸的介質和距離決定 -- 我們將會看到，傳播速度通常是比光速小一些。另一方面，傳輸延遲由傳輸鏈路的可用數據傳輸率決定，與客戶端和服務器之間的距離無關。舉個例子，假設我們要通過兩條鏈路：一條1Mbps，一條100Mbps, 傳輸一個10Mb的文件。把整個文件放入1Mbps的鏈路，需要10秒，而放入100Mbps的鏈路只需要0.1秒。
下一步，當數據包到達路由器時，路由器必須檢查包頭來決定輸出路由，而且還要對數據做其它的檢查 -- 這也花時間。許多這類邏輯現在常常由硬件完成，所以延遲會很小，但確實存在。最後，如果數據包到達的速度比路由器處理的快，它們就要在輸入緩衝中排隊等待。數據在緩衝中等待的時間，毫無疑問，就是所謂的排隊延遲。
每一個在網絡上傳輸的包，都會遇到許多這些延遲的實例。客戶端與服務器之間的距離越遠，花在傳播上的時間就越長。沿途遇到的中間路由器越多，每個包的處理和傳輸延遲就越大。最後，傳輸路徑上的負載越高，包被阻塞在輸入緩衝中的概率就越大。
你的本地路由器中的緩衝膨脹（Bufferbloat）
Bufferbloat是一個由Jim Gettys在2010年杜撰並普及的術語，它是一個說明排隊延遲對網絡整體性能影響的很好的例子。
潛在的問題是，在應該不惜代價避免丟包的假設下，如今的路由器都配備了很大的輸入緩衝。但這破壞了TCP的擁塞避免機制，給網絡引入了高且可變的延遲。
好消息是，爲了解決這一個問題，已經提出了一個新的CoDel主動式隊列管理算法，而且目前已經在Linux 3.5內核中實現。更詳細瞭解，請參考 "Controlling
Queue Delay"。
光速和傳播延遲
愛因斯坦在他的相對論中強調，光速是萬事萬物所能達到的最大速度。這給任何網絡包的傳播時間設置了一個硬性限制。
好消息是，光速是很高的：299,792,458米/秒（3.0x10^8米/秒）。然而，有個附加條件，這是光在真空中傳播的速度。我們的數據包不是通過真空，而是通過銅線和光纖傳輸，這將使信號變慢（表 1-1）。
光速與數據包在某種介質中的傳輸速度之比就是衆所周知的該物質的折射率。這個值越大，光在這種物質中傳輸得就越慢。
光纖的折射率一般是1.4到1.6 -- 很慢，但可以肯定的是，我們正在不斷改進傳輸介質的質量，折射率將會變得更低。出於簡單考慮，經驗法則是假設光纖中的光速是200,000,000米每秒，相應的折射率係數就是1.5。這裏值得注意的部分是，我們已經離最大速度相差不遠了！這本身就是一個了不起的工程成就。
光速是很快的，儘管如此，從紐約到悉尼的RTT仍然需要花費160ms。事實上，表一的數據是比較樂觀的，它們是在假定數據包沿着兩個城市之間的最優路徑（球面上兩點之間的最短距離）傳輸的基礎上估計的。實際上，不存在這樣的線路，數據包將會經過一個比紐約和悉尼之間的距離長的多的路徑。路徑上的每一跳都會引入額外的路由、處理、排隊、和傳輸延遲。結果，在當前線路上，紐約與悉尼之間的RTT，實際上是200-300毫秒之間。考慮了各方面的事情，看起來還是很快，是這樣嗎？
我們不太習慣用毫秒來衡量我們的日常生活，但研究顯示，如果給系統引入100-200毫秒的延遲，我們大多數人就會感覺到有延遲。一旦延遲超過了300毫秒，我們就會覺得交互不及時，如果大於1秒，許多用戶在等待響應時就會心不在焉了。
結論很簡單：爲了給當前任務所涉及的用戶帶來最好的用戶體驗，我們的應用程序需要在幾百毫秒內作出反應。這留給我們，特別是網絡的錯誤空間已經不多了。爲了達到目標，必須小心的管理網絡延遲，在開發的所有階段都要把它作爲一個設計考量準則。
內容分發網絡（Content delivery network）提供很多好處，最主要的是能夠簡單觀察分佈在全球各地的內容，從一個離客戶端比較近的位置提供內容服務，這將大大降低所有數據包的傳播延遲。
雖然我們不能使數據包傳輸的更快，但可以通過策略定位我們的服務器接近用戶來縮短距離。利用CDN來服務你的數據可以獲得明顯的性能優勢。
![]()
最後一英里延遲
諷刺的是，主要的延遲，通常是在最後幾英里，而不是橫跨海洋或大陸時，引入的：聲名狼藉的最後一英里問題。爲了把你的住所或辦公室連接到互聯網，你當地的運營商需要在附近部署電纜，聚集信號，並把它們傳遞到當地的一個路由點。實際中，取決於連接類型、路由方法、部署技術，可能要花費數十毫秒進行幾次跳躍纔到達ISP的主路由器！根據由Federal
Communications Commission於2013年初實施的報告“美國帶寬測量”（Measuring Broadband America），在使用高峯：
光纖用戶，在高峯時平均有18ms的延遲，是性能最好的，同軸電纜用戶是26ms，DSL是44ms。
也就是說，在數據包路由到目的之前，僅到ISP核心網絡的最近測量點會有18-44ms的延遲。FCC報告關注的是美國，但是最後一英里問題是所有英特網提供商所面臨的挑戰，不分地域。如果對此感興趣，一個簡單的traceroute就能夠告訴你很多關於你的英特網提供商的拓撲邏輯和性能的知識。
在前面的例子中，數據包起始於Sunnyvale，跳躍到Santa Clara，然後是Oakland，再回到San Jose，被路由到“529 Bryant”數據中心，在這裏被路由到Google，在11跳時到達了它的目的地。整個過程，平均每跳花費18ms。看起來還不壞，但在同樣的時間，數據包幾乎可以穿越整個美國大陸了。
最後一英里延遲可能變化很大，這取決於你的ISP、部署技術、網絡邏輯、時段。作爲一個終端用戶，如果你希望改進你的網頁瀏覽速度，在挑選你的本地ISP時，低延遲是值得考慮的一個因素。
對大多數網站而言，性能瓶頸是延遲，而不是帶寬。要理解其中緣由，我們需要理解TCP和HTTP協議的機制 -- 這是我們隨後章節將要討論的問題。然而，如果你很好奇，你可以隨時翻到“More Bandwidth Doesn't Matter(Much）"。
使用Traceroute測量延遲
Traceroute是一個簡單的網絡診斷工具，用於確定數據包的路由路徑和IP網絡中每一跳的延遲。爲了識別每一跳，它以不斷增加的"hop limit"發送一系列達到目標主機的數據包。達到跳限制時，中繼者返回ICMP超時消息，從而允許工具測量每一個網絡跳的延遲。
在Unix平臺，這一工具可以通過在命令行輸入 tranceroute來啓動，在Windows上，是衆所周知的tracert。
核心網絡中的帶寬
光纖作爲簡單的“導光管”，比人的頭髮絲粗一點，被設計用來在電纜的兩端傳遞光信號。金屬線也會被用到，但有更高的信號損失率，容易受電磁干擾，維護成本也更高。可能，這兩種類型的電纜，你的數據包都會經過，但在做長距離跳躍時，它們將通過光纖進行傳輸。
在帶寬上，光纖有明顯的優勢，因爲每一根光纖都能夠通過，被稱之爲波分多路複用（WDM）的過程來攜帶不同波長的光。因此，一條光纖鏈路的總帶寬是單通道數據速率的多倍，具體而言就是多路複用的通道數乘以單通道數據速率。
2012年初，研究人員就能夠在單個通道上覆用400種波長了，達到峯值流量171Gbit/s，也就是說單個光纖鏈路的總帶寬超過了70Tbit/s！我們需要幾千條銅軸電纜才能匹配這個吞吐量。毫不奇怪，大部分的長距離跳躍，例如大陸之間的海底數據傳輸，現在都是通過光纖鏈路完成。每條光纜攜帶多條光纖（一般是四條），這樣每條光纜的帶寬容量達到了幾百terabits/秒。
網絡邊緣帶寬
主幹網，或光纖鏈路，組成了因特網的核心數據路徑，它們能夠每秒傳輸數百terabits。然而，網絡邊緣的可用容量要少的多的多，而且基於不同的部署技術：撥號上網、DSL、電纜、無線主機技術、光纖到戶、甚至是當地路由器的性能，差異巨大。用戶的可用帶寬是由客戶端與目標服務器之間的最低容量的鏈路決定的（圖1-1）。
阿卡邁科技（Akamai Technologies）使用位於全球各地的服務器，經營全球CDN，在Akamai’s
website 提供免費的平均寬帶速度季度報告，這些數據是通過他們的服務器觀測到的。表-2顯示了2013年1季度的宏觀帶寬趨勢：
上述數據不包括來自移動運營商的流量，有關移動網絡我們後面再做進一步討論。現在，一言以蔽之，移動速度通常變化很大而且很慢。然而，即便如此，2013年初全球平均帶寬也僅僅是3.1Mbps!韓國以14.2Mbps的平均吞吐量居世界首位。
給個參考，根據分辨率和編碼/解碼器的不同，流媒體高清視頻需要2-10Mbps的帶寬。因此，一個擁有平均帶寬的用戶能夠在線觀看一個低分辨率的視頻，這已經消耗了他們鏈路帶寬的大部分 -- 對於有多個用戶的家庭而言，這不是他們愛聽的故事。
搞清楚給定用戶的帶寬瓶頸是件平凡但重要的工作。再一次，如果你感興趣，有很多在線服務，比如由Ookla運營的speedtest.net（圖1-2），提供到某些本地服務器的上行帶寬和下行帶寬測試
-- 在我們討論TCP時，我們將會明白爲什麼挑選一個本地服務器是重要的。通過這些服務來測試你的網絡，是一個檢測你的實際速度是否與本地運營商聲稱的速度相符的好方法。
然而，一條到你的ISP的高帶寬鏈路是可取的，但它也不能保證穩定的端到端性能。由於突發需求量、硬件故障、集中網絡攻擊、主機故障等原因，網絡中的任何中間結點都可能在某些時間點發生阻塞。吞吐量和延遲性能的高波動性，是我們的數據網絡的天性--預測、管理、適應不斷變化的“網絡天氣”是件複雜的任務。
提供更好的帶寬和更低的延遲
我們對更高帶寬的需求正在快速增長，很大程度上是由於視頻流的日益普及，如今已經佔到了整個互聯網流量的一半。好消息是，儘管可能不便宜，但我們有多種可用策略用於增加可用帶寬：增加更多光纖到光纖鏈路中，在擁塞路由上部署更多鏈路，或者改進WDM技術以通過現有鏈路傳輸更多數據。
TeleGeography，一個電信市場研究和諮詢公司，估計截止2010年，我們只使用了已部署的海底光纖容量的20%。甚至更重要的是，2007至2010年間，跨太平洋光纜所增加容量的一半是由於WDM改進：同樣的光纖鏈路，鏈路兩端更好的數據複用技術。當然，我們不能期望這種進步能夠無限發展下去，因爲每一種媒介都會達到收益遞減點。儘管如此，只要企業經濟條件允許，沒有理由帶寬不隨着時間的推移而增加
-- 如果真的不能再增加了，我們也還有最後的法寶，增加更多的光纖鏈路。
另一方面，改進延遲，是個非常不同的故事。能夠通過改進光纖鏈路的質量以使我們再稍微接近光速：使用更低折射率的材料和更快的路由器。然而，鑑於我們目前擁有的速度，使用該策略最多隻能達到30%的改進。不幸的是，面對物理定律，我們根本無能爲力：光速限制了我們能達到的最低延遲。
還有另外一個辦法，雖然我們不能使光跑得更快，但我們能夠縮短距離 -- 球面上兩點間的最短距離定義爲：the great-circle path。然而，由於物理地形、社會與政治原因、當然還有相關成本這些限制，部署新的光纜也不總是可行的。
所以，爲了改善我們應用程序的性能，在構建和優化我們的協議、網絡代碼時，要牢記可用帶寬和光速的限制: 我們需要降低往返次數，把數據移到更靠近用戶的地方，構建能夠通過緩存隱藏延遲的應用，使用pre-fetching技術和後面章節將會介紹到的各種類似的技術。