Cache Aside Pattern（旁路緩存）
最經典的緩存 + 數據庫讀寫的模式，就是 Cache Aside Pattern。
讀的時候，先讀緩存，緩存沒有的話，就讀數據庫，然後取出數據後放入緩存，同時返回響應。
更新的時候，先更新數據庫，然後再刪除緩存。
爲什麼是刪除緩存，而不是更新緩存？
很多時候，在複雜點的緩存場景，緩存不單單是數據庫中直接取出來的值。
比如可能更新了某個表的一個字段，然後其對應的緩存，是需要查詢另外兩個表的數據並進行運算，才能計算出緩存最新的值的。
另外更新緩存的代價有時候是很高的。
如果你頻繁修改一個緩存涉及的多個表，緩存也頻繁更新。但是問題在於，這個緩存到底會不會被頻繁訪問到？
舉個栗子，一個緩存涉及的表的字段，在一分鐘內就修改了20次，或者100次，那麼緩存更新20次、100次；但是這個緩存在1分鐘內只被讀取了1次，有大量冷數據。
實際上，如果你只是刪除緩存的話，那麼在1分鐘內，這個緩存不過就重新計算一次而已，開銷大幅度降低，用到緩存纔去算緩存。
其實刪除緩存，而不是更新緩存，就是一個 lazy 計算的思想，不要每次都重新做複雜的計算，不管它會不會用到，而是讓它到需要被使用的時候再重新計算。
像 mybatis，hibernate，都有懶加載思想。查詢一個部門，部門帶了一個員工的list，沒有必要說每次查詢部門，都把裏面的1000個員工的數據也同時查出來。
80%的情況，查這個部門，就只是要訪問這個部門的信息就可以了。先查部門，同時要訪問裏面的員工，那麼這個時候只有在你要訪問裏面的員工的時候，纔會去數據庫裏面查詢1000個員工。
最初級的緩存不一致問題及解決方案
問題：先修改數據庫，再刪除緩存。如果緩存失敗了，那麼會導致數據庫中是新數據，緩存中是舊數據，數據就出現了不一致。
解決思路：先刪除緩存，再修改數據庫。如果數據庫修改失敗了，那麼數據庫中是舊數據，緩存中是空的，那麼數據不會不一致。因爲讀的時候緩存沒有，則讀數據庫中舊數據，然後更新到緩存中。
比較複雜的數據不一致問題分析
數據發生了變更，先刪除了緩存，然後要去修改數據庫，此時還沒修改。一個請求過來，去讀緩存，發現緩存空了，去查詢數據庫，查到了修改前的舊數據，放到了緩存中。隨後數據變更的程序完成了數據庫的修改。
完了，數據庫和緩存中的數據不一樣了。。。
爲什麼上億流量高併發場景下，緩存會出現這個問題？
只有在對一個數據在併發的進行讀寫的時候，纔可能會出現這種問題。其實如果說你的併發量很低的話，特別是讀併發很低，每天訪問量就1萬次，那麼很少的情況下，會出現剛纔描述的那種不一致的場景。
但是問題是，如果每天的是上億的流量，每秒併發讀是幾萬，每秒只要有數據更新的請求，就可能會出現上述的數據庫+緩存不一致的情況。
解決方案如下：
更新數據的時候，根據數據的唯一表示，將操作路由之後，發送到一個 jvm 內部隊列中。讀取數據的時候，如果發現數據不再緩存中，那麼將重新讀取數據 + 更新緩存的操作，根據唯一標識路由之後，也發送同一個 jvm 內部隊列中。
一個隊列對應一個工作線程，每個工作線程串行拿到對應的操作，然後一條條的執行。這樣的話，一個數據變更的操作，先刪除緩存，然後再去更新數據庫，但是還沒完成更新。此時如果一個讀請求過來，讀到了空的緩存，那麼可以先緩存更新的請求發送到隊列中，此時會在隊列中積壓，然後同步等待緩存更新完成。
這裏有一個優化點，一個隊列中，其實多個更新緩存請求串在一起是沒意義的，因此可以做過濾，如果發現隊列中已經有一個更新緩存的請求了，那麼就不用再放個更新請求操作進去了，直接等待前面的更新操作請求完成即可。
待那個隊列對應的工作線程完成了上一個操作的數據庫的修改之後，纔會去執行下一個操作，也就是緩存更新的操作，此時會從數據庫中讀取最新的值，然後寫入緩存中。
如果請求還在等待時間範圍內，不斷輪詢發現可以取到值了，那麼就直接返回；如果請求等待的時間超過一定時長，那麼這一次直接從數據庫中讀取當前的舊值。
高併發的場景下，該解決方案要注意的問題：
-
1、讀請求長時阻塞
由於讀請求進行了非常輕度的異步化，所以一定要注意讀超時的問題，每個讀請求必須在超時時間範圍內返回。
該解決方案，最大的風險點在於說，可能數據更新很頻繁，導致隊列中積壓了大量更新操作在裏面，然後讀請求會發生大量的超時，最後導致大量的請求直接走數據庫。務必通過一些模擬真實的測試，看看更新數據的頻率是怎樣的。
另外一點，因爲一個隊列中，可能會積壓針對多個數據項的更新操作，因此需要根據自己的業務情況進行測試，可能需要部署多個服務，每個服務分攤一些數據的更新操作。
如果一個內存隊列里居然會積壓100個商品的庫存修改操作，每個庫存修改操作要耗費 10ms 去完成，那麼最後一個商品的讀請求，可能等待 10*100 = 1000ms = 1s 後，才能得到數據，這個時候就導致讀請求的長時阻塞。
一定要做根據實際業務系統的運行情況，去做一些壓力測試，和模擬上線環境，去看看最繁忙的時候，內存隊列可能會擠壓多少更新操作，可能會導致最後一個更新操作對應的讀請求，會hang多少時間。
如果讀請求在 200ms 返回，如果你計算過後，哪怕是最繁忙的時候，積壓 10 個更新操作，最多等待 200ms，那還可以的。
如果一個內存隊列中可能積壓的更新操作特別多，那麼你就要加機器，讓每個機器上部署的服務實例處理更少的數據，那麼每個內存隊列中積壓的更新操作就會越少。
其實根據之前的項目經驗，一般來說，數據的寫頻率是很低的，因此實際上正常來說，在隊列中積壓的更新操作應該是很少的。像這種針對高併發、讀緩存架構的項目，一般來說寫請求是非常少的，每秒的 QPS 能到幾百就不錯了。
實際粗略測算一下
如果一秒有 500 的寫操作，如果分成 5個時間片，每 200ms就100個寫操作，放到 20 個內存隊列中，每個內存隊列，可能就積壓 5個寫操作。每個寫操作性能測試後，一般是在 20ms 左右就完成，那麼針對每個內存隊列的數據的讀請求，也就最多 hang 一會兒，200ms以內肯定能返回了。
經過剛纔簡單的測算，我們知道，單機支撐的寫 QPS 在幾百是沒問題的，如果寫 QPS 擴大了10倍，那麼就擴容機器，擴容10倍的機器，每個機器 20 個隊列。
-
2、讀請求併發量過高
這裏還必須做好壓力測試，確保恰巧碰到上上述情況的時候，還有一個風險，就是突然間大量讀請求會在幾十毫秒的延時 hang 在服務上，看服務能不能扛的住，需要多少機器才能抗住最大的極限情況的峯值。
-
3、多服務實例部署的請求路由
可能這個服務部署了多個實例，那麼必須保證說，執行數據更新操作，以及執行緩存更新操作的請求，都通過 Nginx 服務器路由到相同的服務實例上。
-
4、熱點商品的路由問題，導致請求的傾斜
萬一某個商品的讀寫請求特別高，全部打到相同的機器的相同的隊列裏面去了，可能會造成某臺機器的壓力過大。就是說，因爲只有在商品數據更新的時候纔會情況緩存，然後纔會導致讀寫併發，所以其實要根據業務系統去看，如果更新頻率不是太高的話，這個問題的影響不是特別大，但是的確可能某些機器的負載會高一些。