CPU緩存L1,L2和L3是什麼?如何工作?

本文介紹了CPU的L1,L2,L3緩存以及工作原理;

1 前言

在過去的幾年中,計算機處理器取得了相當大的進步,晶體管的尺寸每年都在變小,而且這種進步達到了摩爾定律迅速變得多餘的地步。

當涉及到處理器時,不僅晶體管和頻率很重要,高速緩存也很重要。

在討論CPU(Central Processing Units)時,您可能聽說過高速緩存。但是,我們並沒有過多地關注這些數字,它們也不是這些CPU廣告的主要亮點。

那麼,CPU緩存到底有多重要,它又是如何工作的?

2 什麼是CPU緩存?

首先,緩存只是一種非常快速的內存類型。您可能知道,計算機內部有多種內存類型。有一個主存儲(如硬盤或SSD),用於存儲大量數據(操作系統所有程序)。

在這裏插入圖片描述

接下來,我們有隨機存取存儲器,通常稱爲RAM。這比主存儲要快得多。

在這裏插入圖片描述
最後,CPU自身具有更快的存儲單元,我們稱之爲緩存

計算機的內存具有基於速度的層次結構,而緩存位於該層次結構的頂部,是最快的。它也是最靠近中央處理的地方,它是CPU本身的一部分。

高速緩存是靜態RAM(SRAM),而系統RAM是動態RAM(DRAM)。靜態RAM是一種可以保存數據但是不要用一直刷新的存儲器,與DRAM不同,SRAM更加適合用於高速緩存。

在這裏插入圖片描述

3 CPU緩存如何工作?

我們已經知道,程序被設計爲一組指令,最終由CPU運行。

當我們運行程序的時候,這些指令必須從主存儲器取指令到CPU。這是內存層次結構起作用的地方。

數據首先被加載到RAM中,然後被髮送到CPU。因爲CPU每秒都能夠執行大量指令。爲了充分利用其功能,CPU需要訪問超高速內存,這是緩存的來源。

內存控制器執行從RAM中獲取數據並將其發送到緩存的工作。根據系統中使用的CPU,此控制器可以位於主板的北橋芯片組上,也可以位於CPU本身內部。

然後,高速緩存在CPU內執行數據的來回傳輸。內存的層次結構也存在於緩存中。

4 緩存級別:L1L2L3

CPU緩存分爲三個主要的**“級別”**,即L1L2L3。這裏的層次結構是根據緩存速度來劃分的。

  • L1(1級)高速緩存是計算機系統中存在的最快的內存。就訪問優先級而言,L1緩存具有CPU在完成特定任務時最可能需要的數據。

    就其大小而言,L1高速緩存通常最多可達256KB。但是,一些真正功能強大的CPU現在將其佔用近1MB。現在,某些服務器芯片組(如Intel的高端Xeon CPU)具有1-2MB的一級緩存。

    L1緩存通常也分爲兩種方式,分爲指令緩存數據緩存。指令高速緩存處理有關CPU必須執行的操作的信息,而數據高速緩存則保留要在其上執行操作的數據。

在這裏插入圖片描述

  • L2(2級)緩存比L1緩存慢,但大小更大。它的大小通常在256KB8MB之間,儘管更新,功能強大的CPU往往會超過此大小。L2高速緩存保存下一步可能由CPU訪問的數據。在大多數現代CPU中,L1L2高速緩存位於CPU內核本身,每個內核都有自己的高速緩存。

  • L3(3級)高速緩存是最大的高速緩存存儲單元,也是最慢的一個。它的範圍從4MB50MB以上。現代CPU在CPU裸片上具有用於L3高速緩存的專用空間,並且佔用了很大一部分空間。

5 緩存命中或未命中以及延遲

數據會從RAM依次流到L3高速緩存,然後是L2,最後是L1

當處理器正在尋找要執行操作的數據時,它首先嚐試在L1高速緩存中找到它。如果CPU能夠找到它,則該情況稱爲高速緩存命中。然後,它繼續在L2和L3中找到它

如果找不到數據,它將嘗試從主內存訪問數據。這稱爲高速緩存未命中

現在,衆所周知,高速緩存旨在加快主內存和CPU之間的數據傳輸

從內存訪問數據所需的時間稱爲延遲,L1具有最低的延遲,是最快的,並且最接近核心,而L3具有最高的延遲。緩存未命中時,延遲會增加很多。這是因爲CPU必須從主存儲器中獲取數據。

隨着計算機變得越來越快和越來越好,我們看到延遲減少了。現在,我們擁有低延遲的DDR4 RAM,以及具有低訪問時間的超高速SSD作爲主要存儲,這兩項都大大降低了整體延遲。

以前,緩存設計曾經使L2L3緩存位於CPU外部,這對延遲產生了負面影響

然而,CPU製造工藝的進步使得在比以前更小的空間中安裝數十億個晶體管。因此,爲緩存留出了更多空間,這使緩存儘可能地靠近核心,從而大大減少了延遲

6 緩存的未來

緩存設計一直在發展,尤其是隨着內存變得更便宜,更快和更密集。英特爾和AMD在緩存設計方面進行了相當多的試驗,英特爾甚至還在試驗L4緩存。CPU市場正在以前所未有的速度向前發展。

這樣,我們必定會看到緩存設計跟上CPU不斷增長的能力。

緩存設計方面進行了相當多的試驗,英特爾甚至還在試驗L4緩存。CPU市場正在以前所未有的速度向前發展。

這樣,我們必定會看到緩存設計跟上CPU不斷增長的能力。

此外,還有很多工作可以減少現代計算機的瓶頸。減少內存延遲可能是其中最大的一部分。業界正在爲相同的解決方案而努力,並且未來看起來確實充滿希望。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章