1 int[] myIntArray = new int[5] { 1, 2, 3, 4, 5 }; 2 3 for (int j = 0; j < 10; j++ ) 4 { 5 Console.WriteLine("Element[{0}] = {1}", j, myIntArray[j]); 6 }
這個過程中具體的實現邏輯什麼樣的呢,對於C#數組在內存的存儲方式、數組的Cpoy、動態數組的擴容機制是什麼樣的呢?在C#中Array充當數組的基類,用於創建、處理、搜索數組並對數組進行排序,但是隻有系統和編譯器才能顯式從 Array 類派生。接下來我們就來了解一下Array底層源碼實現。對於數組的初始化,我們使用以上示例中的int[]進行介紹。在C#中所有的數組類型都集成自抽象類Array,在對int[]初始化的過程中,都會使用array的CreateInstance()方法,該方法存在多個重載,主要區別爲用於創建一維、二維、三維等不同維數的數組結構,以下我們來看一下對於一維數據的創建代碼。
1 public static unsafe Array CreateInstance(Type elementType, int length) 2 { 3 RuntimeType? t = elementType.UnderlyingSystemType as RuntimeType; 4 5 return InternalCreate(t, 1, &length, null); 6 }
上面的代碼中,我們可以發現兩個地方需要關注,第一部分:RuntimeType? t = elementType.UnderlyingSystemType as RuntimeType;該方法獲取數組元素類型的基礎系統類型,並將其轉換爲 RuntimeType。第二部分:InternalCreate(t, 1, &length, null)具體創建數組的操作,我們來看一下其實現的源碼。(源碼進行部分刪減)
1 private static unsafe Array InternalCreate(RuntimeType elementType, int rank, int* pLengths, int* pLowerBounds) 2 { 3 if (rank == 1) 4 { 5 return RuntimeImports.RhNewArray(elementType.MakeArrayType().TypeHandle.ToEETypePtr(), pLengths[0]); 6 } 7 else 8 { 9 int* pImmutableLengths = stackalloc int[rank]; 10 11 for (int i = 0; i < rank; i++) pImmutableLengths[i] = pLengths[i]; 12 13 return NewMultiDimArray(elementType.MakeArrayType(rank).TypeHandle.ToEETypePtr(), pImmutableLengths, rank); 14 } 15 }
該方法用於在運行時創建數組,其中參數elementType表示數組元素運行時的類型,rank表示數組的維度,pLengths表示指向數組長度的指針,pLowerBounds表示指向數組下限(如果有的話)的指針。根據設定的rank的值,創建一維或多維數組。其中elementType.MakeArrayType().TypeHandle.ToEETypePtr()表示先將當前type 對象表示的類型通過 MakeArrayType 方法創建一個數組類型,然後獲取該數組類型的運行時類型句柄,最後通過 ToEETypePtr 方法將運行時類型句柄轉換爲指向類型信息的指針。我們先看一下創建一維數組的邏輯,具體代碼如下:
1 [MethodImpl(MethodImplOptions.InternalCall)]
2 [RuntimeImport(RuntimeLibrary, "RhNewArray")] 3 private static extern unsafe Array RhNewArray(MethodTable* pEEType, int length); 4 5 internal static unsafe Array RhNewArray(EETypePtr pEEType, int length) => RhNewArray(pEEType.ToPointer(), length);
該方法是具體實現數組創建的邏輯,我們先來看一下參數,其中EETypePtr是CLR中用於表示對象類型信息的指針類型。每個.NET對象在運行時都關聯有一EEType結構,它包含有關對象類型的信息,例如該類型的方法表、字段佈局、基類信息等。
(1)、[MethodImpl(MethodImplOptions.InternalCall)]
指示編譯器生成的方法體會被一個外部實現取代,而該外部實現通常由運行時環境提供。
(2)、[RuntimeImport(RuntimeLibrary, "RhNewArray")]
這是一個自定義的特性,在項目中定義的用於指示運行時導入的特性。
在C#中,使用屬性標記運行時導入的位置通常是爲了提供額外的元數據和信息,以告訴編譯器和運行時環境如何正確地處理外部方法的調用。
(1)、元數據信息:運行時導入的位置可能包括一些元數據信息,如函數名稱、庫名稱、調用約定等。
使用屬性可以將這些信息嵌入到C#代碼中,使得代碼更加自解釋,並提供足夠的信息供編譯器和運行時使用。
(2)、優化和安全性:編譯器和運行時環境可能會使用屬性來進行性能優化或安全性檢查。 例如,通過指定調用約定或其他屬性,可以幫助編譯器生成更有效的代碼。
(3)、與運行時環境交互:屬性可以提供一種與底層運行時環境進行交互的機制。 例如,通過自定義屬性,可以向運行時環境傳遞一些特殊的標誌或信息,以影響方法的行爲。
(4)、代碼維護和可讀性:使用屬性可以提高代碼的可維護性和可讀性。 在代碼中使用屬性來標記運行時導入的位置,使得代碼的意圖更加清晰,也有助於團隊協作。
在CLR的內部,EETypePtr是一個指向EEType結構的指針,其中EEType是運行時中用於描述對象類型的結構。EEType結構的內容由運行時系統生成和管理,而EETypePtr則是對這個結構的指針引用。根據傳入的運行時對象類型進行處理,我們接下來看一下pEEType.ToPointer()的實現。
1 internal unsafe Internal.Runtime.MethodTable* ToPointer() 2 { 3 return (Internal.Runtime.MethodTable*)(void*)_value; 4 }
ToPointer()方法目的是將其對象或值轉換爲指針,MethodTable 是CLR用於管理類和對象的元數據,用於存儲類型相關信息的數據結構,每個對象在內存中都包含一個指向其類型信息的指針,這個指針指向該類型的 MethodTable,用於支持CLR在運行時進行類型檢查、虛方法調用等操作。那我們來具體看一下MethodTable的數據結構。
1 struct MethodTable 2 { 3 // 指向類型的虛方法表(VTable) 4 IntPtr* VirtualMethodTable; 5 6 // 字段表 7 FieldInfo* Fields; 8 9 // 接口表 10 InterfaceInfo* Interfaces; 11 12 // 其他元數據信息... 13 }
我們從原始的數組初始化和賦值,一直推導至對象的數組空間維護。截止當前,我們獲取到數組的MethodTable* pEEType數據結構。接下來我們來看一下CLR對數組的內存空間分配邏輯和維護方案。由於CoreCLR中的實現代碼我們沒有辦法全面的瞭解,我們接下按照預定的邏輯進行一定的推論。(CCoreCLR的實現代碼絕大部分是使用C++實現)
1 #include <cstdint> 2 3 extern "C" { 4 struct MethodTable { // 方法表等信息...}; 5 struct Array { // 數組相關信息...}; 6 void* RhNewArray(void* pEEType, int length) { 7 // 假設存在一個用於對象分配的函數,該函數分配數組的內存 8 void* rawArrayMemory = AllocationFunction(length * sizeof(Array)); 9 // 將傳遞的 pEEType 信息保存到數組對象中 10 Array* newArray = static_cast<Array*>(rawArrayMemory); 11 //爲數組對象設置元數據信息 12 newArray->MethodTablePointer = pEEType; 13 return rawArrayMemory; 14 } 15 }
以上代碼是一種假設實現方式, AllocationFunction 的函數用於內存分配,並且數組對象(Array)有一個成員 MethodTablePointer 用於存儲 MethodTable 的指針。接下來我們再來看一下AllocationFunction()方法推測實現邏輯。
1 void* AllocationFunction(size_t size) { 2 // 使用標準庫的 malloc 函數進行內存分配 3 void* memory = malloc(size); 4 //處理內存分配失敗的情況 5 ... 6 return memory; 7 }
以上的代碼中,使用標準函數庫malloc()進行內存的分配,malloc ()是C標準庫中的一個函數,用於在運行時動態分配內存。malloc ()接受一個 size 參數,表示要分配的內存字節數。它返回一個指向分配內存起始地址的指針,或者在分配失敗時返回 NULL。malloc ()內存分配邏輯通常涉及以下步驟:
(1)、請求內存空間: malloc() 根據傳遞的 size 參數向系統請求一塊足夠大的內存空間。
(2)、內存分配:如果系統成功分配了請求的內存塊,malloc 會在這塊內存中標記已分配的部分,並將其起始地址返回給調用者。
(3)、返回結果:如果分配成功,malloc 返回一個指向新分配內存的指針。如果分配失敗(例如,系統內存不足),則返回 NULL。
(4)、內存對齊:部分系統要求分配的內存是按照特定字節對齊的。因此,malloc 通常會確保返回的內存地址滿足系統的對齊要求。
(5)、初始化內存:malloc 返回的內存通常不會被初始化,即其中的數據可能是未知的。在使用之前,需要通過其他手段對內存進行初始化。
(6)、內存管理:一些實現可能會使用內部數據結構來跟蹤已分配和未分配的內存塊,以便在 free 被調用時能夠釋放相應的內存。
以上簡單的描述了C++在底層實現內存分配的簡單實現方式,對於CoreCLRe中對於數組的內存空間申請相對非常複雜,可能涉及內存池、分配策略、對齊要求等方面的考慮。後續有機會再做詳細的介紹。既然說到CoreCLR的內存實現爲C++的內存分配策略,那我們接下來看一下其對應的常用策略管理策略。我們用一個簡單的數組的內存分配。
1 int myArray[5]; // 聲明一個包含5個整數的數組 2 3 +------+------+------+------+------+ 4 | int0 | int1 | int2 | int3 | int4 | 5 +------+------+------+------+------+
myArray 是整個數組的起始地址,然後每個 int 元素按照其大小排列在一起。基於以上的分析,我們可以看到C++對於內存的分配概述大致如下:
(1)、元素的內存佈局:數組的元素在內存中是依次排列的,每個元素佔用的內存空間由元素的類型決定。
例如,一個 int 數組中的每個整數元素通常佔用4個字節(32位系統)或8個字節(64位系統)。
(2)、數組的起始地址:數組的內存分配通常從數組的第一個元素開始。數組的起始地址是數組第一個元素的地址。
(3)、連續存儲:數組的元素在內存中是連續存儲的,這意味着數組中的每個元素都直接跟在前一個元素的後面。
上面介紹了內存空間的分配,我們接下來看一下這段代碼的實現邏輯,rawArrayMemory: 這是一個 void* 類型的指針,通常指向分配的內存塊的起始位置。static_cast 運算符,將 rawArrayMemory 從 void* 類型轉換爲 Array* 類型。
1 Array* newArray = static_cast<Array*>(rawArrayMemory);
我們從以上對於數組的創建過程中,分析了C#、CoreCLR、C++等多個實現視角進行了簡單的分析。
1、分配對象頭:爲數組對象分配對象頭,對象頭包含一些元數據,如類型指針、同步塊索引等信息。
2、分配數組元素空間:分配存儲數組元素的內存塊,這是實際存儲數組數據的地方。
3、初始化數組元素:根據數組類型的要求,初始化數組元素。這可能涉及到對元素進行默認初始化,例如將整數數組的每個元素初始化爲零。
4、返回數組引用:返回指向數組對象的引用,使得該數組可以被使用。
當我們在託管代碼中聲明一個數組時,CoreCLR會在託管堆上動態分配內存,以存儲數組的元素,並在分配的內存塊中存儲有關數組的元數據,這些元數據通常包括數組的長度和元素類型等信息。CoreCLR通常會對分配的內存進行對齊,以提高訪問效率,這可能導致分配的內存塊略大於數組元素的實際大小。可能有同學會問爲什麼要進行內存的對齊,這裏就簡單的說明一下。
1、硬件要求:訪問特定類型的數據時,其地址應該是某個值的倍數。
2、提高訪問速度:對齊的內存訪問通常比不對齊的訪問更加高效。處理器通常能夠更快地訪問對齊的內存,因爲這符合硬件訪問模式。
3、減少內存碎片:內存對齊還有助於減少內存碎片,使得內存的使用更加緊湊。內存碎片可能導致性能下降,因爲它可能增加了分配和釋放內存的開銷。
4、硬件事務:一些處理器和操作系統支持原子操作,但通常要求數據是按照特定的對齊方式排列的。
上面介紹了爲什麼需要進行內存對齊,那麼對於CoreCLR的內部實現是如何進行內存對齊的呢?我們簡潔的介紹一下實現大流程:
1、使用操作系統的內存分配函數:使用操作系統提供的內存分配函數來分配託管堆上的內存。在Windows上可能是HeapAlloc。
2、對齊方式的指定:在調用內存分配函數時,會指定所需的對齊方式。通常是以字節爲單位的對齊值。常見的對齊值包括4字節、8字節等。
3、內存塊的對齊:內存分配函數返回的內存塊通常是按照指定的對齊方式進行對齊的。CLR確保返回的內存塊的起始地址符合對齊規則。
4、對齊規則的維護:維護對齊規則的信息,確保在託管堆上分配和釋放的內存塊都符合相同的對齊方式。
5、內存對齊的優化:對內存對齊進行一些優化,以提高訪問效率。例如,它可以在對象的佈局中考慮對齊規則,以減少內存碎片。
具體的數組內存分配策略可能會因CLR的版本和實現而異。不同的垃圾回收算法(如標記-清除、複製、標記-整理等)以及不同的GC代(新生代、老年代)也可能影響內存分配的具體實現。在.NET中,CLR提供了不同的垃圾回收器實現,例如Workstation GC和Server GC。Workstation GC通常適用於單處理器或少量處理器的環境,而Server GC適用於多處理器環境。這些GC實現可能在內存分配和回收方面有一些差異。
本文藉助了一個數組的初始化和賦值爲樣例,逐層的分析了數組對象運行時結構的獲取、對象MethodTable結構的分析、CoreCLR底層對數組內存結構的創建推導、C++對於內存的分配策略等視角,最後還綜合的介紹了CLRCore對於數組內存的創建步驟。
我們一直以來對於數組的內存分配,都有一個整體的認識,其特點是"相同類型、連續內存、順序存儲",對於其連續內存的特點記憶深刻,但是在內部如何實現進行的連續內存卻沒有整體的瞭解,C#內部是如何完成不同類型對象數組的運行時創建,在CoreCLR內部如何進行內存的劃分是沒有做過了解和推導,甚至於CoreCLR內部是如何維護一個對象的結構,很多時候都只是瞭解到運行時對象使用Type類型就可以得到,那麼CoreCLR內部如何來維護這個Type呢?其實很多時候沒有特點去了解過其結構。