所謂“體系結構”，也可以稱爲“系統結構”，是指程序員在爲特定處理器編制程序時所“看到”從而可以在程序中使用的資源及其相互間的關係。
體系結構最爲重要的就是處理器所提供的指令系統和寄存器組。指令系統分爲CISC（Complex Instruction Set
Computer，複雜指令集計算機）和RISC（Reduced Instruction Set
Computer，精簡指令集計算機）。其中，嵌入式系統中的CPU往往是RISC結構的，至於原因，在後面總結完CISC和RISC之後會給出。ARM
核就是RISC結構，由於其在嵌入式系統佔的比重比較大，所以ARM幾乎成爲RISC的代名詞了。寄存器組與採用的指令系統是密切相關的，從這一點上考
慮，體系結構中最爲重要的應該就是指令系統了。
在體系結構中，還有存儲器結構。現在有兩種：馮·諾依曼結構和哈佛結構。傳統的計算機採用馮·諾依曼結構，也稱爲普林斯頓結構，是一種將程序指令存儲器和
數據存儲器合併在一起的存儲器結構。主要特點是：程序和數據共用一個存儲空間；程序指令存儲地址和數據存儲地址指向同一個存儲器的不同物理位置；採用單一
的地址及數據總線；程序指令和數據的寬度相同。這樣，處理器在執行指令時，必須從存儲器中取出指令解碼，再取操作數執行運算，即使單條指令也要耗費幾個甚
至幾十個週期，那麼，在高速運算的時候，在傳輸通道上會出現瓶頸效應。目前使用馮·諾依曼結構的MPU和MCU有很多，如Intel
8086、ARM公司的ARM7、MIPS公司的MIPS處理器等。Harvard結構是一種將程序指令存儲和數據存儲分開的存儲器結構，Harvard
結構是一種並行體系結構，主要特點是：程序和數據存儲在不同的存儲空間中，即程序存儲器和數據存儲器是兩個相互獨立的存儲器，每個存儲器獨立編址、獨立訪
問。與兩個存儲器相對應的是系統中的4套總線：程序的數據總線和地址總線，數據的數據總線和地址總線。這種分離的程序總線和數據總線可允許在一個機器週期
內同時獲取指令字和操作數，從而提高了執行速度，使數據的吞吐量提高了1倍。又由於程序和數據存儲器在兩個分開的物理空間中，因而取指和執行能完全重疊。
目前使用Harvard結構的如所有的DSP處理器、Motolora公司的MC68系列、Zilog公司的Z8系列、ATMEL公司的AVR系列、
ARM公司的ARM9等。