CPU,GPU,TPU,NPU都是什麼?

CPU,GPU,TPU,NPU都是什麼?
什麼是CPU?

在這裏插入圖片描述
中央處理器(CPU),是電子計算機的主要設備之一,電腦中的核心配件。其功能主要是解釋計算機指令以及處理計算機軟件中的數據。CPU是計算機中負責讀取指令,對指令譯碼並執行指令的核心部件。中央處理器主要包括兩個部分,即控制器、運算器,其中還包括高速及實現它們緩衝處理器之間聯繫的數據、控制的總線。電子計算機三大核心部件就是CPU、內部存儲器、輸入/輸出設備。中央處理器的功效主要爲處理指令、執行操作、控制時間、處理數據。在計算機體系結構中,CPU 是對計算機的所有硬件資源(如存儲器、輸入輸出單元) 進行控制調配、執行通用運算的核心硬件單元。CPU 是計算機的運算和控制核心。計算機系統中所有軟件層的操作,最終都將通過指令集映射爲CPU的操作。

什麼是GPU?

在這裏插入圖片描述
圖形處理器(英語:Graphics Processing Unit,縮寫:GPU),又稱顯示核心、視覺處理器、顯示芯片,是一種專門在個人電腦、工作站、遊戲機和一些移動設備(如平板電腦、智能手機等)上做圖像和圖形相關運算工作的微處理器。

GPU使顯卡減少了對CPU的依賴,並進行部分原本CPU的工作,尤其是在3D圖形處理時GPU所採用的核心技術有硬件T&L(幾何轉換和光照處理)、立方環境材質貼圖和頂點混合、紋理壓縮和凹凸映射貼圖、雙重紋理四像素256位渲染引擎等,而硬件T&L技術可以說是GPU的標誌。GPU的生產商主要有NVIDIA和ATI。

GPU的構成相對簡單,有數量衆多的計算單元和超長的流水線,特別適合處理大量的類型統一的數據。但GPU無法單獨工作,必須由CPU進行控制調用才能工作。CPU可單獨作用,處理複雜的邏輯運算和不同的數據類型,但當需要大量的處理類型統一的數據時,則可調用GPU進行並行計算。

什麼是TPU?

在這裏插入圖片描述
TPU(Tensor Processing Unit)即張量處理單元,是一款爲機器學習而定製的芯片,經過了專門深度機器學習方面的訓練,它有更高效能(每瓦計算能力)。

因爲它能加速其第二代人工智能系統TensorFlow的運行,而且效率也大大超過GPU――Google的深層神經網絡就是由TensorFlow引擎驅動的。TPU是專爲機器學習量身定做的,執行每個操作所需的晶體管數量更少,自然效率更高。

TPU與同期的CPU和GPU相比,可以提供15-30倍的性能提升,以及30-80倍的效率(性能/瓦特)提升。

TPU每瓦能爲機器學習提供比所有商用GPU和FPGA更高的量級指令,這基本相當於7年後的科技水平。TPU是爲機器學習應用特別開發,以使芯片在計算精度降低的情況下更耐用,這意味每一個操作只需要更少的晶體管,用更多精密且大功率的機器學習模型,並快速應用這些模型,因此用戶便能得到更正確的結果。

什麼是NPU?

在這裏插入圖片描述
嵌入式神經網絡處理器(NPU)採用“數據驅動並行計算”的架構,特別擅長處理視頻、圖像類的海量多媒體數據。

NPU處理器專門爲物聯網人工智能而設計,用於加速神經網絡的運算,解決傳統芯片在神經網絡運算時效率低下的問題。

在GX8010中,CPU和MCU各有一個NPU,MCU中的NPU相對較小,習慣上稱爲SNPU。

NPU處理器包括了乘加、激活函數、二維數據運算、解壓縮等模塊。

乘加模塊用於計算矩陣乘加、卷積、點乘等功能,NPU內部有64個MAC,SNPU有32個。

激活函數模塊採用最高12階參數擬合的方式實現神經網絡中的激活函數,NPU內部有6個MAC,SNPU有3個。

二維數據運算模塊用於實現對一個平面的運算,如降採樣、平面數據拷貝等,NPU內部有1個MAC,SNPU有1個。

解壓縮模塊用於對權重數據的解壓。爲了解決物聯網設備中內存帶寬小的特點,在NPU編譯器中會對神經網絡中的權重進行壓縮,在幾乎不影響精度的情況下,可以實現6-10倍的壓縮效果。

附:
APU – Accelerated Processing Unit, 加速處理器,AMD公司推出加速圖像處理芯片產品。

BPU – Brain Processing Unit, 地平線公司主導的嵌入式處理器架構。

CPU – Central Processing Unit 中央處理器, 目前PC core的主流產品。

DPU – Deep learning Processing Unit, 深度學習處理器,最早由國內深鑑科技提出;另說有Dataflow Processing Unit 數據流處理器, Wave Computing 公司提出的AI架構;Data storage Processing Unit,深圳大普微的智能固態硬盤處理器。

FPU – Floating Processing Unit 浮點計算單元,通用處理器中的浮點運算模塊。

GPU – Graphics Processing Unit, 圖形處理器,採用多線程SIMD架構,爲圖形處理而生。

HPU – Holographics Processing Unit 全息圖像處理器, 微軟出品的全息計算芯片與設備。

IPU – Intelligence Processing Unit, Deep Mind投資的Graphcore公司出品的AI處理器產品。

MPU/MCU – Microprocessor/Micro controller Unit, 微處理器/微控制器,一般用於低計算應用的RISC計算機體系架構產品,如ARM-M系列處理器。

NPU – Neural Network Processing Unit,神經網絡處理器,是基於神經網絡算法與加速的新型處理器總稱,如中科院計算所/寒武紀公司出品的diannao系列。

RPU – Radio Processing Unit, 無線電處理器, Imagination Technologies 公司推出的集合集Wifi/藍牙/FM/處理器爲單片的處理器。

TPU – Tensor Processing Unit 張量處理器, Google 公司推出的加速人工智能算法的專用處理器。目前一代TPU面向Inference,二代面向訓練。

VPU – Vector Processing Unit 矢量處理器,Intel收購的Movidius公司推出的圖像處理與人工智能的專用芯片的加速計算核心。

WPU – Wearable Processing Unit, 可穿戴處理器,Ineda Systems公司推出的可穿戴片上系統產品,包含GPU/MIPS CPU等IP。

XPU – 百度與Xilinx公司在2017年Hotchips大會上發佈的FPGA智能雲加速,含256核。

ZPU – Zylin Processing Unit, 由挪威Zylin 公司推出的一款32位開源處理器。
————————————————

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章