一，CPU和GPU
1、概念區分
CPU，全稱central processing unit，即中央處理器，是一臺計算機的運算核心和控制核心， 主要是負責多任務管理、調度，它是領導者，負責指揮。
GPU，全稱Graphic Processing Unit，即圖像處理單元，是顯卡上的核心處理芯片，主要是用於大量的重複計算。一個GPU具有數千個計算核心，可以有效地並行處理工作負載。GPU不等於顯卡，顯卡是由GPU、顯存、供電模塊等組成的。
2、CPU和GPU對比
CPU和GPU由於設計目標不同，它們分別針對了兩種不同的應用場景。具體區別參考：https://www.cnblogs.com/biglucky/p/4223565.html
CPU主要是負責多任務管理、調度，它是領導者，負責指揮。CPU擅長邏輯控制、串行運算和通用類型數據運算。
GPU是專爲執行復雜的數學和幾何計算而設計的，在大量的重複計算、處理圖形渲染場景，性能優於CPU。
GPU是一種專用的單用途處理器，設計用途單一，GPU內核要比CPU內核小得多，GPU有成千上萬的專用內核，特別適合於處理數據並行計算的問題，算力驚人。擅長大規模並行計算，適用於一些計算量很大，但又沒什麼技術含量的重複計算應用場景，這些計算任務可拆分，任務之間沒有依賴性，互相獨立，例如破解密碼、挖礦和很多圖形學的計算。這些計算可以分解爲多個相同的簡單小任務。
CPU可以理解爲全棧工程師，也可以下基層幹活，但更適合當領導來指揮；
GPU可以理解爲搬磚的程序員，人多勢衆，咱們工人有力量。
二、why use GPU
1、大規模並行設計；
2、只作爲加速卡擴展到現有系統中，並不會取代系統cpu；
3、代碼設計有很多高併發操作；
三、why not use GPU
1、固定顯存大小GPU，不可升級或配置；顯存不足了尷尬。
2、電源大功率的需求；
3、仍然需要主機服務器和cpu來操作；
4、需要專門的開發工具，沒有運行標準的x86代碼： 開發工具單一，例如cuda，只支持NVIDIA卡，不支持其它GPU。
5、代碼設計可能很難進行並行運算。
6、應用場景不適合。 當前大多應用程序的瓶頸都在I/O處理上，不需要太高的運算處理性能，例如，大多數互聯網公司爲緩解業務壓力，都是部署集羣模式，瓶頸多在硬盤讀寫和網絡通信上。不適用於數據密集型和I/O密集型系統。
7、貴。
四、GPU使用場景：
1、AI深度學習
深度學習訓練和推理在線服務、圖像識別、圖像內容鑑別、語音識別。
2、視頻處理
大規模高清視頻轉碼、4K/8K高清直播、多人視頻會議、片源修復
3、科學計算
影視渲染製作、碰撞模擬、計算金融、基因工程、氣象預測
4、圖形可視化
工程設計、非線性編輯、遠程教育應用、3D展示
五、Thinking
多核cpu和多核gpu的出現意味着主流處理器芯片現在是並行系統。此外，它們的並行性繼續按照摩爾定律進行擴展。
真正的挑戰在於開發能夠透明地擴展並行性的應用軟件，以利用不斷增加的處理器內核數量，就像3D圖形應用程序透明地將並行性擴展到具有大量不同內核數量的多核gpu一樣。
GPU是垂直領域的一顆星。文本時代正在向語音時代和視頻時代過渡，至少在ToC方向，GPU還是很有前景的。